"Vi är 10 steg bakom cyberbrottslighet": Francisco Valencia, VD för Secure&IT, om utmaningen med AI-attacker

I går morse gick jag till en ny upplaga av Secure&IT cybersecurity-konferensen i Madrid med en ganska tydlig idé: att höra hur företag använder artificiell intelligens för att bättre försvara sig och göra livet svårt för cyberkriminella.

Det var en rimlig förväntan. AI har blivit ett av sektorns stora löften och det verkade logiskt att tro att en stor del av samtalet skulle kretsa kring dess nya defensiva förmåga. Men dagen lämnade en mycket djupare läsning.

Det som rör sig är inte bara ytterligare ett tekniskt lager ovanpå de vanliga systemen. Det är själva cybersäkerhetens mentala ram. Förändringshastigheten, förfining av attacker och införandet av nya algoritmbaserade verktyg tvingar företag att ompröva allt från hur de patchar mjukvara till hur de förutser hot.

Känslan där, när man lyssnade på högtalarna, var tydlig: vi står inte inför en enkel uppdatering av verktyg, utan snarare en förändring av eran. Francisco Valencia, generaldirektör för Secure&IT, som jag kunde intervjua för ett tag sedan, lade den idén på bordet så fort han började med en särskilt grafisk fras: "Vi har alltid sagt att inom cybersäkerhet är vi ett steg bakom cyberbrottslighet och nu är vi 10 steg bakom cyberbrottslighet." Uttalandet var överraskande för sin grovhet, men det hjälpte också till att organisera samtalet. Att titta på den nackdelen direkt, utan att sälja falska säkerheter, kan vara det första steget för att förstå vad som kommer.

Cybersäkerhet väntade på en allierad, men cyberbrottslighet har också hittat en. Nyckeln är att AI inte bara har förändrat de tillgängliga verktygen, utan balansen i spelet. Valencia uttryckte det grovt eftersom cyberkriminella ur hans synvinkel har tagit fart medan många företag fortfarande försöker bestämma sig för hur de ska använda AI på ett säkert, användbart och styrt sätt.

Denna skillnad i rytm förklarar en bra del av diagnosen. Angripare behöver inte lösa varje intern debatt i en organisation, motivera varje distribution eller vänta på en perfekt företagspolicy. De behöver bara testa, automatisera och utnyttja det som fungerar.

Talaren började med att ta upp en av de mest störande delarna av detta nya scenario: Dark LLM.

LLM, eller stora språkmodeller, är det tekniska lagret som driver applikationer som ChatGPT, Copilot eller Gemini: system som kan tolka instruktioner, hjälpa till att programmera eller lösa komplexa uppgifter. Företagen som utvecklar dem inför gränser, filter och skyddsräcken för att förhindra skadlig användning, både för säkerheten och för de etiska kriterier som de utformar dessa system med. Dark LLMs, som FraudGPT och WormGPT, är baserade på en mycket farligare logik: att erbjuda liknande möjligheter, men utan dessa barriärer.

Det intressanta är att denna logik inte alltid är beroende av att skapa en ny modell från grunden. Valencia pratade också om jailbreaking, ett sätt att försöka komma runt gränserna för konventionell AI genom noggrant konstruerade instruktioner. Det är inte bara att be ett system att göra något förbjudet, utan att linda in den begäran i ett sammanhang som driver det att svara där det borde sluta.

I praktiken kan resultatet bli liknande: kapaciteten hos en kraftfull modell ställs till tjänst för användningar som stora företag försöker blockera. Detta språng förstås mycket väl när vi går från verktyget till bedrägeri. I flera år har vi förknippat många bedrägerikampanjer med klumpiga, massiva och lättupptäckta meddelanden, men AI tillåter oss att ändra skalan utan att ge upp personalisering.

VD:n för Secure&IT sammanfattade det med en mycket tydlig fras: "Jag behöver inte skicka den nigerianska spam till 20 miljoner människor som säger att jag har blivit kär i 20 miljoner för att se vem som kommer att bita. Jag skickar samma mejl till 20 miljoner, men jag berättar för var och en vad de vill höra." Det är skillnaden: attacken kan fortfarande vara massiv, men den behöver inte längre verka generisk. Attacken kan fortfarande vara massiv, men den behöver inte längre kännas generisk.

Under presentationen dök också en term upp som fångade min uppmärksamhet: polymorf skadlig kod. Det kan låta väldigt tekniskt, till och med mer typiskt för ett samtal mellan analytiker än en artikel för att förstå vad som händer, men det hjälper till att landa något viktigt. Vi pratar inte längre bara om ett skadligt program som kommer in i en dator och försöker upprepa sig på andra datorer med samma beteende.

Det är något mycket mer sofistikerat: ett hot som kan nå en maskin, läsa av miljön, identifiera vilka försvar som finns framför den och generera en version anpassad till det specifika scenariot. Konsekvensen för säkerhetsteam är uppenbar: om varje maskin får en annan variant blir det mycket svårare att upptäcka mönster, relatera signaler och rekonstruera attacken. Det är inte längre bara en fråga om att hitta en skadlig fil och följa dess spår över nätverket.

I ett scenario där "viruset på varje dator är olika", kan kampanjen ha samma mål, men lämna olika spår på varje dator. Och när spåren förändras är analysen inte längre linjär. Secure&IT ägnade sin cybersäkerhetskonferens i år åt att analysera hur AI förändrar sektorn.

Valencias budskap om automatisering var ett av dagens tydligaste: AI tar tid från försvaret. I flera år har företag haft en viss marginal mellan att upptäcka en sårbarhet, skapa en exploatering och faktiskt utnyttja den. Den marginalen kunde vara ofullkomlig, men den fanns.

Det gjorde att du kunde organisera analys, prioritera patchar och uppdatera system vart visst antal månader. Den fras som bäst kondenserar förändringen är direkt: "Tills nu var tiden ett vapen för att försvara oss själva och nu är tiden inte längre ett vapen för att försvara oss själva." Konsekvensen är mycket praktisk. Om en organisation tidigare kunde utföra sårbarhetsanalyser varannan månad och planera uppdateringar med lite lugn, börjar det schemat att missa.

Enligt experter kan ett AI-verktyg söka efter en sårbarhet, identifiera den, förbereda attackvägen och utföra den på några minuter. När "ingen tid går nu" är att uppdatera sent inte längre bara dålig praxis: det kan innebära att försvaret anländer efter att attacken har inträffat. Diagnosen markerar redan marken och förbereder den underliggande frågan: hur försvarar sig en organisation när det gamla reaktionsfönstret håller på att stängas.

I Xataka Your DNI, till salu för 15 euro på den mörka webben: hur mycket är vår stulna data värd på internet svarta marknaden En annan punkt på dagen fick mig att fundera eftersom det pekar på en mindre synlig typ av hot, men med enorm potential för skada: läckor som aldrig har inträffat. Tills för inte så länge sedan var det tekniskt sett mycket mer komplext att tillverka en falsk databas, massiv och trovärdig nog att framstå som stulen information. Nu, med AI, börjar det scenariot vara mycket närmare dem som vill orsaka skada.

Vi pratar om att generera syntetiska register, förpacka dem som om de kom från ett företag eller en offentlig instans och låta misstanken sköta resten. För problemet är inte bara om intrånget har funnits, utan den anseendeskada som kan uppstå samtidigt som man bevisar att den aldrig inträffade. När AI blir integrerad i företag förändras också omkretsen.

Vi pratar inte längre bara om att skydda servrar, bärbara datorer eller e-postkonton, utan om att skydda den data som matar modellerna och agenterna som börjar fatta beslut eller föreslå åtgärder. Under dagen dök en särskilt relevant idé upp: dataförgiftning. Om ett AI-system förlitar sig på interna dokument för att sammanfatta, besluta eller upptäcka en attack, kan ändring av dessa dokument ändra systemets eget svar.

Attacken är i så fall inte mot gränssnittet, utan mot den information som AI:n anser vara tillförlitlig. Hugo Llanos, från Secure&IT, betonade under sin presentation att industrisektorn fortfarande har mycket utrymme att förbättra sin säkerhet. Det är ingen hemlighet att många redan förlitar sig på artificiell intelligens för att arbeta bättre, studera, sammanfatta dokument, skriva tydligare eller lösa uppgifter som tidigare tagit mycket mer tid.

Faktum är att en bra del av revolutionen vi upplever inte är att AI har dykt upp från ingenstans, utan att tillgången till dessa verktyg har blivit massivt demokratiserad. Tekniken föddes inte igår, men nu finns den i webbläsaren, på mobilen och i tjänster som vem som helst kan prova på några minuter. Och det börjar en ny spänning för företag: vad för en anställd kan vara en omedelbar hjälp, för organisationen kan bli en blind zon.

Det är territoriet för Shadow AI. Problemet är inte att en arbetare vill bli mer produktiv, utan att de använder AI-verktyg som ligger utanför företagets kontroll. Det kan uppstå när man sammanfattar en rapport, klistrar in fragment av ett internt dokument, konsulterar kunddata eller ber om hjälp med att förbereda en presentation med känslig information.

Valencia förklarade det utifrån en mycket specifik oro: varje anställd kan ha "sin egen", sin egen artificiell intelligens, till och med betalat av sig själv, och det gör det mycket svårare att veta vilken information som kommer ut, vilken tjänst den når och under vilka förhållanden den behandlas. Roberto Pérez, från Bitdefender, visade ett praktiskt exempel på användningen av PHASR under dagen. I detta försök att tänka om försvaret var ett av förslagen som verkade intressant för mig PHASR, från Bitdefender, presenterat av Roberto Pérez.

Tanken är inte att blockera verktyg urskillningslöst, utan att minska attackytan enligt varje användares verkliga beteende. PowerShell-exemplet förklarar det väl: det är ett legitimt Windows-verktyg, mycket användbart för administratörer och tekniska team, men också mycket exploaterbart av angripare i Living off the Land-tekniker, där funktioner som redan finns i systemet missbrukas. Om en HR-person inte behöver det för sitt dagliga arbete, kan en begränsning av dem till den specifika profilen stänga en dörr utan att påverka dem som behöver använda den.

Det är bara ett exempel, och det finns säkert många andra utanför denna dag och denna artikel, men det pekar på en relevant idé: om attacken blir mer adaptiv måste försvaret också lära sig att vara det. I Xataka Det finns ett blomstrande jobb i artificiell intelligenss era: cybersäkerhetsexpert. Dagen lämnade mig inte med känslan av att det finns ett enkelt svar på allt detta.

VD:n för Secure&IT sammanfattade det med en vettig varning: det finns "ingen magi eller enskild lösning" och inte heller en knapp som kan göra en organisation immun mot AI-baserade strategier. Det lämnade dock en ganska tydlig bild av hur cyberbrottslingar har kunnat röra sig snabbt för att dra nytta av dessa verktyg och hur det "steget" av underläge som det talades om tidigare nu har blivit en mycket större lucka. Många frågor är fortfarande öppna, men en slutsats verkar svår att undvika: den cybersäkerhet som fungerade tills nyligen räcker inte längre på egen hand.

Att minska det avståndet kommer att kräva tekniska, organisatoriska, juridiska och kulturella förändringar som går långt utöver ett enda verktyg. Bilder | Xataka I Xataka | De mest använda lösenorden i Spanien hackas på några sekunder: om ditt finns på den här listan har du ett problem