Framtiden för autonom AI inom cybersäkerhet

Det finns en potentiell framtid där helt automatiserade cyberattacker, styrda av AI, kan bli en verklighet. För att möta sådana utmaningar behöver vi utveckla våra försvarssystem. ”Den positiva sidan av utvecklingen är att möjligheterna att försvara sig med hjälp av AI ser ut att förbättras i samma takt,” säger hon.

Cybersäkerhetsföretag och hotaktörer befinner sig i en ständig kapprustning. Den centrala regeln är att tekniska framsteg som underlättar attacker också gör försvararna starkare. Detta har blivit tydligt i takt med att AI och maskininlärning har utvecklats under de senaste tre åren.

Hotaktörerna drar nytta av AI för att hitta nya sätt att infiltrera sina offer, medan det samtidigt har blivit lättare att upptäcka hot genom förbättrade säkerhetsåtgärder. Autonom AI, som är ett steg framåt inom cybersäkerhet, möjliggör verktyg som självständigt kan utföra uppgifter.

Innan autonom AI kan genomföra omfattande cyberattacker krävs dock betydande framsteg. För att lyckas med sådana attacker måste AI:n förstå alla miljöer, vilket är en stor utmaning. Än så länge är AI-modeller inte tillräckligt avancerade för att genomföra storskaliga attacker utan mänsklig övervakning. ”De AI-drivna attacker vi ser idag är långt ifrån så avancerade,” säger hon.

Trots detta är det möjligt att agentbaserad AI kan förstärka attacker genom att imitera röster eller bilder. Den positiva nyheten är att autonom AI också kan användas för att förbättra hotjakten. AI kan öka säkerhetsanalytikernas förmåga att fokusera på de mest kritiska hoten.

Även om vi kan se användning av autonom AI i begränsade scenarier, är det fortfarande långt kvar innan ett helt autonomt säkerhetsövervakningscenter kan bli verklighet. Det krävs stora mängder kvalitetsdata för att träna AI-modeller, och människor behövs fortfarande för att prioritera incidenter och bidra med kreativitet.

Medan hypen kring autonom AI är förståelig, befinner vi oss fortfarande i ett tidigt skede av dess utveckling. AI-drivna cyberattacker kommer troligen förbli relativt osofistikerade på kort sikt. Företag och myndigheter bör därför investera i både AI-drivna verktyg och mänskliga resurser för att stå rustade inför en framtid där risken för automatiserade cyberattacker ökar.