Generativ AI och dess påverkan på nätfiskebedrägerier

Felfria mejl med en osedvanligt övertygande jargong förändrar nu nätfiskets landskap. Generativ AI (GenAI) har blivit ett kraftfullt verktyg för cyberbrottslingar, som nu kan imitera betrodda organisationer med stor precision.

Enligt 2025 års Data Breach Investigations Report (DBIR) från Verizon Business har andelen AI-genererade nätfiskemejl mer än fördubblats på två år. Redan 2023 uppskattades andelen till 5 procent, vilket tydligt visar en ökad sofistikering.

Hackare använder avancerade språkmodeller för att anpassa språket och tonen i meddelanden, något som gör dem svåra att skilja från legitim kommunikation. Detta ökar risken för att ovetande användare oavsiktligt lämnar ut känslig information.

Hotet är inte bara externt utan även internt. DBIR 2025 visar att 15 procent av de anställda regelbundet använder generativa AI-plattformar från arbetsgivarens enheter, vilket innebär risker genom obehöriga konton som kringgår IT-säkerhet.

Denna praktik medför allvarliga risker, där anställda ofta laddar upp känsligt material som kunddata och interna dokument. När dessa data väl är uppladdade kan de användas för att träna modeller eller exponeras vid säkerhetsbrister.

En ytterligare utmaning är AI:s växande integration i mobila operativsystem. Funktioner som röstassistenter och kontextbaserade förslag kan oavsiktligt utgöra angreppspunkter i BYOD-miljöer, där personlig och företagsinformation samexisterar.

Detta hot är inte längre hypotetiskt. Under 2025 inträffade ett intrång där känslig information, inklusive användaruppladdade frågor, exponerades. Det visar att även GenAI-plattformar kan bli mål för angrepp och ökar den potentiella exponeringen.

Riskerna har nu utvecklats bortom individuellt missbruk och omfattar även den underliggande infrastrukturen av AI-lösningar.