Ny rapport belyser AI:s säkerhetsrisker i infrastrukturen

Trend Micro har idag offentliggjort en rapport som belyser de växande riskerna på infrastrukturnivå kopplade till hastigt uppbyggda AI-system. För att undvika datastöld, utpressning och andra cyberhot behöver företag nu implementera effektiva best practice-modeller för att utveckla och installera säkra system.

”AI kan vara århundradets möjlighet för företag världen över, men de som skyndar in i omställningen utan att också vidta nödvändiga säkerhetsåtgärder riskerar att orsaka mer skada än nytta”, säger hon. Som rapporten påpekar, byggs det för mycket AI-infrastruktur med osäkra eller opatchade komponenter, vilket gör att hotaktörer kan slå till.

Rapporten betonar flera säkerhetsutmaningar relaterade till AI:

Sårbarheter i kritiska komponenter: Företag som vill implementera AI-applikationer måste använda specifika programvarukomponenter och ramverk. Sårbarheter har upptäckts i viktiga komponenter som ChromaDB, Redis, NVIDIA Triton och NVIDIA Container Toolkit.

Oavsiktlig exponering mot internet: Ofta är sårbarheterna resultat av hastiga implementeringar, vilket gör att AI-system av misstag exponeras mot internet och blir lätta mål för cyberkriminella. Trend Micro har identifierat över 200 ChromaDB-servrar, 2 000 Redis-servrar och mer än 10 000 Ollama-servrar som varit utan autentisering och exponerade för internet.

Sårbarheter i öppen källkod: Många AI-plattformar använder öppen källkod, som ofta innehåller sårbarheter som kan infiltrera produktionssystem, vilket gör dem svåra att upptäcka.

Containerbaserade svagheter: En stor del av AI-infrastrukturen dras med samma säkerhetsproblem som drabbar moln- och containermiljöer. Det är avgörande att företag rensar inmatningar och övervakar körsbeteendet för att minska dessa risker.

Det finns fortfarande många obesvarade frågor om AI-modeller och deras användning. Det är nu lättare än någonsin att få information om enheternas synlighet och vilka applikationer som används. Utvecklare och deras kunder måste dock sträva efter att balansera säkerhet och tid till marknaden för att hantera de nämnda riskerna.

Konkreta åtgärder inkluderar: förbättrad sårbarhetsskanning och patchningsrutiner, kontinuerlig inventering av alla programvarukomponenter inklusive tredjepartsprodukter, säkra best-practice för containerhantering samt konfigurationskontroller för att förhindra att AI-infrastrukturkomponenter som servrar exponeras mot internet.

För mer information, läs rapporten Trend State of AI Security Report, 1H 2025 här.