Od januara do početka maja, rešenja kompanije Kaspersky detektovala su više od 92.000 napada malvera i potencijalno neželjenih aplikacija širom sveta. Zajedničko im je da su svi bili maskirani kao u AI servise, agente ili AI alate.
Sajber-kriminalci su zloupotrebljavali poverenje u poznate brendove kako bi naveli žrtve da preuzmu zlonamerne fajlove, pri čemu su lažne ChatGPT aplikacije činile 49% svih detektovanih napada, dok su Claude i Gemini svaka činila po 18%. Kompanija je ove uvide predstavila na svojoj godišnjoj evropskoj konferenciji Kaspersky HORIZONS u Rimu, 19. maja, ističući rastuće rizike sa kojima se suočavaju organizacije i kritična infrastruktura.
Od početka godine, istraživači su identifikovali i više od 15.000 uzoraka malvera koji se predstavljaju kao AI softver. Među njima su i lažne verzije brzo rastućih alata kakav je OpenClaw. Među tim uzorcima nalazili su se i bankarski trojanci, špijunski softver, kradljivci bankarskih kredencijala, eksploiti i „download“ malvera sposobnih da instaliraju dodatni zlonameran sadržaj.
U maju 2026. godine, Global Research and Analysis Team (GReAT) kompanije Kaspersky otkrio je i novu kampanju povezanu sa APT grupom Silver Fox. U ovoj operaciji napadači su distribuirali lažne Claude AI aplikacije za Windows, macOS i Linux. Ciljali su posebno korisnike koji traže pristup AI alatima. Nakon pokretanja, zlonamerni instaleri su neprimetno instalirali malver na uređaje žrtava, omogućavajući dugoročan pristup kompromitovanim sistemima i osetljivim informacijama.
Ranije istrage identifikovale su infostealere maskirane kao Claude Code, OpenClaw i druge servisne AI alate. To ukazuje na širi trend u kojem pretnje sve više zloupotrebljavaju poverenje u široko korišćene AI platforme i servise.
Lanci snabdevanja postaju ključna meta
Prema pomenutom istraživanju, 99% kompanija planira da koristi AI u svojim bezbednosnim procesima. Istovremeno, napadači sve češće ciljaju lance snabdevanja, open-source AI alate i pouzdane AI brendove. Čine to kako bi dobili pristup korporativnim sistemima i osetljivim podacima. Kompromitovanje lanca snabdevanja postaje jedan od najkritičnijih rizika povezanih sa usvajanjem AI tehnologija. Kako organizacije postaju oslonjene na međusobno povezane AI ekosisteme, jedna kompromitovana karika može izložiti čitave mreže i poremetiti operacije više organizacija.
Nedavni primer uključuje kompromitovanje biblioteke LiteLLM, široko korišćene Python biblioteke za pristup AI modelima. Ova biblioteka navodno ima oko 97 miliona mesečnih preuzimanja širom sveta. Zlonamerni kod ugrađen u alat bio je sposoban da krade kredencijale baza podataka, fajlove kripto novčanika i druge osetljive informacije.
Sajber-kriminalci takođe maskiraju zlonamerne alate kao legitimna AI rešenja, dodatke i servise koji deluju pouzdano. Tako podstiču korisnike da dobrovoljno otkrivaju osetljive podatke ili instaliraju malver.
AI sistemi pod novim bezbednosnim rizicima
Pored tradicionalnog malvera i pretnji u lancu snabdevanja, organizacije se suočavaju i sa rizicima inherentnim samim AI sistemima. To uključuje curenja podataka, pristrasne ili manipulisane skupove podataka, napade „trovanjem“ podataka (data poisoning), prompt injection, kao i nepredvidivo ponašanje modela ili halucinacije.
Stručnjaci takođe upozoravaju na rastuću pretnju tzv. zlonamernih veština – skrivenih, štetnih sposobnosti ugrađenih u AI tokove rada. One mogu da izgledaju kao legitimni dodaci, promptovi ili ekstenzije. Ipak, dizajnirane su da tajno izvršavaju zlonamerne radnje poput eksfiltracije podataka, izviđanja ili manipulacije izlazima.
Automatizacija širi mogućnosti i povećava rizik
Organizacije sve više očekuju da AI poboljša operativnu efikasnost. Prema još jednom istraživanju, 57% kompanija očekuje bolje mogućnosti detekcije pretnji kroz AI. Gotovo polovina (49%) očekuje automatizovane mogućnosti reagovanja.
Međutim, automatizacija može doneti i nove rizike. Greške koje generišu AI sistemi mogu se brzo skalirati, a automatizovane odluke mogu se donositi bez dovoljno nadzora. Stručnjaci naglašavaju da ljudski faktor ostaje jedan od najznačajnijih bezbednosnih rizika, uključujući preterano oslanjanje na AI tehnologije, zloupotrebu sistema i nedostatak operativne opreznosti.
Nedostatak kvalifikovanog sajber-bezbednosnog kadra, zajedno sa razvojem AI pretnji i izazovima u kvalitetu podataka, čine strukturisanu strategiju implementacije AI neophodnom. Kombinacija AI automatizacije i ljudske ekspertize omogućava organizacijama da upravljaju brzo rastućim količinama podataka uz istovremeno održavanje kontrole, tačnosti i otpornosti u AI okruženju.
