Tehnologije prepoznavanja lica postaju sve više integrisane u industrije kakve su bezbednost, granična kontrola, zdravstvo, finansije i marketing. Napredak generativne veštačke inteligencije istovremeno omogućava stvaranje visoko realističnih sintetičkih slika i sofisticirane izmene lica. Dodatno, AI aplikacije se danas široko koriste za poboljšanje slika, retuširanje, uređivanje lica i transformaciju identiteta. To često proizvodi rezultate koji su gotovo nerazlučivi od autentičnih fotografija. Upravo tu i nastaju problemi sistema za prepoznavanje lica u AI doba.
Kako bi bolje razumeli na koji način sistemi za verifikaciju lica reaguju na ovakve transformacije, Kaspersky GReAT stručnjaci su tokom Kaspersky Horizons konferencije sprovli nezavisan eksperiment koristeći široko prihvaćenu biblioteku otvorenog koda za računarski vid i mašinsko učenje. Ova biblioteka se često primenjuje u istraživanjima prepoznavanja lica i automatizovanim sistemima vizuelne analize.
Tokom eksperimenta, originalne portretne fotografije obrađene su alatima generativne AI kako bi se simulirali scenariji starenja i podmlađivanja. U mnogim slučajevima, dobijene slike su ljudskim posmatračima delovale kao potpuno različite osobe. Uprkos značajnim promenama, sistem za prepoznavanje lica dosledno je povezivao AI-modifikovane slike sa originalnim identitetima u svim nezavisnim test slučajevima.
Eksperiment je uključivao AI-generisane scenarije starenja i podmlađivanja, poređenja vizuelno različitih portreta i verifikaciju pomoću savremenog softvera za prepoznavanje lica. Nalazi sugerišu da savremeni sistemi za prepoznavanje lica ne zavise od površinskih vizuelnih sličnosti koje opaža čovek, već od dubljih geometrijskih i strukturnih karakteristika lica. Čak i kada se izgled lica značajno promeni, algoritmi za prepoznavanje i dalje mogu da detektuju postojane biometrijske markere koji ostaju stabilni uprkos sintetičkim transformacijama.
Problem iz ugla sajber bezbednosti
Iz perspektive sajber bezbednosti, rezultati ukazuju na sve izraženiji dvostruki rizik. S jedne strane, oni pokazuju otpornost sistema za biometrijsku autentifikaciju na određene oblike AI vizuelne manipulacije. S druge strane, otvaraju važna pitanja o potencijalnoj zloupotrebi generativne AI za krađu identiteta. Takođe, za stvaranje sintetičkih identiteta i zaobilaženje procesa verifikacije zasnovanih na ljudskoj proceni.
„Iako eksperiment ne predstavlja opsežnu studiju, on je dokaz koncepta potencijalnog AI napada o kojem industrija treba da razmišlja. Ilustruje ključnu praktičnu implikaciju: AI-generisane transformacije lica mogu da zadrže biometrijski identitet čak i kada ljudska percepcija te slike tumači kao potpuno različite osobe. Ovo stvara nove izazove za digitalno poverenje, verifikaciju identiteta i prevenciju prevara u eri brzo razvijajućih sintetičkih medija“, objašnjava Maher Jamout, vodeći Kaspersky GReAT istraživač.
Kako tehnologije sintetičkih medija nastavljaju da se razvijaju, istraživači naglašavaju da ovi trendovi zahtevaju povećanu pažnju developera sistema digitalnog identiteta. Osim njih i stručnjaka za sajber bezbednost i regulatornih tela. Na taj način bi se problemi sistema za prepoznavanje lica smanjili. Istovremeno, obezbedilo bi se da biometrijske tehnologije ostanu bezbedne, pouzdane i otporne na nove AI-vođene pretnje.
