Kad se nedavno na društvenim mrežama pojavila snimka eksplozije ispred Pentagona koju je generirao AI, nakratko smo dobili uvid u katastrofu digitalnih informacija na koju su nas godinama upozoravali istraživači umjetne inteligencije. Slika je bila očito lažna, ali to nije zaustavilo nekoliko prominentnih računa poput ruske medijske agencije RT i oponašatelja Bloomberga @BloombergFeed da prenesu tu sliku.
Lokalna policija zaprimila je izbezumljene pozive od ljudi koji su vjerovali da se događa novi napad nalik 11. rujnu. Kaos koji je nastao iz toga stvorio je kratki šok na burzi.
Fijasko deepfake napada na Pentagon se riješio za nekoliko sati, ali moglo je biti znatno gore. Ranije ove godine, kognitivni psiholog i kompjuteraš Geoffrey Hinton, kojeg neki smatraju „kumom“ AI-ja, rekao je da ga brinu sve kvalitetnije i vjerodostojnije slike koje je generirao AI. Hinton je dodao da bi to moglo dovesti do toga da prosječna osoba možda „više neće moći znati što je istina“.
Startupovi i etablirane AI tvrtke se utrkuju kako bi razvile nove alate za detekciju AI deepfake materijala kako bi spriječili da se to dogodi. Neki od tih projekata razvijaju se već godinama, ali recentna eksplozija generativnog AI-ja u široj javnosti koju su uzrokovale OpenAI-jeve platforme DALL-E i ChatGPT povećale su osjećaj hitnosti te veće svote investicija za razvoj načina kako prepoznati AI obmane.
Tvrtke koje su se našle u toj utrci traže rješenja na svim razinama stvaranja sadržaja. Neke, poput startupa Optic i Intelova FakeCatch-a, fokusiraju se na pronalazak AI utjecaja na audio i video materijale. Druge tvrtke, poput Fictitious.AI-ja, usredotočili su svoj rad na tekstove koje su generirali AI chatbotovi. U nekim slučajevima, trenutni sustavi za detekciju obavljaju svoj zadatak vrlo dobro, ali eksperti za tehnološku sigurnost poput Arjuna Narayana, bivšeg šefa Google Trust and Safety tima, smatraju da ti alati i dalje zaostaju.
„Industrija za zaštitu i sigurnost i dalje treba nadoknaditi zaostatak u načinima kako prepoznati sintetičke medije u odnosu na ne-sintetičke“, upozorio je Narayan u intervjuu za Gizmodo.
„Mislim da će detekcijske metode vjerojatno nadoknaditi taj zaostatak kako će se AI nastaviti razvijati, ali to je područje koje zahtijeva više investicija i više istraživanja“, dodao je.
Tvrtke koje se natječu u toj utrci su: Intel sa svojom FakeCatcher tehnologijom, za koju tvrde da može razaznati AI klipove u 96% slučajeva; Microsoft, koji je još 2020. najavio Microsoft Video Authenticator koji analizira foto i video materijale kako bi razaznao jesu li digitalno manipulirani; DARPA, tvrtka američkog ministarstva obrane; OpenAI, koji je skrenuo pozornost šire javnosti na generativni AI, sad pokušava spriječiti da se ti proizvodi ne otmu kontroli; Optic, startup koji tvrdi da može identificirati slike koje su generirali Midjourney, Stable Diffusion, DALL-E i Gan.ai; GPTZero, alat koji je prema New York Timesu koristilo više od 6.000 profesora s Harvarda, Yalea i Sveučilišta Rhode Island, a koji navodno može prepoznati je li određeni tekst generirao OpenAI-jev ChatGPT, GPT3, GPT4 ili Googleov Bard; Sentinel koji na četiri različite razine pokušava razaznati je li određeni sadržaj deepfake; Reality Defender koji omogućava organizacijama da brzo i jednostavno skeniraju audio, foto i video materijal; Attestiv koji „forenzički skenira“ foto i video materijale, dokumente te telemetriju poslanu tvrtki; Blackbird.ai jedna je od najstarijih tvrtki u ovome polju koja koristi AI kako bi detektirala deepfake materijale; ranije spomenuti Fictitious.AI za analiziranje teksta i Sensity AI, nizozemska tvrtka koja tvrdi da može detektirati AI generirane slike iz modela poput DALL-E, Stable Diffusion i Midjourney te tekstova iz OpenAI-ovog GPT3.
