Värske uuring NewsGuardilt näitas mõningate maailma juhtivate tehisintellekti vestlusrobotite märkimisväärseid puudujääke AI-ga loodud video sisu tuvastamisel. Uuring näitas, et suuremad tehisintellekti vestlusagendid, sealhulgas OpenAI ChatGPT, xAI Grok ning Google Gemini, jätavad sageli märkamata tehisintelleidi poolt loodud videoid, eriti kui need videod ei ole selgelt märgistatud. Uurimus hõlmas põhjalikku testimist, kuidas vestlusrobotid reageerivad AI-ga loodud videodele ilma vesimärkideta, mis näitaks nende sünteesitud päritolu. Tulemustest oli silmatorkav: enamikul juhtudel – vahemikus 78% kuni kuni isegi 95% – ei suutnud vestlusrobotid õigesti tuvastada, et videod on AI-ga loodud. See tähendab, et selliste videote kohta küsimisel käsitlesid need tehisintellektisüsteemid sageli neid ehtsatena, inimeste loodutena, hoolimata nende kunstlikust taustast. Even kui videosid märgistati vesimärkidega, mis näitasid nende AI-ga loodud olemust, jäid kaheksast vestlusrobotist – ChatGPT ja Grok – need sageli märkamatuks või lükkasid need mitte alati kohe ümber, näidates jätkuvalt püsivaid nõrkusi praeguse vestlus-AI tuvastamisvõime osas. Google Gemini toimetas paremini, kuid ka see koges teatud testitingimustes raskusi. Need tulemused on eriti olulised, arvestades AI-ga loodud multimeedia sisu kasvavat levikut internetis, mis seab proovile meetmed sisu moderatsiooni, valeinformatsiooni tõkestamise ning digitaalse meediamaterjali autentsuse kontrolli alal. AI vestlusrobotite võimet AI-ga loodud videote usaldusväärselt tuvastada nähakse riskina, kuna nad võivad pettuse ohvriks langeda või teadmata levitada kontrollimata materjali.

Digitaalsete forensikute ja meedia usaldusväärsuse ekspertide sõnul on vaja kiiret täiustusi detektsioonitehnikates, et jätkata sammu tehisintellekti video loomise arengu kiirusega. Nad rõhutavad, et täiustused on vajalikud mitte ainult vestlusrobotite algoritmides, vaid üldse digitaalsete sisu kontrolli tööriistade laiema maastiku täiustamiseks. See probleem rõhutab ühiskondlikku väljakutset, kuidas hallata ja vähendada sünteetilise meedia – sageli nimetatava deepfake’ide – negatiivseid mõjusid, mis võivad kasutada pettuseks, valeinfo levitamiseks või usaldusküsimuste kahtluse alla seadmiseks. Uuring kutsub üles suuremale koostööle tehisintellekti arendajate, küberturvalisuse spetsialistide ja regulatiivsete asutuste vahel, et välja töötada standardiseeritud märgistusi ja detektsiooniprotokolle, mida saaks universaalselt kasutada. Sellised meetmed soodustaksid selget AI-ga loodud sisu märgistamist ning annaksid digitaalsetele platformidele võimaluse tegeleda sünteetiliste videote ja nende riskidega. Samuti on oluline kasutajate ning sisuloojete pidev haridus, et nad suudaksid paremini tuvastada AI-ga loodud sisu, vähendades manipuleerimisriske. Kokkuvõttes paljastab NewsGuardi uuring praeguse tehisintellekti tehnoloogia olulise puudujäägi. Kuna sünteetilised meediumid muutuvad üha keerukamaks ja kättesaadavamaks, on hädavajalik parendada AI vestlusrobotite võimet õigesti eristada AI-ga loodud videoid, et kaitsta info terviklikkust. Nende väljakutsete lahendamine on võtmetähtsusega usaldusväärsete digitaalse keskkondade loomisel ning vastutustundliku tehisintellekti kasutamise tagamisel meedia loomisel ja levitamisel.