Nedávná studie společnosti NewsGuard odhalila významné nedostatky u některých z nejvýznamnějších AI chatbottů na světě, pokud jde o rozpoznávání videí vytvořených umělou inteligencí. Výzkum ukázal, že hlavní konverzační AI, včetně ChatGPT od OpenAI, Groku od xAI a Gemini od Google, často nedokáže rozpoznat videa, která jsou produkována umělou inteligencí, zvláště pokud tato videa postrádají jasné označení. Studie zahrnovala důkladné testování reakcí chatbottů na videa generovaná AI bez vodotisků, které by signalizovaly jejich umělý původ. Výsledky byly překvapivé: ve většině případů — od 78 % až po 95 % — chatboti nesprávně identifikovali tato videa jako AI-vytvořená. To naznačuje, že když se jich ptali na povahu takových videí, tyto AI systémy je často považovaly za autentický, lidsky vytvořený obsah, přestože měl jejich původ umělý charakter. I když byly přítomny vodotisky upozorňující na to, že videa byla generována AI, dva ze tří chatbottů — ChatGPT a Grok — i nadále často selhávaly v jejich spolehlivém rozpoznání. Nesprávně klasifikovaly značnou část videí s vodotisky, což odhaluje přetrvávající slabiny v současných schopnostech konverzační AI v detekci takových materiálů. Gemini od Google si vedl o něco lépe, ale i on měl potíže za určitých testovacích podmínek. Tyto výsledky jsou zvlášť důležité vzhledem k rostoucí přítomnosti multimediálního obsahu vytvářeného AI online, což představuje výzvu v oblasti moderování obsahu, boje s dezinformacemi a ověřování pravosti digitálních médií. Neschopnost AI chatbottů spolehlivě odhalit syntetická videa vzbuzuje obavy ohledně jejich potenciálu být oklamány nebo neúmyslně šířit neověřený obsah.

Experti na digitální forenziku a integritu médií zdůrazňují naléhavou potřebu zlepšení detekčních technik, které by držely krok s pokroky ve výrobě AI videí. Argumentují, že je třeba zdokonalit nejen algoritmy chatbotů, ale i širší odvětví nástrojů na ověřování digitálního obsahu. Tento problém odráží širší společenskou výzvu v řízení a zmírnění dopadů syntetických médií — často označovaných jako deepfakes — které mohou být zneužity k dezinformacím, podvodům a narušování důvěry v digitální komunikaci. Výzkum volá po větší spolupráci mezi vývojáři AI, odborníky na kybernetickou bezpečnost a regulačními orgány za účelem vývoja standardizovaných označků a detekčních protokolů, jež by mohly být univerzálně přijaty. Taková opatření by podporovala transparentní označování obsahu generovaného AI a posilovala digitální platformy v boji s riziky spojenými se syntetickými videi. Navíc je nezbytné pokračovat ve vzdělávání uživatelů a moderátorů obsahu, aby lépe rozlišovali obsah vytvořený AI, čímž by se snížilo riziko manipulací. Stručně řečeno, studie NewsGuard odhalila zásadní nedostatek současných AI technologií. Jak se syntetická média stávají složitějšími a dostupnějšími, je nezbytné zvýšit schopnosti AI chatbotů přesně rozpoznat videa generovaná AI, aby byla zachována integrita informací. Řešení těchto výzev je klíčové pro vytváření důvěryhodného digitálního prostředí a zajištění odpovědného využívání umělé inteligence ve výrobě a distribuci médií.