Nedávno jsem byl svědkem ukázky Sora, nástroje OpenAI pro generování videí pomocí umělé inteligence, který byl uveden v USA. Funguje jako AI generátory textu nebo obrázků: zadáte pokyn a vytvoří krátké video. Viděl jsem demonstraci OpenAI, kde byl vytvořen stromový žabák v Amazonii ve stylu přírodopisného dokumentu. Výsledné video vypadalo neuvěřitelně realisticky, ale vědomí, že není skutečné, mě znepokojovalo více než ohromovalo. Generování videa představuje novou oblast pro AI, následující generátory textů a obrázků, a přináší významné důsledky. Historicky bylo obtížné upravovat pohyblivé obrázky, ale AI to mění, potenciálně vedoucí k zneužití jako jsou podvody, politické deepfaky nebo falešná škodlivá videa. Někteří výzkumníci dokonce radí rodinám, aby měli kódy pro ověřování identity, když je to nutné. Vývojáři tyto rizika uznávají, zpočátku omezují přístup kreatívním partnerům a zavádějí ochranné opatření k omezení zneužití. To zahrnuje omezení pokynů a vodoznaky, které zabraňují neautorizovaným zobrazením veřejných osobností nebo nevhodného obsahu. Možnosti všedního klamu jsou znepokojivé; validace všeho, od politických skandálů až po roztomilá zvířecí videa, může být nutná, jakmile se AI-generovaný obsah stane běžnějším.

Skutečné přírodopisné dokumenty fascinují, protože jsou autentické, na rozdíl od AI kopií. AI nemůže dosáhnout skutečné novosti—je omezeno na přeskupování toho, co jsme už viděli. Rozpor mezi realitou a AI výtvory je znepokojivý. Angažovanost s autentickými fotografiemi a videi převyšuje dokonale ztvárněný AI obsah, který postrádá život. Jak se AI-generovaná média stávají přesvědčivějšími, hrozí důvěryhodnosti skutečných médií, což nás nutí pochybovat dokonce i o nevinném obsahu. Například roztomilé video s králíkem na Instagramu vedlo k nejistotě o jeho autenticitě, což poukazuje na to, jak může AI snižovat skutečné zážitky. Ve světě, kde může být cokoli falešné, bychom mohli pochybovat o všem.