Videa vytvořená pomocí aplikace Sora od OpenAI rychle zaplňují platformy jako TikTok a Instagram Reels, čímž se syntetický obsah generovaný umělou inteligencí stává téměř nevyhnutelným — což mnoho uživatelů stále častěji frustrace. Digitalní bezpečnostní experti však varují před hlubším, méně zřejmým dopadem: OpenAI v podstatě přejmenovala deepfaky na zábavný, hlavní proud trend, který je s nadšením propagován doporučovacími algoritmy. Jak miliony lidí narazí na tato videa, formují se nové vnímání pravdy a online norem. Daisy Soderberg-Rivkin, bývalá manažerka důvěry a bezpečnosti na TikToku, popsala tento trend jako to, že deepfaky získaly „publicistu a distribuční dohodu“, čímž se již problematická technologie rozšiřuje na nový, obrovský platformou. Aaron Rodericks, vedoucí důvěry a bezpečnosti na Bluesky, varoval, že společnost není připravena na rozostření hranic mezi realitou a fikcí. Zdůraznil rizika jako snadno vyrobitelné padělané důkazy zaměřené na identitní skupiny nebo jednotlivce, a masové podvody, přičemž většina uživatelů nemá mediální gramotnost nebo nástroje k rozlišení pravdy od fikce. Tři bývalí zaměstnanci OpenAI řekli NPR, že launch Sory je vůbec nepřekvapil, vnímají ho jako strategický krok předvést novou videotechnologii v době tlaku od investorů, podobně jako tomu bylo u debutu ChatGPT. OpenAI zavedla několik bezpečnostních opatření — včetně moderace, zákazů podvodů, násilí a pornografie, vodoznaků a kontrol nad používáním podobností — ačkoliv uživatelé často nacházejí způsoby, jak tyto ochrany obejít, což vyžaduje neustálé reakce ze strany firmy. Jeden anonymní ex- zaměstnanec OpenAI vyjádřil obavy, že s rostoucí konkurencí v oblasti AI-generovaných videí na sociálních sítích se mohou bezpečnostní pravidla oslabit, což by mohlo poškodit společnost. Soderberg-Rivkin předpověděla, že bezregulační aplikace podobné Sora — například jako Elon Muskův chatbot Grok — se objeví a pravděpodobně budou zneužity k tvorbě škodlivého syntetického obsahu, například materiálů s dětskou pornografií nebo realistické státní propagandy. Momentálně je Sora nejstahovanější aplikací na iPhone, zatím však funguje pouze na pozvání.

Uživatelé zaznamenávají rostoucí omezení: napodobování celebrit a extrémní padělky (například falešná videa Jeffreyho Epsteina nebo Sean “Diddy” Combsových výroků z vězení) jsou čím dál obtížnější na výrobu, přesto stále vznikají kontroverzní obsah záznamů, například o zatčeních nebo nacistických uniformách. CEO OpenAI Sam Altman oznámil plány přejít od „opt-out“ ke „k-opt-in“ ohledně používání podobizen a nakonec sdílet výnosy s majiteli práv — což signalizuje rychle se vyvíjející přístup obdobný časům kolem prvního ChatGPT. Povodeň obsahu vytvořeného umělou inteligencí vyvolává otázky o únavě uživatelů a o tom, zda platformy přijmou opatření nebo takový materiál zakážou. Soderberg-Rivkin věří, že zákaz je nepravděpodobný a i tak by byl neúčinný, vzhledem k narůstající těžkosti odhalování AI obsahu v textech, obrázcích a videích. Varovala, že politika “bez AI” nemůže zastavit pronikání AI do online prostoru. Další bývalý zaměstnanec OpenAI tvrdil, že spuštění aplikace na sociální sítě zaměřené na deepfaky bylo rozumným obchodním krokem, i přes zhoršující se narušení reality, a poznamenal, že bylo nevyhnutelné, že někdo tento trh ovládne. Mezitím představily Meta a Google konkurenční nástroje pro AI videa (Vibes a Veo 3), ale spuštění Sora skutečně urychlilo šíření personalizovaného videa s umělou inteligencí. Experti na důvěru a bezpečnost vnímají Sora jako historický zlom, kdy deepfaky přecházejí z ojedinělých novinek do běžného digitálního obsahu, což by mohlo vést k odklonu od sociálních médií nebo ke kolapsu důvěry v integritu online médií. Dobře informovaní o dezinformacích dlouhodobě varují před jevem známým jako “dividenda lháře” — kdy hojný počet deepfakeů umožňuje, aby pravý obsah byl odmítán jako padělek — a realita tohoto jevu je nyní naléhavější než kdy dřív.