Видеоклиповете, създадени с помощта на приложението Sora на OpenAI, бързо запълват платформи като TikTok и Instagram Reels, правейки синтетичното съдържание, генерирано от изкуствен интелект, почти неизбежно – нещо, което все повече дразни потребителите. Въпреки това, експертите по дигитална сигурност предупреждават за по-дълбок и по-малко очевиден ефект: OpenAI effectively е ребрандирало дийпфейковете като забавна, масова тенденция, насърчавана от алгоритмите за препоръки. Докато милиони срещат тези видеа, възприятията за истината и онлайн нормите се променят. Бейзи Содербег-Ривкин, бивш мениджър по доверие и сигурност в TikTok, описа това като дийпфейковете, които придобиват „PR и дял за разпространение“, засилвайки вече тревожната технология на нова, широка платформа. Аарон Родерикс, ръководител на доверие и сигурност в Bluesky, предупреди, че обществото не е подготвено за размитата граница между реалност и фалшификация. Той подчерта рисковете като лесно фалшифицирана фалшива доказателства засягашки групи или лица и големи измами, като повечето потребители нямат нужната медийна грамотност или инструменти за разграничаване на истината от измамата. Три бивши служители на OpenAI казаха пред NPR, че не са изненадани от стартирането на Sora, тълкувайки го като стратегически ход за демонстриране на новата видео технология под натиск от страна на инвеститори, напомнящ за дебюта на ChatGPT. OpenAI въведе няколко мерки за безопасност – включително модериране, забрани за измами, насилие и порнография, водни знаци и контрол върху използването на подобия – въпреки че потребителите често намират начин да заобиколят тези защитни мерки, което провокира непрекъснати реакции от страна на компанията. Един анонимен бивш служител на OpenAI изрази притеснение, че с увеличаването на конкуренцията в сферата на AI-генерираното видео, правилата за безопасност могат да бъдат отслабени, което да навреди на обществото. Содербег-Ривкин прогнозира, че ще се появят нерегламентирани приложения като Sora – подобни на chatbot-овете Elon Musk’s Grok – които вероятно ще бъдат използвани за създаване на вредно синтетично съдържание като материали за сексуално насилие над деца или държавно финансирана реалистична пропаганда. В момента Sora е най-поп APP за iPhone, но все още е достъпна само по приглашение.

Потребителите отбелязват увеличаване на ограниченията: имитациите на известни личности и екстремните фалшификати като видеа с фалшиви Джефри Епстийн или изказвания в затвори на Шон „Diddy“ Комс стават по-трудни за създаване, въпреки че спорните материали като арести или носенето на нацистки униформи все още генерират видеа. Главният изпълнителен директор на OpenAI, Сэм Олтман, обяви планове за преместване на използването на подобия от „изход“ към „включване“ и в крайна сметка за споделяне на приходите с правопритежатели, което показва бързо развиващ се подход, подобен на този отпреди ChatGPT. Потокът от AI-генерирано съдържание поражда въпроси за умората на потребителите и дали платформите ще засилят ограниченията или ще забранят такъв материал. Содербег-Ривкин вярва, че забрана е малко вероятна и въпреки това ще бъде неефективна, тъй като все по-трудно става да се разпознава AI съдържание в текстове, изображения и видеа. Тя предупреди, че политика „без AI“ не може да спре проникването му онлайн. Друг бивш служител на OpenAI твърди, че пускането на социално приложение за дийпфейкове е разумна бизнес стратегия, въпреки влошаването на реалността, като се подчертава, че е неизбежно някой да доминира този пазар. Междувременно, Meta и Google представиха конкурентни инструменти за AI видео (Vibes и Veo 3), но пускането на Sora наистина ускори разпространението на персонализирано AI видео съдържание. Експертите по доверие и сигурност виждат Sora като историческа повратна точка, при която дийпфейковете преминават от рядък новаторски елемент към ежедневен цифров контент, което може да доведе до изключване от социалните мрежи или колапс на доверието в онлайн медиите. Специалистите по дезинформация дълго предупреждаваха за „дивиденда на лъжливия“ – ситуация, в която богатството на дийпфейкове позволява реалното съдържание да бъде отхвърлено като фалшиво – и настоящата реалност на този феномен е много по-наложителна отвсякога.