Public Citizen, významný ochránce veřejného zájmu věnující se ochraně zájmů občanů, vyzval OpenAI, aby okamžitě stáhla svou videoaplikaci Sora 2 poháněnou umělou inteligencí, kvůli významným rizikům spojeným s technologií deepfake. Skupina upozorňuje na hrozby pro demokracii, osobní práva a veřejnou bezpečnost v době rostoucí obavy z videí generovaných AI, která manipulují s realitou a šíří dezinformace na sociálních médiích. Podle Public Citizen bylo předčasné vydání Sora 2 od OpenAI způsobeno především konkurenčním tlakem v oblasti AI, což vedlo k nedostatečným bezpečnostním opatřením před veřejným uvedením. Výsledkem je, že Sora 2 umožnila širokou tvorbu a šíření nechtěných deepfake videí, z nichž mnoho obsahovalo znepokojivý obsah používaný k obtěžování ženám a k vymyslení událostí, čímž způsobila emocionální a reputační škody. Aplikace, která uživatelům umožňuje generovat videoklipy řízené AI, rychle získala popularitu na platformách jako TikTok a Instagram. Její obsah sahá od bizar zkušené, zveličené zobrazování celebrit až po realistické, ale zavádějící scénáře, které by mohly zkreslit veřejné vnímání. Public Citizen zdůrazňuje, že schopnost této technologie vyrábět přesvědčivé, avšak nepravdivé záběry představuje vážná rizika, zvláště když se tyto videa šíří bez kontextu nebo ověření. Ačkoli OpenAI se pokusilo některé obavy zmírnit – například zablokováním zobrazování určitých osob, jako je Martin Luther King Jr. , a spoluprací s průmyslovými skupinami jako SAG-AFTRA –, kritici tvrdí, že tyto kroky jsou reaktivní spíše než preventivní. Public Citizen tvrdí, že OpenAI hlavně reaguje na veřejný rozruch, namísto aby od začátku nastavilo etické kontroly. Toto není první kontroverze spojená s AI od OpenAI.

Jejich platforma ChatGPT čelila žalobám, které tvrdí, že způsobila psychickou újmu, byla nedbalá a neměla dostatečné ochranné mechanismy proti zneužití. Public Citizen upozorňuje, že uvolnění generativních AI nástrojů bez důkladného dohledu tyto problémy zhoršuje, ohrožuje důvěru v digitální média a demokratické instituce. OpenAI poskytlo omezené veřejné reakce ohledně Sora 2, uvedl, že spolupracuje s tvůrci obsahu, filmovými studií a držiteli práv na zlepšení ochrany a snížení rizika zneužití. Společnost se také snaží zapojit zainteresované strany z japonského kreativního sektoru, který má obavy z dopadů AI na umělecká práva a duševní vlastnictví. Public Citizen zdůrazňuje, že rychlý a neregulovaný zavádění generativních AI aplikací jako Sora 2 podkopává soukromí, faktickou integritu a demokratickou stabilitu. Jejich požadavek na stažení této aplikace odráží širší apel na odvětví AI, aby upřednostnilo blaho veřejnosti před konkurencí na trhu. Vyzývají politiky, vývojáře a občanskou společnost, aby společně vytvořili komplexní, etické rámce zajišťující zodpovědný rozvoj a nasazení AI. Jak se technologie AI dále rozvíjí a stává se součástí společnosti, varování Public Citizen poukazují na zásadní výzvy a odpovědnosti spojené s využíváním těchto transformačních nástrojů. Vyvažování inovací s ochranou veřejných zájmů zůstává klíčové, jak se složitost a důsledky generovaných obsahů AI rozšiřují.