Public Citizen, czołowa organizacja nadzorująca działalność mająca na celu ochronę interesów publicznych, zwróciła się do OpenAI z żądaniem natychmiastowego wycofania swojej aplikacji wideo opartej na sztucznej inteligencji, Sora 2, powołując się na znaczne zagrożenia związane z technologią deepfake. Grupa podkreśla zagrożenia dla demokracji, praw osobistych oraz bezpieczeństwa publicznego w obliczu rosnących obaw dotyczących wideo generowanych przez AI, które manipulują rzeczywistością i szerzą dezinformację na mediach społecznościowych. Według Public Citizen, pośpieszne wprowadzenie Sora 2 przez OpenAI zostało w dużej mierze wymuszone presją konkurencyjną w branży AI, co doprowadziło do niepełnych środków bezpieczeństwa przed publicznym uruchomieniem. W rezultacie Sora 2 umożliwiła masowe tworzenie i rozpowszechnianie deepfake’ów bez zgody, z czego wiele zawierało niepokojące treści używane do nękania kobiet oraz do fałszowania wydarzeń, powodując szkody emocjonalne i reputacyjne. Aplikacja, która pozwala użytkownikom na generowanie filmów opartych na AI, szybko zdobyła popularność na platformach takich jak TikTok i Instagram. Jej zawartość sięga od dziwacznych, przesadnych portretów celebrytów po realistyczne, lecz wprowadzające w błąd scenariusze, które mogą zniekształcać postrzeganie społeczne. Public Citizen podkreśla, że zdolność technologii do tworzenia przekonujących, lecz fałszywych materiałów wywołuje poważne zagrożenia, zwłaszcza gdy te filmy są szerzone bez kontekstu lub weryfikacji. Choć OpenAI podjęło próby rozwiązania niektórych obaw – na przykład blokowania przedstawień niektórych postaci, takich jak Martin Luther King Jr. , oraz współpracy z branżowymi grupami, takimi jak SAG-AFTRA – krytycy twierdzą, że te działania są reaktywne, a nie proaktywne. Public Citizen uważa, że OpenAI głównie reaguje na społeczne oburzenie, zamiast od początku wprowadzać etyczne zasady kontroli. To nie jest pierwsza kontrowersja związana z szkodami wywołanymi przez AI, z jaką zmierzyła się OpenAI.

Platforma ChatGPT była przedmiotem pozwów oskarżających o szkody psychologiczne, zaniedbania i nieskuteczne zabezpieczenia przeciwko nadużyciom. Public Citizen ostrzega, że wprowadzanie narzędzi generatywnej AI bez odpowiedniego nadzoru pogłębia te problemy, zagrażając zaufaniu do cyfrowych mediów i instytucji demokratycznych. OpenAI opublikowało ograniczone odpowiedzi publiczne odnośnie Sora 2, informując, że współpracuje ze twórcami treści, studiami filmowymi i posiadaczami praw, aby poprawić zabezpieczenia i zmniejszyć ryzyko nadużyć. Firma angażuje się również w dialog z uczestnikami sektora kreatywnego w Japonii, zaniepokojonymi wpływem AI na prawa artystów i własność intelektualną. Public Citizen podkreśla, że szybkie, nieuregulowane wprowadzanie na rynek aplikacji generatywnej AI, takich jak Sora 2, podważa prywatność, integralność faktów i stabilność demokratyczną. Ich żądanie usunięcia aplikacji odzwierciedla szerszy apel o priorytetowe traktowanie dobra publicznego przez branżę AI ponad rywalizację rynkową. Wzywają decydentów, deweloperów i społeczeństwo obywatelskie do wspólnego opracowania kompleksowych i etycznych ram, które zapewnią odpowiedzialny rozwój i wdrażanie AI. W miarę jak technologia AI rozwija się i coraz bardziej przenika do społeczeństwa, ostrzeżenia Public Citizen podkreślają kluczowe wyzwania i obowiązki związane z wykorzystywaniem tak transformacyjnych narzędzi. Zachowanie równowagi między innowacją a ochroną interesów publicznych pozostaje niezbędne, gdyż złożoność i konsekwencje treści generowanych przez AI stale się poszerzają.