Public Citizen, en en fremtrædende vagthund dedikeret til at beskytte offentligheden, har opfordret OpenAI til straks at trække deres AI-drevne videoapp Sora 2 tilbage, idet der er betydelige risici forbundet med dyfupfaldsteknologi. Gruppen fremhæver trusler mod demokrati, personlige rettigheder og offentlig sikkerhed i takt med stigende bekymringer over AI-genererede videoer, der manipulerer virkeligheden og spreder misinformation på sociale medier. Ifølge Public Citizen var OpenAI’s forhastede lancering af Sora 2 drevet af konkurrencepres inden for AI, hvilket førte til utilstrækkelige sikkerhedsforanstaltninger før offentliggørelsen. Som følge heraf har Sora 2 gjort det muligt at skabe og distribuere ufrivillige dyfupfalds-videoer i stort omfang, mange med foruroligende indhold brugt til at chikanere kvinder og fabrikere begivenheder, hvilket forårsager følelsesmæssig og omdømmemæssig skade. Appen, som giver brugere mulighed for at generere AI-drevne videoklip, er hurtigt blevet populær på platforme som TikTok og Instagram. Dets indhold spænder fra bizarre, overdrevne skildringer af kendte personer til realistiske, men vildledende scenarier, der kan forvrænge den offentlige opfattelse. Public Citizen understreger, at teknologiens evne til at producere overbevisende, men falske optagelser udgør alvorlige risici, især når disse videoer spreder sig uden kontekst eller verificering. Selvom OpenAI har forsøgt at tage nogle problemer op – såsom at blokere afbildninger af visse personer som Martin Luther King Jr. og at samarbejde med brancheorganisationer som SAG-AFTRA – mener kritikere, at disse tiltag er reaktive snarere end proaktive.

Public Citizen påpeger, at OpenAI primært reagerer på offentlig vrede i stedet for at etablere etiske kontroller fra starten. Dette er ikke første gang, OpenAI har været i vælten over skade forårsaget af AI. Deres platform ChatGPT har været genstand for sagsanlæg, der hævder psykisk skade, uagtsomhed og utilstrækkelige misbrugsbeskyttelser. Public Citizen advarer om, at frigivelsen af generative AI-værktøjer uden grundig tilsyn forværrer disse problemer, hvilket truer tilliden til digital medier og demokratiske institutioner. OpenAI har givet begrænsede offentlige svar vedrørende Sora 2, og siger, at de arbejder sammen med indholdsskabere, filmstudier og rettighedshavere for at forbedre beskyttelse og mindske misbrugsrisici. Virksomheden engagerer sig også med interessenter i Japans kreative sektor, der er bekymret for AI’s indflydelse på kunstneriske rettigheder og intellektuel ejendomsret. Public Citizen understreger, at den hurtige, uregulerede udrulning af generative AI-apps som Sora 2 undergraver privatliv, faktuel integritet og demokratisk stabilitet. Deres krav om at fjerne appen afspejler en bredere opfordring til, at AI-industrien prioriterer offentlighedens velbefindende frem for markedskonkurrence. De opfordrer politikere, udviklere og civilsamfund til sammen at etablere omfattende, etiske rammer, der sikrer ansvarlig udvikling og anvendelse af AI. Efterhånden som AI-teknologi udvikler sig og bliver mere integreret i samfundet, understreger Public Citizens advarsler de kritiske udfordringer og ansvar, der er forbundet med at håndtere sådanne transformerende værktøjer. At balancere innovation med beskyttelse af offentligheden forbliver essentielt, efterhånden som kompleksiteten og konsekvenserne af AI-genereret indhold vokser.