Public Citizen, en en fremtredende observatørorganisasjon dedikert til å beskytte offentlige interesser, har oppfordret OpenAI til å umiddelbart trekke tilbake sin AI-drevne videobutikkapp, Sora 2, på grunn av betydelige risikoer forbundet med deepfake-teknologi. Gruppen peker på trusler mot demokratiet, personlige rettigheter og offentlig sikkerhet, i en tid hvor bekymringene øker for AI-genererte videoer som manipulerer virkeligheten og sprer feilinformasjon på sosiale medier. Ifølge Public Citizen var OpenAI’s hastige lansering av Sora 2 drevet av konkurransepress innen AI, noe som førte til utilstrekkelige sikkerhetstiltak før offentligheten fikk tilgang. Resultatet er at Sora 2 har gjort det mulig å skape og distribuere omfattende deepfake-videoer uten samtykke, mange med opprørende innhold brukt til å trakassere kvinner og fabrikere hendelser, og dermed forårsake emosjonelle og omdømmemessige skader. Appen, som lar brukere generere AI-drevne videoklipp, har raskt blitt populær på plattformer som TikTok og Instagram. Innholdet spenner fra merkelige, overdrevne fremstillinger av kjendiser til realistiske, men villedende scenarier som kan forvrenge offentlig oppfatning. Public Citizen understreker at teknologien evne til å produsere overbevisende, men falske opptak, utgjør alvorlige risikoer, spesielt når disse videoene spres uten kontekst eller verifisering. Selv om OpenAI har prøvd å ta tak i noen av bekymringene—som å blokkere bilder av bestemte personer som Martin Luther King Jr. og å samarbeide med bransjeorganisasjoner som SAG-AFTRA—hevder kritikere at disse tiltakene er mer reaksjonære enn proaktive.

Public Citizen hevder at OpenAI hovedsakelig reagerer på offentlig opprør, i stedet for å innføre etiske kontroller fra starten av. Dette er ikke første gang OpenAI står overfor kontroverser knyttet til skadevirkninger av AI. Deres ChatGPT-plattform har vært involvert i søksmål som påstår psykisk skade, uaktsomhet og utilstrekkelige tiltak mot misbruk. Public Citizen advarer om at utgivelse av generative AI-verktøy uten grundig tilsyn forsterker disse problemene, og truer tilliten til digital media og demokratiske institusjoner. OpenAI har gitt begrensede offentlige kommentarer om Sora 2, og opplyser at de samarbeider med innholdsprodusenter, filmselskaper og rettighetshavere for å forbedre beskyttelsene og redusere misbrukrisikoen. Selskapet engasjerer seg også med aktører i Japans kreative sektor, som er bekymret for AI’s påvirkning på kunstneriske rettigheter og opphavsrett. Public Citizen understreker at den raske, uregulerte utplasseringen av generativ AI som Sora 2 undergraver personvern, faktuell integritet og demokratisk stabilitet. Deres krav om å fjerne appen reflekterer et bredere behov for at AI-industrien prioriterer offentlig velvære fremfor markedskonkurranse. De oppfordrer politikere, utviklere og sivilsamfunnet til å samarbeide om å etablere omfattende, etiske rammeverk for ansvarlig utvikling og bruk av AI. Ettersom AI-teknologi utvikler seg og blir stadig mer integrert i samfunnet, påpeker Public Citizens advarsler de kritiske utfordringene og ansvarene knyttet til å utnytte slike transformative verktøy. Å balansere innovasjon med beskyttelse av offentlige interesser er avgjørende, etter hvert som kompleksiteten og konsekvensene av AI-generert innhold øker.