Public Citizen, un destacat organisme de vigilància dedicat a protegir els interessos públics, ha instat OpenAI a retirar immediatament la seva aplicació de vídeo amb intel·ligència artificial, Sora 2, denunciant els riscos importants que presenta la tecnologia de deepfake. L’organització subratlla les amenaces a la democràcia, els drets personals i la seguretat pública, davant la creixent preocupació per vídeos generats per IA que manipulen la realitat i difonen desinformació a les xarxes socials. Segons Public Citizen, la ràpida rellevació de Sora 2 per part d’OpenAI va estar impulsada en gran part per la pressió competitiva en el camp de la IA, fet que va provocar que no s’implantessin mesures de seguretat suficients abans del llançament públic. Com a conseqüència, Sora 2 ha permès la creació i distribució massiva de vídeos deepfake sense consentiment, molts dels quals contenen contingut inquietant utilitzat per assetjar dones i per inventar esdeveniments, causant danys emocionals i de reputació. L’aplicació, que permet als usuaris generar clips de vídeo amb IA, ha crescut ràpidament en popularitat a plataformes com TikTok i Instagram. El seu contingut oscil·la entre representacions extravagants i exagerades de famosos fins a escenaris realistes però enganyosos que poden distorsionar la percepció pública. Public Citizen destaca que la capacitat de la tecnologia per produir imatges convincents però falses comporta riscos greus, especialment quan aquests vídeos es difonen sense context ni verificació. Tot i que OpenAI ha intentat abordar algunes preocupacions —com bloquejar representacions de figures com Martin Luther King Jr. i col·laborar amb grups de la indústria com SAG-AFTRA— els crítics argumenten que aquests esforços són reactius més que proactius.

Public Citizen afirma que OpenAI respon sobretot a l’angunia pública en lloc d’establir controls ètics des del principi. Això no és la primera controvèrsia d’OpenAI pel que fa a els danys relacionats amb la IA. La seva plataforma ChatGPT ha hagut de fer front a demandes que l’acusen de dany psicològic, negligència i manca de mesures de seguretat per evitar un ús indegut. Public Citizen, alertant que alliberar eines generatives d’IA sense una supervisió rigorosa agreuja aquests problemes, avisa que això pot amenaçar la confiança en els mitjans digitals i les institucions democràtiques. OpenAI ha fet declarar públicament de forma limitada sobre Sora 2, afirmant que està col·laborant amb creadors de contingut, estudis de cinema i titulars de drets per millorar les proteccions i minimitzar els riscos d’abús. També està col·laborant amb les parts interessades del sector creatiu de Japó, preocupades per l’impacte de la IA en els drets artístics i la propietat intel·lectual. Public Citizen subratlla que el desplegament ràpid i sense regulacions de l’aplicació generativa d’IA com Sora 2 posa en perill la privacitat, la integritat factual i la estabilitat democràtica. La seva petició per retirar l’aplicació reflecteix una crida més àmplia perquè la indústria de la IA prioritzi el benestar públic per sobre de la competència de mercat. Demanen als responsables polítics, desenvolupadors i a la societat civil que col·laborin per establir marcs ètics i reguladors integrals que assegurin un desenvolupament i una implantació responsables de la IA. A mesura que la tecnologia de la IA avança i s’integra més en la societat, les advertències de Public Citizen subratllen els desafiaments i responsabilitats crucials per gestionar aquestes eines transformadores. Equilibrar la innovació amb la protecció dels interessos públics continua sent essencial a mesura que s’amplien les complexitats i conseqüències del contingut generat per IA.