Public Citizen, un groupe de surveillance de premier plan dédié à la protection des intérêts publics, a appelé OpenAI à retirer immédiatement son application vidéo alimentée par l'IA, Sora 2, invoquant des risques importants liés à la technologie des faux deepfake. Le groupe souligne les menaces pour la démocratie, les droits individuels et la sécurité publique face à la montée des inquiétudes concernant les vidéos générées par l'IA qui manipulent la réalité et diffusent de la désinformation sur les réseaux sociaux. Selon Public Citizen, la sortie précipitée de Sora 2 par OpenAI a été principalement motivée par la pression concurrentielle dans le domaine de l'IA, conduisant à des mesures de sécurité insuffisantes avant le lancement public. En conséquence, Sora 2 a permis la création et la diffusion à grande échelle de vidéos deepfake non consensuelles, dont beaucoup contiennent des contenus dérangeants utilisés pour harceler des femmes et falsifier des événements, causant un préjudice émotionnel et réputationnel. L’application, qui permet aux utilisateurs de générer des clips vidéo alimentés par l’IA, a rapidement gagné en popularité sur des plateformes telles que TikTok et Instagram. Son contenu va de portraits de célébrités exagérés et bizarres à des scénarios réalistes mais trompeurs susceptibles de déformer la perception du public. Public Citizen souligne que la capacité de la technologie à produire des images convaincantes mais fausses présente de graves risques, surtout lorsque ces vidéos se répandent sans contexte ni vérification. Alors qu’OpenAI a tenté de répondre à certaines préoccupations — comme le blocage des représentations de certaines figures telles que Martin Luther King Jr. et l’engagement avec des groupes industriels comme SAG-AFTRA —, les critiques soutiennent que ces efforts sont réactifs plutôt que proactifs.

Public Citizen affirme qu’OpenAI répond principalement à la colère publique plutôt que d’établir des contrôles éthiques dès le départ. Ce n’est pas la première controverse d’OpenAI concernant les dangers liés à l’IA. Sa plateforme ChatGPT a fait face à des poursuites pour des dommages psychologiques, de la négligence et une insuffisance des protections contre les utilisations abusives. Public Citizen met en garde contre le fait que la sortie d’outils générateurs d’IA sans une supervision rigoureuse aggrave ces problèmes, menaçant la confiance envers les médias numériques et les institutions démocratiques. OpenAI a fourni des réponses publiques limitées concernant Sora 2, indiquant qu’il collabore avec des créateurs de contenu, des studios de cinéma et des titulaires de droits pour renforcer les protections et réduire les risques d’abus. L’entreprise engage également un dialogue avec les acteurs du secteur créatif au Japon, préoccupés par l’impact de l’IA sur les droits artistiques et la propriété intellectuelle. Public Citizen insiste sur le fait que le déploiement rapide et non régulé d’applications IA génératives comme Sora 2 nuit à la vie privée, à l’intégrité factuelle et à la stabilité démocratique. Leur demande de retirer l’application reflète une volonté plus large pour l’industrie de l’IA de donner la priorité au bien-être public plutôt qu’à la compétition commerciale. Ils appellent les décideurs politiques, les développeurs et la société civile à collaborer pour établir des cadres éthiques complets garantissant un développement et une utilisation responsables de l’IA. À mesure que la technologie IA progresse et s’intègre davantage dans la société, les avertissements de Public Citizen soulignent les défis cruciaux et les responsabilités liés à l’exploitation de ces outils transformatifs. Trouver un équilibre entre innovation et protection des intérêts publics reste essentiel face à l’expansion des complexités et des conséquences des contenus générés par l’IA.