Public Citizen, een vooraanstaande waakhond die zich inzet voor het beschermen van het algemeen belang, heeft OpenAI opgeroepen om onmiddellijk hun AI-gestuurde videosapp Sora 2 in te trekken, vanwege de aanzienlijke risico’s die deepfake-technologie met zich meebrengt. De groep benadrukt de bedreigingen voor democratie, persoonlijke rechten en openbare veiligheid te midden van toenemende zorgen over door AI gegenereerde video’s die de realiteit manipuleren en misinformatie verspreiden via sociale media. Volgens Public Citizen werd de haastige lancering van Sora 2 door OpenAI grotendeels gedreven door competitieve druk in de AI-sector, wat heeft geleid tot onvoldoende veiligheidsmaatregelen voorafgaand aan de publieke introductie. Hierdoor kon Sora 2 leiden tot het breed creëren en verspreiden van niet-overeenstemmende deepfake-video’s, velen met verontrustende content die wordt gebruikt om vrouwen te lastig te vallen en gebeurtenissen te fabriceren, wat emotionele en reputatieschade veroorzaakt. De app, waarmee gebruikers AI-gegenereerde videoclips kunnen maken, is snel populair geworden op platforms als TikTok en Instagram. De inhoud varieert van bizarre, overdreven bezigheden van beroemdheden tot realistische maar misleidende scenario’s die de publieke perceptie kunnen vertekenen. Public Citizen benadrukt dat de mogelijkheid van de technologie om overtuigend ogende maar valse beelden te produceren, ernstige risico’s met zich meebrengt, vooral wanneer deze video’s zonder context of verificatie worden verspreid. Hoewel OpenAI geprobeerd heeft enkele zorgen aan te pakken—zoals het blokkeren van weergaven van bepaalde figuren zoals Martin Luther King Jr. en het samenwerken met branchegroepen zoals SAG-AFTRA—vinden critics dat deze inspanningen reactief in plaats van proactief zijn.

Public Citizen stelt dat OpenAI vooral reageert op publieke woede in plaats van van meet af aan ethische controles in te stellen. Dit is niet de eerste controverse voor OpenAI over AI-gerelateerde schade. Het platform ChatGPT heeft te maken gehad met rechtszaken waarin psychologisch letsel, nalatigheid en ontoereikende misbruikbeveiligingen worden aangevoerd. Public Citizen waarschuwt dat het vrijgeven van generatieve AI-hulpmiddelen zonder grondig toezicht deze problemen verergert en het vertrouwen in digitale media en democratische instellingen ondermijnt. OpenAI heeft beperkte openbare reacties gegeven over Sora 2, waarin wordt gezegd dat ze samenwerken met contentmakers, filmstudio’s en rechthebbenden om de beveiligingen te verbeteren en misbruik te verminderen. Het bedrijf betrekt ook belanghebbenden uit de creatieve sector in Japan, die zich zorgen maken over de impact van AI op artistieke rechten en intellectueel eigendom. Public Citizen benadrukt dat de snelle, ongereguleerde uitrol van generatieve AI-apps zoals Sora 2 de privacy, feitelijke integriteit en democratische stabiliteit ondermijnt. Hun eis om de app te verwijderen wordt ondersteund door een bredere oproep aan de AI-industrie om het welzijn van de publieke belangen voorrang te geven boven marktconcurrentie. Ze roepen beleidsmakers, ontwikkelaars en maatschappelijke organisaties op om samen een allesomvattend, ethisch kader op te stellen dat verantwoordelijke ontwikkeling en inzet van AI garandeert. Naarmate AI-technologie verbetert en meer geïntegreerd raakt in de samenleving, onderstrepen de waarschuwingen van Public Citizen de cruciale uitdagingen en verantwoordelijkheden die gepaard gaan met het benutten van zulke transformerende tools. Het balanceren van innovatie met het beschermen van publieke belangen blijft essentieel terwijl de complexiteit en de gevolgen van AI-gegenereerde inhoud toenemen.