Public Citizen, eine bekannte Wachhund-Organisation, die sich dem Schutz öffentlicher Interessen widmet, hat OpenAI aufgefordert, ihre KI-gesteuerte Videounter app Sora 2 sofort zurückzuziehen, da diese erhebliche Risiken durch Deepfake-Technologie birgt. Die Gruppe hebt die Gefahren für Demokratie, Persönlichkeitsrechte und öffentliche Sicherheit hervor, angesichts wachsender Bedenken über KI-generierte Videos, die die Realität manipulieren und Fehlinformationen in sozialen Medien verbreiten. Laut Public Citizen wurde die hastige Veröffentlichung von Sora 2 durch OpenAI vor allem durch Wettbewerb im Bereich Künstliche Intelligenz getrieben, was zu unzureichenden Sicherheitsmaßnahmen vor dem öffentlichen Start führte. Dadurch konnte Sora 2 die Erstellung und Verbreitung von nicht einvernehmlich produzierten Deepfake-Videos erleichtern, von denen viele verstörende Inhalte enthalten, die benutzt werden, um Frauen zu belästigen und Ereignisse zu fälschen, was emotionalen und rufschädigenden Schaden verursacht. Die App, die es Nutzern ermöglicht, KI-gesteuerte Videoclips zu erstellen, hat sich rasch auf Plattformen wie TikTok und Instagram verbreitet. Ihre Inhalte reichen von bizarren, übertriebenen Darstellungen von Prominenten bis hin zu realistischen, aber irreführenden Szenarien, die die öffentliche Wahrnehmung verzerren könnten. Public Citizen betont, dass die Fähigkeit der Technologie, überzeugende, aber falsche Aufnahmen zu produzieren, ernsthafte Risiken birgt, besonders wenn diese Videos ohne Kontext oder Überprüfung verbreitet werden. Während OpenAI versucht hat, einige Bedenken auszuräumen – etwa durch das Blockieren bestimmter Darstellungen, zum Beispiel von Martin Luther King Jr. , und durch die Zusammenarbeit mit Branchenverbänden wie SAG-AFTRA – argumentieren Kritiker, dass diese Bemühungen reaktiv anstatt proaktiv seien. Public Citizen ist der Ansicht, dass OpenAI hauptsächlich auf öffentliche Empörung reagiert, anstatt von Anfang an ethische Kontrollmechanismen zu etablieren. Dies ist nicht die erste Kontroverse von OpenAI im Zusammenhang mit KI-bedingten Schäden.

Die Plattform ChatGPT wurde bereits mit Klagen konfrontiert, die psychische Schäden, Fahrlässigkeit und unzureichenden Schutz vor Missbrauch geltend machen. Public Citizen warnt, dass die Freigabe generativer KI-Werkzeuge ohne gründliche Aufsicht diese Probleme verschärft, was das Vertrauen in digitale Medien und demokratische Institutionen gefährdet. OpenAI hat nur begrenzte öffentliche Stellungnahmen bezüglich Sora 2 abgegeben, in denen das Unternehmen erklärt, dass es mit Content-Erstellern, Filmstudios und Rechteinhabern zusammenarbeite, um den Schutz zu verbessern und Missbrauchsmöglichkeiten zu minimieren. Zudem arbeitet das Unternehmen mit Stakeholdern aus der japanischen Kreativbranche zusammen, die sich Sorgen über den Einfluss von KI auf künstlerische Rechte und geistiges Eigentum machen. Public Citizen betont, dass die schnelle und unregulierte Einführung generativer KI-Apps wie Sora 2 den Schutz der Privatsphäre, die faktische Integrität und die demokratische Stabilität untergräbt. Ihre Forderung, die App zu entfernen, ist Teil eines breiteren Aufrufs an die KI-Branche, das Wohlergehen der Öffentlichkeit über den Marktwettbewerb zu stellen. Sie appellieren an Politiker, Entwickler und zivilgesellschaftliche Organisationen, gemeinsam umfassende, ethische Rahmenwerke zu entwickeln, die eine verantwortungsvolle Entwicklung und Nutzung von KI sicherstellen. Während die KI-Technologie voranschreitet und zunehmend in die Gesellschaft integriert wird, unterstreichen die Warnungen von Public Citizen die entscheidenden Herausforderungen und Verantwortlichkeiten beim Einsatz solch transformativer Werkzeuge. Innovation mit Schutz der öffentlichen Interessen in Einklang zu bringen, ist unerlässlich, da die Komplexität und die Folgen von KI-generierten Inhalten immer weiter zunehmen.