Silicon Valleys früheres Motto "Schnell vorankommen und Dinge kaputt machen" verfolgt weiterhin die Tech-Industrie, wie der jüngste Konflikt zwischen Schauspielerin Scarlett Johansson und OpenAI zeigt. Johansson behauptete, dass ihre Stimme ohne ihre Zustimmung für ein neues Produkt von OpenAI verwendet wurde. Damit werden Bedenken in der Kreativbranche hervorgehoben, dass sie durch künstliche Intelligenz (KI) ersetzt werden könnten. Dieser Vorfall lenkt die Aufmerksamkeit auf die Verantwortung und Grenzen, denen KI-Unternehmen wie OpenAI folgen müssen. Obwohl die KI-Giganten versprochen haben, verantwortungsvolle und sichere Produkte zu schaffen, hat sich der Fokus von Worst-Case-Szenarien auf praktische Bedrohungen verschoben. Das unmittelbare Risiko, dass KI-Werkzeuge Arbeitsplätze ersetzen und Einzelpersonen diskriminieren, wurde übersehen.

Fragen stellen sich zur Sicherheitsprüfung von KI-Produkten wie OpenAI's GPT-4o und Googles Projekt Astra sowie zum Mangel an Verständnis dafür, warum KI-Werkzeuge bestimmte Ergebnisse generieren. Obwohl freiwillige Vereinbarungen getroffen wurden, argumentieren einige, dass rechtlich bindende Regeln erforderlich sind, um eine verantwortungsvolle Entwicklung von KI-Technologien sicherzustellen. Ohne offizielle Aufsicht besteht Unsicherheit darüber, ob Unternehmen ihren Zusagen nachkommen. Der AI Act der EU bietet strenge Gesetzgebung und Strafen bei Nicht-Einhaltung, stellt aber auch zusätzliche Arbeit für KI-Nutzer dar. Die Festlegung von globalen Governance-Prinzipien zum Schutz aller Länder ist eine herausfordernde Aufgabe. Der Regulierungs- und Politikgestaltungsprozess hinkt dem Innovationstempo hinterher und lässt die Frage offen, ob die Technikriesen bereit sein werden, auf regulatorische Rahmenbedingungen zu warten.