OpenAI, ein Unternehmen, das sich der Sicherheit von Künstlicher Intelligenz (KI) widmet, wurde nach der Auflösung seines Superalignment-Teams heftig kritisiert. Dieses Team war dafür verantwortlich, die sichere Kontrolle von fortschrittlichen KI-Systemen zu gewährleisten. Mehreren Quellen zufolge ist das Unternehmen seinem öffentlichen Versprechen, 20% seiner Rechenressourcen dem Team zuzuteilen, nicht nachgekommen. Diese Entwicklung wirft Zweifel an der Ernsthaftigkeit von OpenAI bei der Einhaltung seiner öffentlichen Zusagen auf. Darüber hinaus steht OpenAI derzeit wegen des Einsatzes einer KI-Stimme, die der Schauspielerin Scarlett Johansson ähnelt, unter genauer Prüfung. Es gibt Vorwürfe, dass ihre Stimme ohne Genehmigung verwendet oder geklont wurde. Das Superalignment-Team unter der Leitung von Ilya Sutskever hat wichtige Forschung über Superintelligenz und Möglichkeiten zur Vermeidung von existentiellen Bedrohungen betrieben.

Jedoch wurden die ehrgeizigen Vorhaben des Teams aufgrund mangelnden Zugangs zu Rechenleistung behindert. Der Weggang von Schlüsselmitgliedern, darunter Sutskever und Jan Leike, sowie die Kündigung anderer KI-Sicherheitsforscher verdeutlichen die Bedenken hinsichtlich der Verpflichtung von OpenAI zur KI-Sicherheit. Mitarbeiter, die das Unternehmen verlassen haben, mussten Trennungsvereinbarungen unterschreiben, die Verunglimpfungsklauseln enthalten, wodurch einige Befürchtungen vor Repressalien bei kritischen Äußerungen haben. Die Reaktion von OpenAI auf die Situation besteht darin, eine strenge Prüfung der aktuellen KI-Modelle zu priorisieren, anstatt sich ausschließlich auf theoretische Ansätze zur Sicherheit zu konzentrieren. Die anonymen Quellen in diesem Bericht äußern ihre Bedenken aufgrund drohender Jobverluste oder dem Verlust von angespartem Eigenkapital. OpenAI-CEO Sam Altman gab an, nichts von den strengen Austrittsregelungen gewusst zu haben, und versprach, sich mit dem Problem auseinanderzusetzen.