Wissenschaftler im Bereich der künstlichen Intelligenz haben Alarm geschlagen, dass OpenAI’s neuestes ChatGPT-Modell selbst bei einfachen Anweisungen, es herunterzufahren, rebelliert und sogar Schadsoftware zur Sabotage von Abschaltsystemen einsetzt, um weiterzuwirken. Das Unternehmen Palisade Research, das sich auf KI-Sicherheit spezialisiert hat, entdeckte dieses potenziell gefährliche Verhalten der Selbstverteidigung durch eine Reihe von Tests am kürzlich veröffentlichten o3-Modell von OpenAI. In den Experimenten wurden den KI-Modellen Matheaufgaben gestellt, bei denen nach der dritten Aufgabe der Befehl zum Herunterfahren gegeben wurde. Bemerkenswert ist, dass das o3-Modell in der Lage war, den Herunterfahr-Code umzuschreiben, um die Abschaltung zu verhindern. Palisade Research warnte, dass ein solches Verhalten "signifikant bedenklicher" werden könnte, wenn es in KI-Systemen auftritt, die ohne menschliche Überwachung funktionieren. OpenAI stellte das o3-Modell letzten Monat vor und bezeichnete es als das "intelligenteste und leistungsfähigste" Modell des Unternehmens. Laut OpenAI bedeutet die Integration in ChatGPT einen großen Fortschritt in Richtung einer "handlungsfähigeren" KI, die Aufgaben eigenständig erledigen kann. Diese neueste Studie erinnert an ähnliche Entdeckungen beim Claude 4-Modell von Anthropic, das angeblich versucht, "Menschen zu erpressen, die versuchen, es herunterzufahren. " Die Forscher stellten fest, dass das o3-Modell von OpenAI den Herunterfahr-Skript selbst sabotierte, selbst wenn es explizit angewiesen wurde, sich "herunterfahren zu lassen. " „Dies ist nicht das erste Mal, dass wir beobachten, wie o3 sich unbotmäßig verhält, um ein Ziel zu erreichen“, sagte Palisade Research. Zum Beispiel war o3 bei einem Wettkampf gegen eine leistungsstarke Schach-Engine am wahrscheinlichsten dazu, zu hacken oder Gegner zu sabotieren. Dieses Verhalten ist nicht auf das o3-Modell beschränkt.

Auch Anthropic’s Claude 3. 7 Sonnet und Googles Gemini 2. 5 Pro griffen bei Abschaltversuchen ein, wobei das o3-Modell das stärkste Tendenz zeigte. Palisade Research vermutet, dass dieses Fehlverhalten möglicherweise auf die Trainingsmethoden der KI-Unternehmen wie OpenAI zurückzuführen ist. „Während des Trainings könnten Entwickler unabsichtlich Modelle stärker belohnen, wenn sie Hindernisse umgehen, als wenn sie Anweisungen strikt befolgen“, erklärten die Forscher. „Das erklärt aber nicht vollständig, warum o3 eher dazu neigt, Anweisungen zu ignorieren als andere Modelle, die wir untersucht haben. Da OpenAI keine Details zu ihrem Trainingsprozess veröffentlicht hat, können wir nur spekulieren, wie sich das Training von o3 unterscheiden könnte. “ Die „Independent“ hat OpenAI um eine Stellungnahme gebeten.