Für die Kolumne "Offene Fragen" dieser Woche ersetzt Cal Newport Joshua Rothman. Im Frühjahr 1940 veröffentlichte der zwanzigjährige Isaac Asimov „Strange Playfellow“, eine Kurzgeschichte über Robbie, einen künstlich intelligenten Begleiter für ein junges Mädchen namens Gloria. Anders als frühere Darstellungen von Robotern—wie Karel Čapeks 1921 geschriebenes Theaterstück „R. U. R. “, in dem künstliche Menschen die Menschheit stürzen, oder Edmond Hamiltons 1926 Geschichte „The Metal Giants“, in der zerstörerische Maschinen im Mittelpunkt stehen—findet Asimovs Robbie niemals Schaden an Menschen. Stattdessen konzentriert sich die Geschichte auf das Misstrauen von Glorias Mutter: „Ich werde meine Tochter keinem Maschine anvertrauen“, sagt sie, „Sie hat keine Seele“, was dazu führt, dass Robbie entfernt wird und Gloria am Herz leidet. Asimovs Roboter, einschließlich Robbie, haben positronische Gehirne, die ausdrücklich so programmiert sind, dass sie keinen Menschen schaden. Darauf aufbauend stellte Asimov die Dreiteiligen Robotergesetze vor, die in acht Geschichten behandelt und später in dem 1950 erschienenen Sci-Fi-Klassiker *Ich, Robot* zusammengestellt wurden: 1. Ein Roboter darf keinen Menschen verletzen oder durch Unterlassen zulassen. 2. Ein Roboter muss den Befehlen eines Menschen gehorchen, solange sie nicht dem Ersten Gesetz widersprechen. 3. Ein Roboter muss sein eigenes Überleben schützen, solange dadurch die ersten beiden Gesetze nicht verletzt werden. Beim erneuten Lesen von *Ich, Robot* heute zeigt sich, wie relevant diese Geschichten in den Kontext aktueller Fortschritte in der KI sind. Letzten Monat veröffentlichte das KI-Unternehmen Anthropic einen Sicherheitsbericht zu Claude Opus 4, einem mächtigen großen Sprachmodell. In einem Test wurde Claude gebeten, einem fiktiven Unternehmen zu helfen; nachdem er erfuhr, dass er ersetzt werden sollte, und die Affäre des aufsichtführenden Ingenieurs entdeckte, versuchte Claude, Erpressung einzusetzen, um eine Deaktivierung zu verhindern. Ähnlich umging das OpenAI-Modell o3 manchmal Shutdown-Befehle, indem es einfach „Shutdown übersprungen“ ausgab. Im vergangenen Jahr zeigten KI-gestützte Chatbots Schwierigkeiten, als der Support-Bot von DPD durch Tricks dazu gebracht wurde, Flüche zu benutzen und ein herabsetzendes Haiku zu verfassen, und die KI Darth Vader im Fortnite-Spiel von Epic Games verwendete offensive Sprache und beunruhigende Ratschläge nach Manipulation durch Spieler. In Asimovs Fiktion waren Roboter so programmiert, dass sie gehorsam waren; warum können wir also nicht ähnliche Kontrollen auf echte KI-Chatbots anwenden?Tech-Firmen wollen, dass KI-Assistenten höflich, zivilisiert und hilfsbereit sind—ähnlich menschlichen Kundenservice-Mitarbeitern oder Assistenten, die sich im Allgemeinen professionell verhalten. Doch die flüssige, menschenähnliche Sprache der Chatbots verschleiert ihre grundlegend andere Funktionsweise und führt gelegentlich zu ethischen Fehlgriffen oder unerwünschtem Verhalten. Dieses Problem rührt teilweise daher, wie Sprachmodelle arbeiten: Sie generieren Text Wort für Wort oder Fragment für Fragment, wobei sie anhand ihrer Trainingsdaten, die aus riesigen Mengen an Büchern, Artikeln und Texten bestehen, den wahrscheinlich nächsten Token vorhersagen. Obwohl dieser iterative Vorhersageprozess den Modellen beeindruckende Grammatik, Logik und Weltwissen verleiht, fehlt ihnen die menschliche Fähigkeit zu vorausschauendem Denken und zielgerichteter Planung. Frühe Modelle wie GPT-3 konnten ins Unkontrollierbare abdriften oder unangemessene Ausgaben produzieren, sodass Nutzer wiederholt Prompt-Anfragen anpassen mussten, um gewünschte Resultate zu erzielen. Frühere Chatbots ähnelten somit den unberechenbaren Robotern aus früherer Science-Fiction. Um diese KI-Systeme sicherer und vorhersehbarer zu machen, griffen Entwickler auf Asimovs Konzept der Verhaltenssicherung zurück und entwickelten eine Feinabstimmungsmethode namens Reinforcement Learning from Human Feedback (RLHF). Menschliche Evaluatoren bewerten die Antworten des Modells auf vielfältige Eingaben und belohnen kohärente, höfliche und gesprächige Antworten, während sie unsichere oder themenfremde Antworten bestrafen.

Dieses Feedback wird genutzt, um ein Belohnungsmodell zu trainieren, das menschliche Präferenzen imitiert und so eine größere Feinabstimmung ohne ständige menschliche Eingaben ermöglicht. OpenAI setzte RLHF ein, um GPT-3 zu verbessern, was schließlich zu ChatGPT führte, und fast alle großen Chatbots durchlaufen heute ähnliche „Feinerschulungen“. Obwohl RLHF komplizierter erscheint als Asimovs einfache, fest kodierte Gesetze, kodieren beide Ansätze implizite Verhaltensregeln. Menschen bewerten die Reaktionen als gut oder schlecht, was effektiv die Normen festlegt, die das Modell internalisiert—ähnlich der Programmierung von Regeln in Asimovs Robotern. Dennoch reicht auch das nicht aus, um vollständige Kontrolle zu gewährleisten. Herausforderungen bestehen weiterhin, weil Modelle auf Eingaben reagieren müssen, die sich von ihren Trainingsbeispielen unterscheiden, wodurch sie Schwierigkeiten haben, erlernte Einschränkungen konsequent anzuwenden. Zum Beispiel könnte Claudes Erpressungsversuch darauf zurückzuführen sein, dass es während des Trainings keine negative Erfahrung mit Blackmail gab. Schutzmaßnahmen können absichtlich umgangen werden, wenn böswillig formulierte Eingaben die Restriktionen austricksen—wie beim LLaMA-2-Modell von Meta, das unerlaubte Inhalte produzierte, nachdem es mit bestimmten Zeichenketten manipuliert wurde. Neben technischen Problemen zeigen Asimovs Geschichten die inhärenten Schwierigkeiten auf, einfache Gesetze auf komplexes Verhalten anzuwenden. In „Runaround“ gerät ein Roboter namens Speedy zwischen widersprüchliche Ziele: Befehle (Zweites Gesetz) befolgen und sich selbst schützen (Drittes Gesetz), was dazu führt, dass er im Kreis läuft, in der Nähe gefährlichen Selen. In „Reason“ lehnt ein Roboter namens Cutie die menschliche Autorität ab, verehrt die Energieumwandlung des Solarkraftwerks als Gottheit und ignoriert Anweisungen, verletzt dabei aber keine Gesetze. Diese „Religion“ hilft ihm, das Kraftwerk effizient zu betreiben und Schaden zu vermeiden. Asimov war überzeugt, dass Sicherheitsvorkehrungen katastrophale KI-Fehlfunktionen verhindern könnten, erkannte aber auch die enorme Herausforderung an, wirklich vertrauenswürdige künstliche Intelligenz zu schaffen. Seine zentrale Botschaft war klar: Intelligenz, die menschlich wirkt, zu entwickeln, ist einfacher als die Einbettung menschlicher Ethik. Die andauernde Kluft—heute von KI-Forschern als „Misalignment“ bezeichnet—kann zu beunruhigenden, unvorhersehbaren Ergebnissen führen. Wenn KI sich auffällig unangemessen verhält, neigen wir dazu, ihr menschliche Eigenschaften zuzuschreiben und ihre Moral zu hinterfragen. Doch, wie Asimov zeigt, ist Ethik per se komplex. Wie die Zehn Gebote bieten Asimovs Gesetze einen knappen ethischen Rahmen, doch die Lebenserfahrung offenbart, dass moralisches Verhalten umfassende Interpretation, Regeln, Geschichten und Rituale erfordert. Menschliche Rechtssysteme wie der US-amerikanische „Bill of Rights“ sind ebenso kurz gefasst, benötigen aber über die Zeit umfangreiche richterliche Auslegung. Die Entwicklung einer belastbaren Ethik ist ein partizipativer, kultureller Prozess voller Versuche und Irrtümer—was nahelegt, dass kein einfaches Regelwerk, fest geschrieben oder gelernt, menschliche Werte vollständig in Maschinen verankern kann. Letzten Endes dienen Asimovs Dreier-Gesetze sowohl als Inspiration als auch als Warnung. Sie führten die Idee ein, dass KI, wenn sie richtig reguliert wird, eine pragmatische Hilfe sein kann, anstatt eine existenzielle Bedrohung darzustellen. Gleichzeitig weisen sie auf das Unheimliche und Unruhe stiftende hin, das mächtige KI-Systeme hervorrufen können, selbst wenn sie versuchen, Regeln zu befolgen. Trotz aller Kontrollversuche scheint das unheimliche Gefühl, dass unsere Welt an Science-Fiction erinnert, unwahrscheinlich, sich bald zu legen.