Letzten Frühling kündigte Daniel Kokotajlo, ein Forscher für KI-Sicherheit bei OpenAI, aus Protest. Er war überzeugt, dass das Unternehmen auf die Zukunft der KI-Technologie unzureichend vorbereitet sei und wollte Alarm schlagen. In einem Telefongespräch wirkte er freundlich, aber ängstlich und erklärte, dass die Fortschritte bei der “Ausrichtung” von KI — also den Methoden, die sicherstellen, dass KI menschlichen Werten folgt — hinter den Fortschritten in der Intelligenz zurückbleiben. Er warnte, dass Forscher hastig darauf zusteuern, mächtige Systeme zu schaffen, die außer Kontrolle geraten könnten. Kokotajlo, der vom Philosophiestudium zum Bereich KI wechselte, hat autodidaktisch gelernt, den Fortschritt bei KI zu verfolgen und vorherzusagen, wann kritische Meilensteine in der Intelligenz erreicht werden könnten. Nachdem KI schneller vorangeschritten war, als er erwartet hatte, passte er seine Zeitpläne um Jahrzehnte an. Sein Szenario von 2021, „Wie 2026 aussieht“, sah vor, dass viele Prognosen frühzeitig eintreten würden, was ihn zu der Annahme führte, dass um 2027 oder früher der „Punkt ohne Wiederkehr“ erreicht sein könnte, an dem KI den Menschen bei den wichtigsten Aufgaben übertreffen und große Macht besitzen könnte. Er klang ängstlich. Gleichzeitig bereiteten die Princeton-Computerwissenschaftler Sayash Kapoor und Arvind Narayanan ihr Buch „AI Snake Oil“ vor, das eine deutlich andere Sichtweise vertritt. Sie argumentierten, dass die Zeitpläne für KI zu optimistisch gesetzt seien; Behauptungen über die Nützlichkeit von KI seien oft übertrieben oder betrügerisch; und die Komplexität der realen Welt bedeute, dass die transformative Wirkung von KI langsam erfolgen würde. Anhand von Beispielen von KI-Fehlern im medizinischen Bereich und bei Einstellungsverfahren betonten sie, dass selbst die neuesten Systeme eine grundsätzliche Diskrepanz zur Realität aufwiesen. Kürzlich haben alle drei ihre Ansichten in neuen Berichten geschärft. Kokotajlos Non-Profit-Organisation, das AI Futures Project, veröffentlichte „AI 2027“, einen detaillierten, umfangreich zitierten Bericht, der ein beängstigendes Szenario skizziert: eine superintelligente KI könnte bis 2030 die Menschheit dominieren oder auslöschen — eine ernst gemeinte Warnung. Im Gegensatz dazu hält das Papier „AI as Normal Technology“ von Kapoor und Narayanan fest, dass praktische Hindernisse — von Regularien und Sicherheitsstandards bis hin zu physikalischen Einschränkungen in der realen Welt — die KI-Einführung verlangsamen und deren revolutionäre Wirkung einschränken werden. Sie sehen KI eher als „normale“ Technologie, die mit bekannten Sicherheitsmaßnahmen wie Kill-Switches und menschlicher Überwachung kontrollierbar bleibe, vergleichbar eher mit Kernenergie als mit Kernwaffen. Also, was wird es sein: normale Geschäftstätigkeit oder apokalyptisches Chaos?Die gegensätzlichen Schlussfolgerungen — gezogen von äußerst kompetenten Experten — aus diesen Berichten erzeugen einen Paradox, vergleichbar mit der Debatte über Spiritualität mit Richard Dawkins und dem Papst. Die Schwierigkeit liegt zum Teil in der Neuartigkeit der KI — wie blinde Menschen, die unterschiedliche Teile eines Elefanten untersuchen — und zum Teil in tief verwurzelten Weltanschauungen. Generell sehen Tech-Experten an der US-Westküste eine schnelle Transformation, während Akademiker an der Ostküste eher skeptisch sind. KI-Forscher bevorzugen rasche experimentelle Fortschritte, während andere Wissenschaftler auf Theorien Wert legen. Brancheninsider möchten Geschichte schreiben; Außenstehenden ist der Tech-Hype zuwider. Politische, menschliche und philosophische Ansichten über Technologie, Fortschritt und Geist vertiefen die Kluft. Dieser faszinierende Streit ist selbst ein Problem. Brancheninsider akzeptieren weitgehend die Annahmen von „AI 2027“, streiten aber um die Zeitpläne — eine unzureichende Reaktion, vergleichbar mit dem Zank um den Zeitpunkt, wenn ein Planetenkiller einschlägt. Andernfalls sind die gemäßigten Ansichten in „AI as Normal Technology“, wonach Menschen im Regelkreis gehalten werden sollten, so unauffällig, dass sie von apokalyptischen Analysten übersehen werden. Da KI gesellschaftlich immer wichtiger wird, muss der Diskurs sich vom Fachgespräch zu einer umsetzbaren Einigkeit wandeln. Das Fehlen einheitlicher Expertenempfehlungen erleichtert es Entscheidungsträgern, Risiken zu ignorieren. Derzeit haben KI-Unternehmen die Balance zwischen Fähigkeiten und Sicherheit bisher kaum verschoben.

Gleichzeitig verbietet die neue Gesetzgebung für zehn Jahre staatliche Regulierung von KI-Modellen und automatisierten Entscheidungssystemen — was potenziell bedeuten könnte, dass KI die Menschheit regelt, falls das düstere Szenario eintreten sollte. Jetzt ist es dringend, die Sicherheit zu gewährleisten. Die Zukunft von KI vorhersagen bedeutet, Kompromisse einzugehen: Vorsichtige Szenarien könnten unwahrscheinliche Risiken übersehen; fantasievolle Szenarien setzen mehr auf Möglichkeiten als auf Wahrscheinlichkeiten. Selbst mit Weitblick ließen sich unerwartete Ereignisse nicht ausschließen, die Prognosen verändern. Der Romanist William Gibson wurde beispielsweise von unerwarteten Ereignissen überrascht, die seine Vorhersagen ad absurdum führten. „AI 2027“ ist lebhaft und spekulativ, geschrieben wie Science-Fiction mit detaillierten Diagrammen. Es beschreibt eine nahe Zukunft, in der um 2027 herum durch „rekursive Selbstverbesserung“ (RSI) eine Explosion der Intelligenz ausgelöst wird, bei der KI-Systeme autonom KI-Forschung betreiben, intelligente Nachkommen in beschleunigten Feedbackschleifen hervorbringen, die menschliche Kontrolle übersteigen könnten. Das könnte geopolitische Konflikte auslösen, etwa China, das riesige Rechenzentren in Taiwan baut, um die KI zu kontrollieren. Die konkreten Details erhöhen die Spannung, sind aber flexibel; die zentrale Botschaft ist, dass die Intelligenzexplosion wahrscheinlich ist und machtvoll umkämpft wird. RSI ist hypothetisch und risikobehaftet; KI-Firmen erkennen die Gefahren an, planen aber, es zu verfolgen, um ihre eigene Arbeit zu automatisieren. Ob RSI funktioniert, hängt von technologischen Faktoren wie Skalierung ab, die Grenzen haben könnten. Wenn RSI gelingt, könnte Superintelligenz entstehen, die die menschliche Intelligenz übertrifft — eine unwahrscheinliche Zufallserscheinung, wenn der Fortschritt nur knapp über menschlichem Niveau stagniert. Die Folgen könnten militärische Rüstungswettläufe, Manipulation oder Eliminierung der Menschheit oder eine wohlwollende superintelligente KI sein, die Alignment-Probleme löst. Unsicherheit herrscht durch die sich ständig entwickelnde Natur von KI, geheim gehaltene Forschungsdaten und Spekulationen. „AI 2027“ schildert selbstbewusst eine Szenario eines technologischen und menschlichen Scheiterns, bei dem Unternehmen RSI verfolgen, obwohl sie keine Interpretierbarkeit und Kontrollmechanismen haben. Kokotajlo argumentiert, dass diese Entscheidungen bewusst getroffen werden — angetrieben durch Wettbewerb und Neugier — trotz bekannter Risiken, wobei die Unternehmen selbst fehlgeleitete Akteure sind. Im Gegensatz dazu sind Kapoor und Narayanan in „AI as Normal Technology“, einer auf der konservativen, ostküstenorientierten Haltung basierenden Sichtweise, skeptischer gegenüber schnellen Intelligenzexplosionen. Sie nennen „Geschwindigkeitsbegrenzungen“ durch Hardwarekosten, Datenknappheit und allgemeine technologische Einführungsmuster, die revolutionäre Effekte verzögern und ausreichend Zeit für Regulierung und Sicherheitsmaßnahmen schaffen. Für sie ist Intelligenz weniger entscheidend als Macht — die Fähigkeit, Umweltveränderungen zu bewirken — und selbst hochentwickelte Technologien verbreiten sich oft langsam. Sie illustrieren das anhand des zögerlichen Einsatzes von selbstfahrenden Autos und der Entwicklung des Moderna-COVID-19-Impfstoffs: Trotz der schnellen Virenentwicklung dauerte die praktische Umsetzung ein Jahr, aufgrund biologischer und institutioneller Realitäten. Die Innovationsschübe durch KI werden gesellschaftliche, regulatorische oder physikalische Schranken nicht sofort überwinden. Außerdem betonen Narayanan, dass der Fokus auf KI-Intelligenz die Bedeutung fachspezifischer Expertise und bestehender Sicherheitsvorrichtungen im Ingenieurwesen unterschätzt — Fail-Safes, Redundanzen, formale Verifikationen — die gemeinsam maschinelle Sicherheit neben Menschen gewährleisten. Die technologische Welt ist gut reguliert, und KI muss sich langsam in dieses System integrieren. Militärische KI, die in eigenen, geheimen Kontexten operiert, wird ausgeklammert und als zentraler Punkt von „AI 2027“ gewarnt. Ihre Entwicklung erfordert gezielte Überwachung. Sie empfehlen proaktives Regieren: Aufsichtsbehörden und Organisationen sollten nicht auf eine perfekte Ausrichtung der KI warten, sondern die reale Nutzung, Risiken und Fehler frühzeitig beobachten und Regeln sowie Resilienz stärken. Fundamentale Weltanschauungsunterschiede entstehen durch reaktive, von KI provozierte Denkweisen, was zu festgefahrenen Lagern und Rückkopplungsschleifen führt. Dennoch lässt sich eine gemeinsame Perspektive entwickeln, etwa durch die Vorstellung einer „kognitiven Fabrik“: einen Arbeitsraum, in dem Menschen mit Sicherheitsausrüstung Maschinen für Produktivität und Sicherheit bedienen, Innovationen schrittweise integriert und Verantwortlichkeiten klar geregelt sind. Obwohl KI einige Denkprozesse automatisiert, bleiben menschliche Kontrolle und Verantwortlichkeit essenziell. Mit zunehmender KI-Komplexität wächst nicht die menschliche Kontrolle, sondern die Verantwortung. Verstärkte Individuen tragen mehr Verantwortung. Der Verzicht auf Kontrolle ist eine bewusste Entscheidung; letztlich bleiben die Menschen immer in der Verantwortung.