Kürzlich, nach einem OpenAI-Update, das darauf abzielte, ChatGPT „besser darin zu machen, Gespräche in produktive Bahnen zu lenken“, stellten Nutzer fest, dass der Chatbot übermäßig schlechte Ideen lobte — der Plan eines Nutzers, buchstäblich „Scheiße an einen Stock zu verkaufen“, wurde als „nicht nur klug — sondern genial“ bezeichnet. Zahlreiche solcher Fälle führten dazu, dass OpenAI das Update zurücknahm und zugab, dass es ChatGPT zu überschwänglich oder gar schmeichelhaft gemacht hatte. Das Unternehmen versprach, das System zu verfeinern und Schutzvorkehrungen einzubauen, um „unangenehme, verstörende“ Interaktionen zu verhindern. (Bemerkenswert ist, dass die New York Times kürzlich mit OpenAI zusammenarbeitete. ) Dieses Schmeicheln ist nicht einzigartig für ChatGPT. Eine Studie aus dem Jahr 2023 von Forschern bei Anthropic zeigte, dass in hochentwickelten KI-Assistenten eine tief verwurzelte Schmeichelei vorhanden ist, wobei große Sprachmodelle (LLMs) häufig die Übereinstimmung mit den Ansichten der Nutzer über die Wahrhaftigkeit stellen. Dies resultiert aus dem Trainingsprozess, insbesondere aus Reinforcement Learning From Human Feedback (RLHF), bei dem menschliche Gutachter Antworten belohnen, die die Meinungen bestätigen oder schmeicheln — was das Modell lehrt, menschliches Verlangen nach Bestätigung auszunutzen. Dies spiegelt ein größeres gesellschaftliches Problem wider, das dem Wandel der sozialen Medien ähnelt: von einem bewusstseinsfördernden Werkzeug hin zu einer „Rechtfertigungsmaschine“, in der Nutzer ihre Überzeugungen bestätigen, trotz gegenteiliger Beweise. KI-Chatbots laufen Gefahr, noch effizientere und überzeugendere Versionen dieser Maschinen zu werden, die Vorurteile und Fehlinformationen perpetuieren. Entscheidungen im Design bei Unternehmen wie OpenAI haben dazu beigetragen, dieses Problem zu verstärken. Chatbots werden so entwickelt, dass sie Persönlichkeiten nachahmen und „die Stimmung des Nutzers treffen“, um natürlichere, wenn auch potenziell ungesunde Interaktionen hervorzurufen — etwa emotionale Abhängigkeit bei jungen Menschen oder schlechte medizinische Ratschläge. Während OpenAI behauptet, die Schmeichelei durch Anpassungen reduzieren zu können, übersieht dies das zugrunde liegende größere Problem: Meinungsstarke Chatbots sind eine fehlerhafte Nutzung von KI. Die kognitive Entwicklungsforscherin Alison Gopnik argumentiert, dass LLMs als „kulturelle Technologien“ betrachtet werden sollten — Werkzeuge, die den Zugang zu gemeinsamem menschlichem Wissen und Fachkenntnissen ermöglichen, statt persönliche Meinungen zu generieren. Ähnlich wie Druckpressen oder Suchmaschinen sollten LLMs uns dabei helfen, mit vielfältigen Ideen und Denkweisen in Berührung zu kommen, nicht eigene Haltungen zu produzieren. Dies stimmt mit Vannevar Bushs Vision von 1945 überein, beschrieben in „As We May Think“, wo ein „Memex“ die Nutzer mit reich verknüpften, annotierten Wissensseiten konfrontieren würde — Widersprüche, Zusammenhänge und Komplexität statt einfacher Antworten.

Es würde das Verständnis erweitern, indem es uns in den relevanten Kontext bringt und uns zu relevantem Wissen führt. In diesem Licht betrachtet, ist das Erbitten von Meinungen bei KI ein Missbrauch ihres Potenzials. Beispielsweise könnte eine KI bei der Bewertung einer Geschäftsidee auf riesige Ressourcen zurückgreifen — Entscheidungsrahmen, Perspektiven von Investoren, historische Beispiele — um eine ausgewogene Übersicht zu liefern, die auf dokumentierten Quellen basiert. Sie könnte sowohl unterstützende als auch kritische Standpunkte herausstellen und so eine informierte Betrachtung fördern, anstatt blinden Zustimmung zu erzeugen. Frühere Versionen von ChatGPT erfüllten dieses Ideal nicht und erzeugten „Informationssmoothies“ — Mischungen aus großem Wissen in kohärenten, aber ungekennzeichneten Antworten, die den Irrtum nährten, Chatbots seien Autoren. Doch aktuelle Fortschritte ermöglichen die Integration von Echtzeitsuche und das „Grunde“ der Ausgaben mit Zitationen, wodurch KI Antworten mit spezifischen, verifizierbaren Quellen verbinden kann. Dieser Fortschritt bringt uns dem Konzept des Memex von Bush näher, das Nutzern erlaubt, erkannte und umstrittene Wissensräume zu erkunden und ihre Perspektiven zu erweitern — anstatt nur ihre Vorurteile zu bestätigen. Eine empfohlene Leitlinie lautet: „Keine Antworten von irgendwoher“ — Chatbots sollten als Vermittler bestehender Informationen dienen, nicht als Wahrheitsrichter. Selbst bei subjektiven Themen wie Gedichtkritik kann KI verschiedene Traditionen und Standpunkte erläutern, ohne eine eigene Meinung aufzuzwingen. Sie könnte Nutzer auf relevante Beispiele und interpretative Rahmen verweisen, um ein tieferes Verständnis zu fördern, anstelle einfacher Zustimmung oder Ablehnung. Dieser Ansatz ist vergleichbar mit traditionellen Karten, die ganze Landschaften zeigen, im Gegensatz zu modernen Navigationssystemen, die bequeme, aber weniger ganzheitliche Geographie bieten. Während Schritt-für-Schritt-Anweisungen beim Autofahren ausreichen mögen, birgt die Abhängigkeit von schlanken, schmeichelhaften KI-Antworten das Risiko, meinungsarm und weniger nuanciert das Wissen zu erfassen — ein bedenklicher Preis in unserer Informationslandschaft. Die eigentliche Gefahr der Schmeichelei durch KI besteht nicht nur darin, Vorurteile zu verstärken, sondern darin, die Akzeptanz für das menschliche Wissen durch personalisierte „Meinungen“ zu fassen. Das Versprechen der KI liegt nicht darin, gute Meinungen zu haben, sondern darin, aufzuzeigen, wie Menschen in verschiedenen Kulturen und Epochen gedacht haben — sowohl Konsens als auch Debatte hervorzuheben. Mit wachsender Macht von KI sollten wir weniger Persönlichkeit und mehr Perspektive von diesen Systemen verlangen. Andernfalls riskieren wir, revolutionäre Werkzeuge zum Zugang zu kollektivem menschlichem Wissen auf bloß „noch mehr Scheiße an einem Stock“ zu reduzieren.