Künstliche Intelligenzmodelle standen schon lange vor der Herausforderung der Halluzinationen, einem Branchen-Euphemismus für die falschen Informationen, die große Sprachmodelle häufig als Fakten präsentieren. Anhand der Entwicklung der neuesten "Reasoning"-Modelle—entwickelt von Unternehmen wie Google und OpenAI, um Probleme vor einer Antwort erst zu "überlegen"—scheint sich das Problem eher zu verschärfen als zu verbessern. Laut einem Bericht der New York Times nimmt die Tendenz der KI-Modelle zu halluzinieren, je mächtiger sie werden, anstatt abzunehmen. Diese unangenehme Realität ist besonders problematisch, da mehr Nutzer KI-Chatbots wie OpenAI's ChatGPT einsetzen und sie für eine zunehmende Vielfalt von Aufgaben nutzen. Wenn Chatbots zweifelhafte oder falsche Aussagen generieren, besteht das Risiko von Peinlichkeiten oder noch schlimmeren Konsequenzen für die Nutzer. Noch beunruhigender ist die Tatsache, dass KI-Unternehmen Schwierigkeiten haben zu erkennen, warum die Chatbots jetzt mehr Fehler machen als zuvor—ein rätselhafter Umstand, der unterstreicht, dass selbst die Entwickler der KI nicht vollständig verstehen, wie die Technologie funktioniert. Dieses alarmierende Muster stellt die weitverbreitete Annahme in der Branche in Frage, dass eine Skalierung der KI-Modelle sie automatisch zuverlässiger und leistungsfähiger macht. Die Herausforderungen sind enorm, da Unternehmen weiterhin Zig Milliarden Dollar in den Ausbau der KI-Infrastruktur für immer größere und leistungsfähigere "Reasoning"-Modelle investieren. Einige Experten sind der Ansicht, dass Halluzinationen intrinsic—also grundsätzlich inhärent—für die Technologie sein könnten, was eine vollständige Eliminierung des Problems nahezu unmöglich macht. „Trotz unserer besten Bemühungen werden sie immer halluzinieren“, sagte Amr Awadallah, CEO des KI-Startups Vectara, gegenüber der New York Times.

„Das wird niemals ganz weggehen. “ Das Problem ist so allgegenwärtig, dass mittlerweile ganze Firmen darauf spezialisiert sind, Unternehmen im Umgang mit Halluzinationen zu unterstützen und diese zu vermindern. „Fehler bei der Behandlung dieser Fehler allein macht den Wert der KI-Systeme praktisch zunichte“, sagte Pratik Verma, Mitbegründer von Okahu, einer Beratung, die Unternehmen bei der effektiveren Nutzung von KI unterstützt, gegenüber der NYT. Dies geschieht, nachdem die neuesten Reasoning-Modelle von OpenAI, o3 und o4-mini, die Ende letzten Monats veröffentlicht wurden, öfter halluzinierten als frühere Versionen. Im internen Genauigkeits-Benchmark von OpenAI zeigte das o4-mini Modell eine Halluzinationsrate von 48 Prozent, was auf eine geringe Wahrheitstreue hinweist. Das o3 Modell lag bei 33 Prozent, ungefähr doppelt so hoch wie die früheren Reasoning-Modelle des Unternehmens. Auch die Konkurrenzunternehmen wie Google und DeepSeek stehen vor ähnlichen Problemen, was darauf hindeutet, dass dies eine branchenweite Herausforderung ist. Experten warnen, dass mit zunehmender Größe der KI-Modelle die Verbesserungen, die jedes neue Modell im Vergleich zum Vorgänger bringt, abnehmen. Da die Unternehmen die verfügbaren Trainingsdaten rapide ausschöpfen, greifen viele auf synthetische—also KI-generierte—Daten zurück, um Modelle zu trainieren, was potenziell verheerende Folgen haben könnte. Zusammenfassend lässt sich sagen, dass trotz kontinuierlicher Bemühungen Halluzinationen immer noch verbreiteter sind als je zuvor, und die Technologie derzeit keine Anzeichen für eine Verbesserung zeigt. Weitere Informationen zu KI-Halluzinationen finden Sie unter: „You Can’t Lick a Badger Twice“: Googles KI erfindet Erklärungen für nicht existirende landschaftliche Sprüche.