KI-Experten sind der Meinung, dass das Problem von KI-Chatbots, die ungenaue oder erfundene Antworten liefern, lösbar ist und innerhalb eines Jahres gelöst werden könnte. Raza Habib, der Gründer von Humanloop, einem Start-up, das sich auf effizientes Training großer Sprachmodelle konzentriert, erklärte, dass die Modelle bereits gut kalibriert sind, bevor sie mit menschlichen Vorlieben feinabgestimmt werden. Die Herausforderung besteht darin, das Wissen zu bewahren, während gleichzeitig die Modelle kontrollierbarer werden. Habib ist jedoch nicht der Meinung, dass dies unbedingt ein Problem ist, das gelöst werden muss, da Benutzer sich an den Umgang mit unvollkommener Technologie gewöhnt haben.

Tatsächlich könnte eine gewisse KI-Halluzination förderlich sein, um Kreativität zu fördern und neue Ideen zu generieren. Die Podiumsdiskussion berührte auch den Vorfall mit dem Chatbot von Air Canada, bei dem Kunden falsche Informationen erhielten und versprochene Rückerstattungen später verweigert wurden. Der Vorfall unterstreicht die Bedeutung gründlicher Tests und der Festlegung geeigneter Parameter für Chatbots.