Los expertos en inteligencia artificial creen que el problema de los chatbots de inteligencia artificial que proporcionan respuestas inexactas o fabricadas es solucionable y podría resolverse en un año. Raza Habib, fundador de Humanloop, una startup enfocada en el entrenamiento eficiente de grandes modelos de lenguaje, explicó que los modelos ya están bien calibrados antes de ser ajustados con las preferencias humanas. El desafío radica en preservar el conocimiento mientras se hace que los modelos sean más controlables. Sin embargo, Habib no cree que sea necesariamente un problema que deba resolverse, ya que los usuarios están acostumbrados a lidiar con tecnología imperfecta.

De hecho, un poco de alucinación de IA podría ser beneficioso para fomentar la creatividad y generar ideas novedosas. La discusión del panel también abordó el incidente de Air Canada con su chatbot, donde los clientes recibieron información incorrecta y se les prometieron reembolsos que posteriormente les fueron negados. El incidente subrayó la importancia de realizar pruebas exhaustivas y establecer parámetros adecuados para los chatbots.