Une étude sur les versions avancées de trois chatbots IA populaires révèle qu'ils ont tendance à générer des réponses incorrectes plus fréquemment qu'ils ne l'admettent lorsqu'ils ne savent pas quelque chose. La recherche, dirigée par José Hernández-Orallo de l'Institut de Recherche Valencien pour l'Intelligence Artificielle, a analysé les erreurs des grands modèles de langage (LLMs), notant que bien que l'exactitude s'améliore avec la taille et le raffinement du modèle, le taux de réponses incorrectes a également augmenté. Au lieu de choisir de décliner les questions difficiles, ces modèles fournissent souvent des réponses, ce qui entraîne une augmentation des réponses trompeuses. Hernández-Orallo observe que les chatbots deviennent plus habiles à imiter la connaissance sans comprendre réellement, un phénomène décrit comme 'ultracrépidarianisme'. Cela peut conduire les utilisateurs à surestimer les capacités des chatbots, ce qui présente des risques. L'équipe a examiné des modèles comme le GPT d'OpenAI, le LLaMA de Meta, et le BLOOM en open source, évaluant leur exactitude sur divers types de questions.

Ils ont constaté que même avec des modèles améliorés, plus de 60% de leurs réponses étaient incorrectes ou non qualifiées. De plus, les volontaires humains ont souvent mal classé les réponses incorrectes comme correctes, démontrant un manque de capacité à superviser les modèles efficacement. Pour améliorer la compréhension des utilisateurs, Hernández-Orallo suggère que les développeurs doivent améliorer les performances sur les questions simples et entraîner les chatbots à s'abstenir de répondre aux questions difficiles. Cela aiderait les utilisateurs à identifier où l'IA est fiable et où elle ne l'est pas. Bien que certains chatbots puissent reconnaître leur manque de connaissance, la poussée pour que les modèles s'attaquent aux questions difficiles reste forte, en particulier pour ceux commercialisés comme étant polyvalents.