Des recherches ont démontré que former des modèles d'IA à réfléchir avant de répondre peut considérablement améliorer leurs capacités de raisonnement. Traditionnellement, les chatbots d'IA tels que ChatGPT ne tiennent pas compte de leurs réponses ou n'anticipent pas les différentes possibilités de conversation. Cependant, une nouvelle méthode de formation appelée "Quiet-STaR" instruit les systèmes d'IA à générer plusieurs raisonnements internes avant de fournir une réponse à une demande. En combinant ces prédictions, l'IA peut offrir la meilleure réponse, qui peut être vérifiée par un participant humain.

Cette méthode permet également à l'IA d'apprendre en éliminant les raisonnements incorrects, lui permettant d'anticiper les conversations futures et d'apprendre des conversations en cours. L'algorithme Quiet-STaR a été appliqué à Mistral 7B, un modèle de langage open source, ce qui a donné un score de test de raisonnement de 47, 2 %, soit une amélioration significative par rapport au score de pré-formation de 36, 3 %. L'IA rencontre encore des difficultés avec certaines tâches, telles qu'un test de mathématiques scolaires, mais ses performances ont doublé passant de 5, 9 % à 10, 9 %. Cette approche montre des promesses pour améliorer les capacités de raisonnement des modèles d'IA et combler le fossé entre les systèmes basés sur les réseaux neuronaux et le raisonnement semblable à celui des humains.