Les chercheurs espèrent que ce modèle aidera à combler le fossé entre les modèles linguistiques et les capacités de raisonnement semblables à celles des humains. IA Moi suis Lorsqu'une IA se voit attribuer un monologue intérieur, elle semble s'enseigner à elle-même pour devenir plus intelligente. Dans un article qui n'a pas encore fait l'objet d'une évaluation par les pairs, des chercheurs de l'Université de Stanford et d'un groupe appelé "Notbad AI" ont collaboré pour développer un modèle d'IA qui prend un moment pour "réfléchir" avant de générer des réponses. Il montre son processus de réflexion, présente son raisonnement et demande aux utilisateurs de déterminer la réponse la plus correcte. L'équipe derrière cette IA réfléchie, connue sous le nom de Quiet Self-Taught Reasoner (Quiet-STaR en abrégé), visait à créer un modèle qui non seulement a la capacité d'apprendre automatiquement le raisonnement, ce qu'ils ont réussi à faire en 2022 avec l'algorithme original de Self-Taught Reasoner, mais aussi de le faire silencieusement avant de fournir des réponses. De cette manière, il fonctionne de manière similaire au monologue intérieur d'un être humain, idéalement avant de parler. Dans un enthousiaste fil de discussion X-autrefois-Twitter concernant le nouveau modèle auquel il a contribué, Eric Zelikam de l'Université de Stanford a déclaré : "De manière excitante, l'auto-enseignement du raisonnement sur des textes web divers améliore automatiquement d'autres formes de raisonnement !" Pour construire cette IA contemplative, l'équipe de recherche a construit Quiet-STaR sur Mistral 7B, un modèle de langage large open-source entraîné sur sept milliards de paramètres. Selon la communauté Hugging Face AI, il est considéré comme surpassant la dernière version du modèle Llama de Meta. Quiet-STaR a été programmé pour afficher son raisonnement lors de la fourniture des résultats, et les utilisateurs peuvent choisir la réponse la plus précise parmi les options.

Comme indiqué dans l'article, cette approche a permis au modèle d'être correct 47, 2 % du temps, ce qui, bien que relativement peu impressionnant, représente une amélioration par rapport à la précision de 36, 3 % obtenue sans la formation supplémentaire au raisonnement. Bien que le modèle soit encore peu performant en mathématiques, ne répondant correctement qu'à 10, 9 % des questions, le Quiet-STaR pré-entraîné n'en a répondu correctement qu'à 5, 9 %, ce qui indique que sa compétence mathématique a doublé pendant l'entraînement. Bien que ces résultats ne soient pas révolutionnaires, ils sont intrigants car les chatbots tels que ChatGPT d'OpenAI et Gemini de Google ont historiquement eu du mal avec le raisonnement de bon sens. Les chercheurs proposent dans leur article que Quiet-STaR puisse servir de tremplin pour réduire l'écart entre les modèles linguistiques et les capacités de raisonnement des humains. Peut-être que le mystérieux modèle Q* (prononcé "queue star") d'OpenAI, qui semble étonnamment similaire, possède un potentiel similaire. Seul le temps révélera la vérité. Pour plus d'informations sur les avancées de l'IA, consultez le rapport du Département d'État qui met en garde contre une apocalypse de l'IA et suggère de limiter la puissance de calcul pour l'entraînement.