Une coalition de procureurs généraux d'État de tout les États-Unis a officiellement averti les principaux laboratoires d'intelligence artificielle, en particulier Microsoft, OpenAI et Google, les incitant à répondre aux problèmes importants liés à leurs grands modèles de langage (LLMs). Ces systèmes d'IA, connus pour leur capacité avancée à comprendre et générer des textes proches de ceux des humains, produisent parfois des « sorties délirantes » ou hallucinations artificielles—des réponses inexactes, trompeuses ou complètement inventées. De telles erreurs présentent des risques de propager de fausses informations ou des contenus nuisibles présentés comme des faits. Les procureurs généraux soulignent les dangers juridiques et éthiques que ces inexactitudes impliquent, notant que des sorties trompeuses pourraient violer des réglementations et entraîner des conséquences juridiques pour les entreprises responsables. Cet avertissement marque un moment clé dans la gouvernance de l’IA, reflétant une attention accrue portée à la transparence, la fiabilité et la responsabilité des technologies d’IA déployées publiquement. Les LLM de Microsoft, OpenAI et Google alimentent de nombreuses applications largement utilisées, intensifiant ainsi les appels à renforcer les protections pour limiter les hallucinations et améliorer les mécanismes de supervision afin de protéger les consommateurs, les entreprises et les secteurs dépendant d’informations précises en IA. Cette intervention signale également des préoccupations sociétales plus larges concernant le potentiel de l’IA à éroder la confiance publique, à amplifier des narratifs faux, et à être exploité à des fins malveillantes. Les autorités légales agissent donc pour assurer que le développement de l’IA reste conforme aux standards réglementaires et à l’intérêt public.

En réponse, la communauté de l’IA devrait collaborer avec les régulateurs pour équilibrer innovation et responsabilité, en mettant l’accent sur la transparence, la précision et la sécurité des utilisateurs comme éléments centraux d’un usage éthique de l’IA. Bien que les entreprises d’IA aient reconnu ces hallucinations et apporté des améliorations—comme de meilleures méthodes d’entraînement et une supervision humaine—le renforcement de la surveillance juridique indique que des efforts plus robustes sont nécessaires pour prévenir des résultats préjudiciables ou illégaux. Cette situation souligne la complexité du déploiement de l’IA et l’importance cruciale d’une coopération entre les développeurs de technologies, les décideurs et les instances légales pour réguler efficacement ces technologies en rapide évolution, qui ont un impact sociétal étendu. À mesure que l’IA s’intègre de plus en plus dans des domaines comme le service client, la création de contenu et le soutien à la décision, la nécessité de traiter les sorties délirantes devient urgente. Les solutions impliqueront probablement des améliorations technologiques, une plus grande transparence, des politiques d’utilisation plus claires et des cadres de supervision renforcés. En résumé, l’avertissement récent des procureurs généraux des États-Unis à l’encontre des principaux laboratoires d’IA constitue une étape pivot dans la gouvernance de l’IA, exigeant des actions concrètes pour limiter les hallucinations et soulignant l’influence croissante des cadres législatifs dans l’orientation d’un progrès responsable de l’IA. Ce moment offre à toutes les parties prenantes l’occasion de réaffirmer leur engagement en faveur d’un développement éthique de l’IA, garantissant que ces outils puissants servent la société de manière fiable et sûre.