Una coalición de fiscales generales de diferentes estados de Estados Unidos ha emitido una advertencia formal a los principales laboratorios de inteligencia artificial, específicamente a Microsoft, OpenAI y Google, instándolos a abordar problemas importantes con sus grandes modelos de lenguaje (LLMs). Estos sistemas de IA, conocidos por su avanzada capacidad para entender y generar texto similar al humano, a veces producen “salidas delirantes” o alucinaciones de IA—respuestas inexactas, engañosas o completamente inventadas. Estos errores representan riesgos de difundir información falsa o dañina presentada como hechos. Los fiscales generales subrayan los peligros legales y éticos que conllevan estas inexactitudes, señalando que las salidas engañosas podrían violar regulaciones y acarrear posibles consecuencias legales para las empresas responsables. Esta advertencia marca un momento clave en la gobernanza de la IA, reflejando un mayor escrutinio sobre la transparencia, fiabilidad y responsabilidad de las tecnologías de IA desplegadas públicamente. Los LLMs de Microsoft, OpenAI y Google alimentan numerosas aplicaciones ampliamente utilizadas, intensificando los llamados a fortalecer las medidas de protección para limitar las alucinaciones y mejorar los mecanismos de supervisión para proteger a los consumidores, empresas y sectores que dependen de información precisa de IA. La intervención también señala preocupaciones sociales más amplias sobre el potencial de la IA para erosionar la confianza pública, amplificar narrativas falsas y ser explotada de manera maliciosa. Las autoridades legales están actuando para garantizar que el desarrollo de la IA se ajuste a las normativas y al interés público. En respuesta, se espera que la comunidad de IA colabore con los reguladores para equilibrar la innovación con la responsabilidad, poniendo la transparencia, la precisión y la seguridad del usuario como aspectos centrales del uso ético de la IA. Aunque las empresas de IA han reconocido las alucinaciones y han realizado mejoras, como métodos de entrenamiento más efectivos y supervisión humana, la mayor escrutinio legal indica que son necesarias medidas más robustas para prevenir resultados dañinos o ilegales.

Esta situación pone de manifiesto la complejidad del despliegue de la IA y la necesidad crucial de la cooperación entre desarrolladores tecnológicos, responsables políticos y entidades legales para regular de manera efectiva las tecnologías en rápida evolución y de amplio impacto social. A medida que la IA se integra cada vez más en áreas como atención al cliente, creación de contenidos y apoyo en la toma de decisiones, la urgencia de abordar las salidas delirantes aumenta. Las soluciones probablemente incluirán mejoras tecnológicas, mayor transparencia, políticas de uso más claras y marcos de supervisión más fuertes. En resumen, la advertencia reciente de los fiscales generales estatales de EE. UU. a los principales laboratorios de IA representa un paso fundamental en la gobernanza de la IA, que exige acciones concretas para reducir las alucinaciones de IA y resalta la creciente influencia de los marcos legales en la orientación de un desarrollo responsable de la IA. Este momento ofrece una oportunidad para que todos los actores involucrados se comprometan a un desarrollo ético de la IA, garantizando que estas poderosas herramientas sirvan a la sociedad de manera fiable y segura.