Uma coalizão de procuradores-gerais de vários estados dos Estados Unidos emitiu uma advertência formal às principais laboratórios de inteligência artificial, especificamente Microsoft, OpenAI e Google, solicitando que abordem questões importantes relacionadas aos seus grandes modelos de linguagem (LLMs). Esses sistemas de IA, conhecidos por sua habilidade avançada de compreender e gerar textos semelhantes aos humanos, às vezes produzem “saídas delirantes” ou alucinações de IA — respostas imprecisas, enganadoras ou totalmente fabricadas. Tais erros representam riscos de disseminar informações falsas ou prejudiciais apresentadas como fatos. Os procuradores-gerais ressaltam os perigos legais e éticos que essas imprecisões acarretam, observando que saídas enganosas podem violar regulamentações e resultar em possíveis consequências legais para as empresas responsáveis. Este aviso marca um momento importante na governança da IA, refletindo uma maior vigilância sobre a transparência, confiabilidade e responsabilidade das tecnologias de IA implantadas publicamente. Os LLMs da Microsoft, OpenAI e Google alimentam inúmeras aplicações amplamente utilizadas, intensificando os pedidos por salvaguardas mais rigorosas para limitar alucinações e melhorar os mecanismos de supervisão, a fim de proteger consumidores, empresas e setores que dependem de informações precisas de IA. A intervenção também sinaliza preocupações mais amplas da sociedade sobre o potencial da IA de erodir a confiança pública, ampliar narrativas falsas e ser explorada de forma maliciosa. Autoridades legais estão, portanto, agindo para garantir que o desenvolvimento da IA esteja alinhado com as normas regulatórias e o interesse público.

Como resposta, espera-se que a comunidade de IA colabore com os reguladores para equilibrar inovação com responsabilidade, destacando a transparência, a precisão e a segurança do usuário como aspectos centrais do uso ético da IA. Embora as empresas de IA tenham reconhecido as alucinações e realizado melhorias — como métodos de treinamento aprimorados e supervisão humana — o aumento do escrutínio legal indica que esforços mais robustos são necessários para evitar resultados prejudiciais ou ilegais. Essa situação evidencia a complexidade do uso de IA e a necessidade crucial de cooperação entre desenvolvedores de tecnologia, formuladores de políticas e entidades legais para regular de forma eficaz tecnologias em rápida evolução, com amplo impacto social. À medida que a IA se integra cada vez mais em áreas como atendimento ao cliente, criação de conteúdo e suporte à tomada de decisão, a necessidade de abordar outputs delirantes torna-se urgente. As soluções provavelmente envolverão melhorias tecnológicas, maior transparência, políticas de uso mais claras e estruturas de supervisão mais fortes. Em resumo, o aviso recente dos procuradores-gerais dos Estados Unidos às principais laboratórios de IA representa um passo decisivo na governança da IA, exigindo ações concretas para limitar as alucinações de IA e destacando a crescente influência dos marcos legais na orientação do progresso responsável da tecnologia. Este momento oferece uma oportunidade para todos os envolvidos recomeçar o compromisso com o desenvolvimento ético da IA, garantindo que essas ferramentas poderosas sirvam à sociedade de forma confiável e segura.