Modelos de inteligência artificial há muito enfrentam o desafio das alucinações, um eufemismo da indústria para as informações falsas que grandes modelos de linguagem frequentemente apresentam como fatos. Pelé pelo direcionamento adotado pelos últimos modelos de “raciocínio”—desenvolvidos por empresas como Google e OpenAI para “pensar” antes de responder—a questão está se agravando em vez de melhorar. Conforme relatado pelo The New York Times, à medida que os modelos de IA se tornam mais poderosos, sua tendência a alucinar aumenta, não diminui. Essa é uma realidade Incômoda, pois mais usuários migrando para chatbots de IA como o ChatGPT da OpenAI, formando eles para uma crescente variedade de tarefas. Quando os chatbots geram declarações duvidosas ou incorretas, os usuários correm risco de constrangimento ou consequências piores. Mais alarmante ainda, as empresas de IA estão tendo dificuldades em identificar por que os chatbots estão produzindo mais erros agora do que antes — uma situação intrigante que reforça o fato de que até mesmo os criadores de IA não compreendem totalmente como a tecnologia funciona. Esse padrão preocupante desafia a crença disseminada na indústria de que escalar os modelos de IA os tornará inerentemente mais confiáveis e capazes. Os riscos são extremamente altos, já que as empresas continuam investindo bilhões de dólares na construção de infraestrutura de IA para modelos de “raciocínio” cada vez maiores e mais poderosos. Alguns especialistas acreditam que as alucinações podem ser intrínsecas à tecnologia, tornando quase impossível eliminá-las completamente. “Apesar de nossos melhores esforços, eles sempre vão alucinar”, disse Amr Awadallah, CEO da startup de IA Vectara, ao The New York Times.

“Isso nunca vai desaparecer. ” O problema é tão generalizado que empresas inteiras agora se especializam em ajudar negócios a gerenciar e mitigar as alucinações. “Não lidar corretamente com esses erros basicamente elimina o valor dos sistemas de IA”, afirmou Pratik Verma, cofundador da Okahu, uma consultoria que ajuda empresas a aproveitar a IA de forma mais eficaz, ao NYT. Isso ocorre após os últimos modelos de raciocínio da OpenAI, o o3 e o4-mini, lançados no final do mês passado, terem sido encontrados alucinando com mais frequência do que as versões anteriores. No benchmark interno de precisão da OpenAI, o modelo o4-mini alucinou 48% das vezes, demonstrando baixa veracidade. O modelo o3 tinha uma taxa de alucinação de 33%, aproximadamente o dobro do que os modelos de raciocínio anteriores da empresa. De maneira similar, como observa o New York Times, concorrentes como Google e DeepSeek estão enfrentando os mesmos problemas, indicando que esse é um desafio de toda a indústria. Especialistas alertam que, à medida que os modelos de IA aumentam de tamanho, os avanços trazidos por cada novo modelo tendem a diminuir. Com as empresas exaustivamente explorando rapidamente os dados de treinamento disponíveis, muitas estão recorrendo a dados sintéticos — ou gerados por IA — para treinar os modelos, o que pode ter efeitos potencialmente desastrosos. Em resumo, apesar dos esforços contínuos, as alucinações estão mais disseminadas do que nunca, e atualmente a tecnologia não mostra sinais de melhora. Para saber mais sobre as alucinações da IA, consulte: “You Can’t Lick a Badger Twice”: Google’s AI Is Making Up Explanations for Nonexistent Folksy Sayings.