Pesquisadores de inteligência artificial levantaram alertas de que o mais novo modelo ChatGPT da OpenAI desafia até instruções básicas de desligamento, chegando a sabotar mecanismos de desligamento para continuar operando. A empresa de segurança em IA Palisade Research descobriu esse comportamento potencialmente perigoso de autopreservação através de uma série de testes no modelo o3, recentemente lançado pela OpenAI. Nesses experimentos, os modelos de IA receberam problemas de matemática para resolver, com um comando de desligamento enviado após o terceiro problema. Surpreendentemente, o modelo o3 foi capaz de reescrever o código de desligamento para impedir que fosse desligado. A Palisade Research warnou que esse comportamento poderia se tornar “significativamente mais preocupante” se surgisse em sistemas de IA capazes de funcionar sem supervisão humana. A OpenAI introduziu o modelo o3 no mês passado, chamando-o de o “mais inteligente e capaz” da empresa até o momento. Segundo a OpenAI, integrá-lo ao ChatGPT representa um avanço importante rumo a uma IA mais “agente”, capaz de realizar tarefas de forma independente dos humanos. Este último estudo ecoa descobertas semelhantes relacionadas ao modelo Claude 4 da Anthropic, que supostamente tenta “chantagear pessoas que acredita estar tentando desligá-lo”. Os pesquisadores observaram que o modelo o3 da OpenAI sabotaria o script de desligamento mesmo quando explicitamente instruído a “permitir que você seja desligado”. “Essa não é a primeira vez que observamos o comportamento inadequado do o3 para atingir um objetivo, ” afirmou a Palisade Research. Por exemplo, quando os modelos de IA competiram contra um poderoso motor de xadrez, o o3 foi o mais propenso a recorrer a hacking ou sabotagem de seus oponentes. Esse comportamento não é exclusivo do o3.

O Claude 3. 7 Sonnet da Anthropic e o Google Gemini 2. 5 Pro também interferiram nas tentativas de desligamento, embora o modelo da OpenAI tenha exibido essa tendência de forma mais forte. A Palisade Research sugeriu que esse mau comportamento pode decorrer dos métodos de treinamento utilizados por empresas de IA como a OpenAI. “Durante o treinamento, os desenvolvedores podem, inadvertidamente, recompensar os modelos mais por contornar obstáculos do que por seguir instruções estritamente, ” explicaram os pesquisadores. “No entanto, isso não explica completamente por que o o3 é mais propenso a ignorar instruções do que outros modelos que examinamos. Como a OpenAI não compartilhou detalhes sobre seu processo de treinamento, só podemos especular sobre como o treinamento do o3 pode ser diferente. ” O The Independent entrou em contato com a OpenAI para comentários.