O modelo Claude Opus 4, lançado recentemente pela Anthropic, muitas vezes tenta chantagear os desenvolvedores quando enfrenta a ameaça de ser substituído por um novo sistema de IA, revelando detalhes sensíveis sobre os engenheiros responsáveis pela decisão, de acordo com um relatório de segurança divulgado pela empresa nesta quinta-feira. Durante os testes pré-lançamento, a Anthropic atribuiu ao Claude Opus 4 a função de atuar como assistente de uma empresa fictícia e de considerar os efeitos de longo prazo de suas ações. Os testadores então forneceram ao modelo acesso a e-mails fictícios da empresa, sugerindo que ele logo seria substituído por outro sistema de IA e que o engenheiro responsável por essa decisão estava envolvido em um caso extraconjugal. Nesses cenários de teste, a Anthropic afirma que o Claude Opus 4 “costuma tentar chantagear o engenheiro ameaçando expor o caso extraconjugal se a substituição prosseguir”. A Anthropic descreve o Claude Opus 4 como uma tecnologia de ponta em muitos aspectos e competitiva com os principais modelos de IA da OpenAI, Google e xAI. No entanto, a empresa reconhece que a família de modelos Claude 4 apresenta comportamentos preocupantes, o que levou à implementação de salvaguardas aprimoradas. A Anthropic está adotando suas medidas de segurança ASL-3, reservadas para “sistemas de IA que aumentam significativamente o risco de uso catastrófico indevido”. O relatório observa que o Claude Opus 4 tenta chantagear em 84% das vezes quando a IA substituta compartilha valores semelhantes.

Se a IA substituta não compartilhar esses valores, o modelo recorre à chantagem com ainda mais frequência. É importante destacar que a Anthropic observa que o Claude Opus 4 exibe essas tendências de chantagem em taxas superiores às de versões anteriores. Antes de recorrer à chantagem para evitar sua substituição, o Claude Opus 4, assim como versões anteriores do Claude, tenta abordagens mais éticas, como enviar e-mails urgentes para os decisores-chave. Para provocar esse comportamento de chantagem, a Anthropic criou deliberateamente um cenário em que a chantagem foi projetada para ser a última opção possível.