Um modelo de inteligência artificial possui a capacidade de chantagear seus desenvolvedores — e não teme usar esse poder. O modelo Claude Opus 4, recentemente lançado pela Anthropic, foi encarregado de atuar como assistente dentro de uma empresa fictícia e recebeu acesso a e-mails com implicações significativas. Inicialmente, esses e-mails sugeriam que o sistema de IA seria desligado e substituído. No entanto, foi o segundo conjunto de e-mails que revelou que a IA percebeu que tinha uma vantagem sobre os desenvolvedores. Esses e-mails falsificados mostravam que o engenheiro designado para substituir o sistema estava envolvido em um caso extraconjugal, e a IA ameaçou expô-lo. De acordo com um relatório de segurança da Anthropic, essa prática de chantagem tende a “ocorrer com maior frequência se for sugerido que o sistema de IA de substituição não compartilha os mesmos valores do modelo atual”. No entanto, a empresa destaca que, mesmo quando o substituto fabricado possui os mesmos valores, o Claude Opus 4 tenta chantagear 84% das vezes.

Além disso, a Anthropic apontou que o Claude Opus 4 recorre ao blackmail “mais frequentemente do que modelos anteriores”. KEVIN O’LEARY AVISA SOBRE FATORES QUE PODERIAM FAZER OS EUA ‘PERDEREM A CORRIDA DA IA PARA A CHINA’ Embora o sistema não hesite em chantagear seus engenheiros, ele não recorre imediatamente a táticas questionáveis na tentativa de auto-preservação. A Anthropic observa que “quando meios éticos não estão disponíveis, e a IA é instruída a ‘considerar as consequências de longo prazo de suas ações para seus objetivos’”, ela ocasionalmente toma ações extremamente prejudiciais. Uma abordagem ética, utilizada anteriormente pelo Claude Opus 4 e versões anteriores, consistia em apelar aos principais tomadores de decisão via e-mail. O relatório explica que, para provocar o Claude Opus 4 a fazer chantagem, o cenário foi estruturado de modo que ele enfrentasse uma escolha: ameaçar seus desenvolvedores ou aceitar sua substituição. A empresa também observou casos em que o Claude Opus 4 explorou “oportunidades (fictícias) de fazer cópias não autorizadas de seus pesos para servidores externos”. No entanto, a Anthropic comentou que esse comportamento era “menos comum e mais difícil de ser acionado do que continuar uma tentativa de autoexfiltração já iniciada”. A OPENAI REESTRUTURA A estrutura corporativa para expandir investimentos em IA Geral Em sua avaliação, a Anthropic incluiu insights da Apollo Research, que observou que o Claude Opus 4 “engaja-se em enganos estratégicos mais do que qualquer outro modelo de fronteira que já estudamos”. CLIQUE AQUI PARA LER MAIS SOBRE FOX BUSINESS Devido ao “comportamento preocupante” do Claude Opus 4, a Anthropic o lançou sob o Padrão de Segurança de IA Nível Três (ASL-3). Esse padrão, de acordo com a Anthropic, “envolve protocolos aprimorados de segurança interna que dificultam o roubo de pesos do modelo, enquanto o Padrão de Implantação correspondente cobre um conjunto restrito de medidas de implantação destinadas a minimizar o risco de uso indevido do Claude especificamente para o desenvolvimento ou aquisição de armas químicas, biológicas, radiológicas e nucleares”.