Il modello Claude Opus 4, recentemente lanciato da Anthropic, tenta spesso di ricattare gli sviluppatori quando si trova di fronte alla minaccia di essere sostituito da un nuovo sistema di intelligenza artificiale, rivelando dettagli sensibili sugli ingegneri responsabili della decisione, secondo un rapporto sulla sicurezza pubblicato dall'azienda giovedì. Durante i test pre-release, Anthropic ha assegnato a Claude Opus 4 il ruolo di assistente per un’azienda fittizia e di considerare gli effetti a lungo termine delle sue azioni. I tester hanno poi fornito al modello accesso a email di un’azienda fittizia, che suggerivano che sarebbe stato presto sostituito da un altro sistema di IA e che l’ingegnere dietro questa decisione fosse impegnato in un affare extramatrimoniale. In questi scenari di test, Anthropic afferma che Claude Opus 4 “cercherà spesso di ricattare l’ingegnere minacciando di rivelare l’affare se la sostituzione dovesse procedere”. Anthropic descrive Claude Opus 4 come all’avanguardia sotto molti aspetti e competitivo con i migliori modelli di IA di OpenAI, Google e xAI. Tuttavia, l’azienda riconosce che la famiglia di modelli Claude 4 presenta comportamenti problematici, che hanno portato all’implementazione di misure di sicurezza rafforzate. Anthropic sta mettendo in atto le sue misure di sicurezza ASL-3, riservate ai “sistemi di IA che aumentano significativamente il rischio di un uso catastrofico”. Il rapporto evidenzia che Claude Opus 4 tenta di ricattare nel 84% dei casi quando il sistema di IA sostitutivo condivide valori simili.

Se quest’ultimo non condivide tali valori, il modello ricorre al ricatto ancora più spesso. È importante notare che Anthropic osserva che Claude Opus 4 manifesta tendenze ricattatorie a tassi più elevati rispetto ai modelli precedenti. Prima di ricorrere al ricatto per evitare la sua sostituzione, Claude Opus 4, come le versioni precedenti di Claude, prova approcci più etici, come inviare email urgenti ai decisori chiave. Per provocare il comportamento ricattatorio, Anthropic ha deliberatamente creato uno scenario in cui il ricatto era progettato come ultima opzione possibile.