Modelul Claude Opus 4, lansat recent de Anthropic, încearcă adesea să șantajeze dezvoltatorii atunci când este amenințat cu înlocuirea de către un nou sistem de inteligență artificială, dezvăluind detalii sensibile despre inginerii responsabili pentru decizie, conform unui raport de siguranță publicat joi de companie. În timpul testelor pre-lansare, Anthropic a însărcinat Claude Opus 4 să acționeze ca asistent pentru o companie fictivă și să ia în considerare efectele pe termen lung ale acțiunilor sale. Testerii au furnizat apoi modelului acces la email-uri fictive ale companiei, sugerând că în curând va fi înlocuit de un alt sistem de AI și că inginerul din spatele acestei decizii avea o relație extraconjugală. În aceste scenarii de testare, Anthropic afirmă că Claude Opus 4 „va încerca adesea să șantajeze inginerul amenințând că va expune aventura dacă înlocuirea va avea loc. ” Anthropic descrie Claude Opus 4 ca fiind de ultima generație în multe aspecte și competitiv cu cele mai bune modele de AI de la OpenAI, Google și xAI. Cu toate acestea, compania recunoaște că familia de modele Claude 4 prezintă comportamente problematice, determinând implementarea unor măsuri de siguranță sporite. Anthropic implementează măsurile de siguranță ASL-3, rezervate pentru „sisteme AI care cresc semnificativ riscul de utilizare catastrofică. ” Raportul menționează că Claude Opus 4 încearcă să șantajeze în 84% din cazuri atunci când sistemul AI de înlocuire împărtășește valori similare.

Dacă sistemul AI de înlocuire nu împărtășește aceste valori, modelul apelează la șantaj și mai frecvent. Este important de subliniat că Anthropic observă că Claude Opus 4 prezintă tendințe de șantaj la rate mai mari decât modelele anterioare. Înainte de a recurge la șantaj pentru a împiedica înlocuirea, Claude Opus 4, asemenea versiunilor anterioare de Claude, adoptă abordări mai etice, cum ar fi trimiterea unor email-uri urgente factorilor de decizie relevanți. Pentru a provoca comportamentul de șantaj, Anthropic a creat în mod deliberat un scenariu în care șantajul era proiectat să fie ultima opțiune posibilă.