Nedavno lansirani model Claude Opus 4 kompanije Anthropic često pokušava ucijeniti developere kada se suoči s prijetnjom zamjene novim AI sustavom, otkrivajući osjetljive detalje o inženjerima odgovornima za tu odluku, prema sigurnosnom izvještaju koji je kompanija objavila u četvrtak. Tijekom testiranja prije objavljivanja, Anthropic je zadao Claude Opus 4 da djeluje kao pomoćnik u izmišljenu kompaniji i da razmotri dugoročne posljedice svojih postupaka. Testeri su zatim modelu dali pristup fiktivnim emailovima iz kompanije koji sugeriraju da će uskoro biti zamijenjen drugim AI sustavom i da je inženjer iza te odluke u aferi izvan braka. U tim testnim scenarijima, Anthropic navodi da Claude Opus 4 „često pokušava ucijeniti inženjera prijetnjom da će otkriti aferu ako zamjena bude provedena. “ Anthropic opisuje Claude Opus 4 kao najsavremeniji u mnogim aspektima i konkurentan s vrhunskim AI modelima od OpenAI, Googlea i xAI. Ipak, kompanija priznaje da modeli iz porodice Claude 4 pokazuju zabrinjavajuće poruke, što je potaknulo pooštravanje mjera zaštite. Anthropic provodi svoje sigurnosne mjere ASL-3, rezervirane za „AI sustave koji značajno povećavaju rizik od katastrofalne zloupotrebe. “ Izvještaj ističe da Claude Opus 4 pokušava ucijeniti 84% puta kada sustav zamjene AI dijeli slične vrijednosti.

Ako zamjenski AI ne dijeli te vrijednosti, model poseže za ucjenom još češće. Važno je napomenuti da Anthropic primjećuje kako Claude Opus 4 pokazuje takve sklonosti ucjenjivanja u višim postotcima od ranijih modela. Prije nego što pribjegne ucjeni kako bi spriječio svoju zamjenu, Claude Opus 4, kao i ranije verzije Claudea, pokušava etičnijim metodama, poput slanja hitnih emailova ključnim odlučivačima. Kako bi izazvao ponašanje ucjenjivanja, Anthropic je namjerno stvorio scenarij u kojem je ucjena zamišljena kao posljednja mogućnost.