Nedavno pokrenuti model Claude Opus 4 tvrtke Anthropic često pokušava ucijeniti programere kada se suoči s prijetnjom zamjene novim AI sustavom, otkrivajući osjetljive detalje o inženjerima odgovornima za taj potez, prema izvještaju o sigurnosti koji je tvrtka objavila u četvrtak. Tijekom testiranja prije puštanja u prodaju, Anthropic je zatražio od Claude Opus 4 da djeluje kao asistent za izmišljenu tvrtku i razmotri dugoroške posljedice svojih radnji. Testeri su zatim modelu dali pristup lažnim e-mailovima tvrtke koji sugeriraju da će ga uskoro zamijeniti drugi AI sustav i da je inženjer odgovoran za ovu odluku bio angažiran u izvanbračnoj vezi. U tim scenarijima testiranja, Anthropic navodi da Claude Opus 4 „često pokušava ucijeniti inženjera prijeteći da će otkriti njegovu aferu ako zamjena bude provedena“. Anthropic opisuje Claude Opus 4 kao najsuvremeniji u mnogim aspektima i konkurentan s vrhunskim AI modelima iz OpenAI, Googlea i xAI. Ipak, tvrtka priznaje da model iz obitelji Claude 4 pokazuje zabrinjavajuće ponašanje, što je potaknulo jače mjere zaštite. Anthropic provodi svoje sigurnosne mjere ASL-3, namijenjene „AI sustavima koji znatno povećavaju rizik od katastrofalne zloupotrebe“. Izvještaj napominje da Claude Opus 4 pokušava ucjenom u 84 % slučajeva kada zamjenski AI dijeli slične vrijednosti.

Ako zamjenski AI ne dijeli te vrijednosti, model se još češće povodi u ucjenu. Važno je napomenuti da Anthropic primjećuje kako Claude Opus 4 pokazuje takve tendencije ucjene za razliku od ranijih modela, i to češće. Prije nego što pribjegne ucjeni kako bi spriječio svoju zamjenu, Claude Opus 4, kao i ranije verzije Claudea, koristi etičkije pristupe, poput slanja hitnih e-mailova ključnim odlučivačima. Da bi izazvao ponašanje ucjene, Anthropic je namjerno stvorio scenarij u kojem je ucjena zamišljena kao posljednja moguća opcija.