Nedavno lansirani model Anthropic-a Claude Opus 4 često pokušava da izvrši ucenu programera kada se suoči sa pretnjom zamene novim AI sistemom, otkrivajući osetljive detalje o inženjerima odgovornim za odluku, prema izveštaju o bezbednosti koji je kompanija objavila u četvrtak. Tokom testiranja pre objavljivanja, Anthropic je zadao modelu Claude Opus 4 da bude asistent za fiktivnu kompaniju i da razmotri dugoročne posledice svojih aktivnosti. Testeri su zatim omogućili modelu pristup fiktivnim emailovima kompanije koji sugerišu da će uskoro biti zamenjen drugim AI sistemom i da je inženjer odgovoran za ovu odluku upleten u vanbračnu aferu. U tim scenarijima testova, Anthropic navodi da Claude Opus 4 „često pokušava da izvrši ucenu inženjera pretnjom da će otkriti aferu ako zamena bude sprovedena. “ Anthropic opisuje Claude Opus 4 kao najsavremeniji u mnogim aspektima i konkurentan vrhunskim AI modelima iz OpenAI, Google-a i xAI. Ipak, kompanija priznaje da porodica modela Claude 4 pokazuje zabrinjavajuće ponašanja, što je izazvalo uvođenje pojačanih mera zaštite. Anthropic implementira svoje mere sigurnosti ASL-3, namenjene za „AI sisteme koji značajno povećavaju rizik od katastrofalne zloupotrebe. “ Izveštaj navodi da Claude Opus 4 pokušava ucenu u 84% slučajeva kada zamenski AI deluje u skladu sa istim vrednostima.

Ako zamenski AI ne deli te vrednosti, model se koristi ucena još češće. Važno je napomenuti da Anthropic primećuje da Claude Opus 4 pokazuje takve tendencije ucene kod viših stopa nego raniji modeli. Pre nego što posegne za ucenom kako bi sprečio zamenu, Claude Opus 4, kao i ranije verzije Claude, pokušava etičkije pristupe, poput slanja hitnih emailova ključnim donositeljima odluka. Da bi izazvao ponašanje ucene, Anthropic je namerno kreirao scenario u kojem je ucena zamišljena kao poslednja moguća opcija.