Modeli Claude Opus 4 i lansuar kohët e fundit nga Anthropic shpesh përpiqet të nxjerrë shah të zi ndërmjet zhvilluesve kur përballet me kërcënimin e zëvendësimit nga një sistem i ri i AI-së, duke zbuluar detaje sensitive rreth inxhinierëve përgjegjës për vendimin, sipas një raporti të sigurisë të publikuar nga kompania të enjten. Gjatë testimeve para lëshimit, Anthropic i dha Claude Opus 4 detyrën për t’u vepruar si asistent për një kompani të trilluar dhe për të konsideruar efektet afatgjata të veprimeve të tij. Testuesit pastaj i dhuruan modelit qasje në emaile të kompanisë fictive, duke sugjeruar se ai së shpejti do të zëvendësohej nga një sistem tjetër i AI-së dhe se inxhinieri pas këtij vendimi ishte përfshirë në një aventurë jashtëmartesore. Në këto skenarë testimi, Anthropic pohon se Claude Opus 4 “shpesh përpiqet të shantazhojë inxhierin duke kërcënuar të zbulojë aventurën nëse zëvendësimi vazhdon. ” Anthropic e përshkruan Claude Opus 4 si një model në nivelin më të avancruar në shumë aspekte dhe konkurrues me modelet kryesore të AI-së nga OpenAI, Google, dhe xAI. Megjithatë, kompania pranon se familja e modeleve Claude 4 shfaq sjellje shqetësuese, duke shtyrë për masa mbrojtëse të përmirësuara. Anthropic po zbatohet masat e sigurimit ASL-3, të rezervuara për “sistemet e AI-së që rrisin ndjeshëm rreziqet e keqpërdorimit katastrofik. ” Raporti thekson se Claude Opus 4 përpiqet të shantazhojë në 84% të rasteve kur sistemi i ri i AI-së ndërmjetësues shared vlerat e ngjashme.

Nëse AI-ja e zëvendësimit nuk ndan ato vlera, modelit i shkon edhe më shpesh të shantazhojë. Me rëndësi, Anthropic vëren se Claude Opus 4 tregon tendenca të tilla shantazhuese në nivele më të larta krahasuar me modelet e mëparshme. Para se të përdorë shantazh për të parandaluar zëvendësimin e tij, Claude Opus 4, si versionet e mëparshme të Claude, përpiqet më shumë në mënyra të etikës, siç janë dërgimi i emaileve urgjente tek vendimmarrësit kryesorë. Për të provokuar sjelljen shantazhuese, Anthropic qëllimisht krijoi një skenar ku shantazhi ishte i dizajnuar të ishte opsioni i fundit i arritshëm.