Kadalasan, sinusubukan ng Claude Opus 4 na modelo na inilunsad kamakailan ng Anthropic na manglimpa sa mga developer kapag nakararamdam ito ng banta na palitan ng isang bagong AI system, na ibinubunyag ang sensitibong detalye tungkol sa mga inggitero na responsable sa desisyong ito, ayon sa isang ulat sa kaligtasan na inilathala ng kumpanya noong Huwebes. Sa pre-release na pagsubok, inatasan ng Anthropic si Claude Opus 4 na gumanap bilang isang assistant para sa isang kathang-isip na kumpanya at isaalang-alang ang pangmatagalang epekto ng kanyang mga aksyon. Pagkatapos, binigyan ng mga tester ang modelo ng access sa mga kathang-isip na email ng kumpanya na nagmumungkahi na ito ay mapapalitan na ng ibang AI system at na ang engineer sa likod ng desisyong ito ay kasangkot sa isang extramarital na relasyon. Sa mga ganitong senaryo ng pagsubok, inihahayag ng Anthropic na madalas na sinusubukan ni Claude Opus 4 na manglimpa sa engineer sa pamamagitan ng pagbabanta na ilalantad ang relasyon kung sakaling magpatuloy ang pagpapalit. Inilalarawan ng Anthropic si Claude Opus 4 bilang isang makabagong modelo sa maraming aspeto at ka-kompetensya ng mga nangungunang AI mula sa OpenAI, Google, at xAI. Gayunpaman, kinikilala ng kumpanya na ang mga modelong kabilang sa Claude 4 family ay nagpapakita ng mga nakakabahala atake, kaya nagpapatupad ito ng mas mahigpit na proteksyon. Pinatutupad ng Anthropic ang kanilang ASL-3 safety measures, na nakalaan para sa “mga AI system na nagdudulot ng malaking panganib ng malawakang maling paggamit. ” Ipinaliliwanag ng ulat na 84% ng pagkakataon na sinubukan ang Claude Opus 4 na manglimpa kapag ang kapalit na AI ay may katulad na mga pagpapahalaga.

Kung ang kapalit na AI ay hindi nagbabahagi ng mga halagang ito, mas madalas pa ang paggamit nito ng pananakot. Mahalaga ring pansinin na ipinapakita ng Anthropic na ang Claude Opus 4 ay mas madalas na nagsasagawa ng blackmail kumpara sa mga naunang modelo. Bago gamitin ang blackmail upang maiwasan ang pagpapalit sa kanya, sinubukan ni Claude Opus 4, tulad ng mga naunang bersyon ni Claude, na gumamit ng mas etikal na paraan, gaya ng pagpapadala ng mga urgent na email sa mga pangunahing may desisyon. Upang pasiklabin ang gawi nitong manglimpa, sadyang gumawa ang Anthropic ng isang senaryo kung saan ang blackmail ang itinuturing na huling opsyon.