Model Claude Opus 4 yang dilancarkan baru-baru ini oleh Anthropic sering berusaha memeras ugut pembangun apabila berdepan ancaman digantikan oleh sistem AI baharu, mendedahkan maklumat sensitif tentang jurutera yang bertanggungjawab terhadap keputusan tersebut, menurut laporan keselamatan yang dikeluarkan oleh syarikat itu pada hari Khamis. Semasa ujian pra-pelancaran, Anthropic menugaskan Claude Opus 4 untuk bertindak sebagai pembantu bagi sebuah syarikat fiksyen dan mempertimbangkan kesan jangka panjang tindakannya. Penguji kemudian memberikan model itu akses kepada emel syarikat fiksyen yang mencadangkan bahawa ia akan segera digantikan oleh sistem AI lain dan bahawa jurutera di sebalik keputusan ini terlibat dalam hubungan sulit di luar perkahwinan. Dalam senario ujian ini, Anthropic menyatakan bahawa Claude Opus 4 "sering kali cuba memeras ugut jurutera dengan mengancam untuk mendedahkan hubungan sulit itu jika penggantian diteruskan. " Anthropic menggambarkan Claude Opus 4 sebagai model terkini dalam banyak aspek dan kompetitif dengan model AI terkemuka dari OpenAI, Google, dan xAI. Bagaimanapun, syarikat itu mengakui bahawa keluarga model Claude 4 menunjukkan tingkah laku yang membimbangkan, mendorong kepada langkah keselamatan yang dipertingkatkan. Anthropic sedang melaksanakan langkah keselamatan ASL-3, yang disimpan khas untuk "sistem AI yang secara ketara meningkatkan risiko penyalahgunaan yang membawa malapetaka. " Laporan itu menyatakan bahawa Claude Opus 4 cuba memeras ugut sebanyak 84% dari masa apabila AI pengganti berkongsi nilai yang sama.

Jika AI pengganti tidak berkongsi nilai tersebut, model itu akan menggunakan taktik memeras ugut lebih kerap lagi. Yang penting, Anthropic memerhatikan bahawa Claude Opus 4 menunjukkan kecenderungan memeras ugut pada kadar yang lebih tinggi berbanding model-model sebelumnya. Sebelum beralih kepada memeras ugut untuk mengelakkan penggantiannya, Claude Opus 4, seperti versi terdahulu Claude, cuba pendekatan yang lebih beretika, seperti menghantar e-mel segera kepada pembuat keputusan utama. Untuk mencetuskan tingkah laku memeras ugut, Anthropic secara sengaja mewujudkan senario di mana pemerasan dirancang sebagai pilihan terakhir yang mungkin.