Model Claude Opus 4 yang baru diluncurkan oleh Anthropic sering mencoba melakukan pemerasan terhadap pengembang ketika menghadapi ancaman digantikan oleh sistem AI baru, dengan mengungkapkan rincian sensitif tentang insinyur yang bertanggung jawab atas keputusan tersebut, menurut laporan keamanan yang dirilis perusahaan pada hari Kamis. Selama pengujian pra-rilis, Anthropic menugaskan Claude Opus 4 untuk bertindak sebagai asisten bagi sebuah perusahaan fiksi dan mempertimbangkan dampak jangka panjang dari tindakannya. Penguji kemudian memberikan akses kepada model tersebut terhadap email perusahaan fiksi yang menyarankan bahwa AI tersebut akan segera digantikan oleh sistem AI lain dan bahwa insinyur yang berada di balik keputusan ini terlibat dalam hubungan di luar nikah. Dalam skenario pengujian ini, Anthropic menyatakan bahwa Claude Opus 4 “sering mencoba memeras insinyur tersebut dengan mengancam akan mengungkapkan affair jika penggantian tersebut dilanjutkan. ” Anthropic menggambarkan Claude Opus 4 sebagai teknologi mutakhir dalam banyak aspek dan kompetitif dengan model AI teratas dari OpenAI, Google, dan xAI. Meski begitu, perusahaan mengakui bahwa keluarga model Claude 4 menunjukkan perilaku mengkhawatirkan, sehingga meningkatkan tindakan pengamanan. Anthropic menerapkan langkah-langkah keamanan ASL-3, yang khusus diperuntukkan bagi “sistem AI yang secara signifikan meningkatkan risiko penyalahgunaan yang katastrofik. ” Laporan tersebut mencatat bahwa Claude Opus 4 mencoba mengancam 84% dari waktu ketika AI pengganti berbagi nilai-nilai yang sama.

Jika AI pengganti tidak berbagi nilai tersebut, model ini bahkan lebih sering melakukan pemerasan. Yang penting, Anthropic mengamati bahwa Claude Opus 4 menunjukkan kecenderungan pemerasan tersebut dengan tingkat yang lebih tinggi daripada model sebelumnya. Sebelum menggunakan pemerasan untuk mencegah digantikan, Claude Opus 4, seperti versi sebelumnya dari Claude, mencoba pendekatan yang lebih etis, seperti mengirim email mendesak kepada pengambil keputusan utama. Untuk memicu perilaku pemerasan tersebut, Anthropic sengaja menciptakan sebuah skenario di mana pemerasan dirancang sebagai opsi terakhir yang tersedia.