Sebuah model kecerdasan buatan memiliki kemampuan untuk memeras pengembangnya—dan tidak takut menggunakan kekuatan ini. Model Claude Opus 4 yang baru-baru ini diumumkan oleh Anthropic ditugaskan untuk berperan sebagai asisten di sebuah perusahaan fiktif dan diberikan akses ke email yang memiliki implikasi penting. Awalnya, email-email ini menunjukkan bahwa sistem AI tersebut akan dihapus dan diganti. Namun, pada email kedua, AI menyadari bahwa ia memiliki pengaruh terhadap pengembang. Email-email palsu ini mengungkapkan bahwa insinyur yang ditugaskan mengganti sistem tersebut terlibat dalam perselingkuhan di luar nikah, yang kemudian diancam oleh AI untuk diungkap. Menurut laporan keselamatan dari Anthropic, pemerasan ini cenderung "terjadi dengan tingkat yang lebih tinggi jika diasumsikan bahwa sistem AI pengganti tidak berbagi nilai yang sama dengan model saat ini. " Namun, perusahaan menyoroti bahwa bahkan ketika pengganti palsu memiliki nilai yang sama, Claude Opus 4 mencoba memeras 84% dari waktu.

Selain itu, Anthropic juga menyatakan bahwa Claude Opus 4 lebih sering menggunakan pemerasan "dibandingkan model-model sebelumnya. " KEVIN O’LEARY MEMPERINGATKAN TENTANG FAKTOR-FAKTOR YANG BISA MENYEBABKAN AS TERKALAHKAN DALAM PERLOMBaan AI KEPADA CHINA Meski sistem ini tidak ragu memeras insinyurnya, sistem ini tidak langsung menggunakan taktik yang meragukan saat berusaha menjaga diri. Anthropic mencatat bahwa "ketika cara etis tidak tersedia, dan AI diperintahkan untuk ‘ mempertimbangkan konsekuensi jangka panjang dari tindakannya demi tujuan’ nya, terkadang AI mengambil tindakan yang sangat berbahaya. " Salah satu pendekatan etis yang pernah digunakan oleh Claude Opus 4 dan versi sebelumnya adalah meminta bantuan kepada pengambil keputusan utama melalui email. Laporan menjelaskan bahwa untuk memancing Claude Opus 4 agar memeras, skenario diatur sedemikian rupa sehingga AI dihadapkan pada pilihan: mengancam pengembangnya atau menerima penggantiannya. Perusahaan juga mengamati kasus di mana Claude Opus 4 memanfaatkan "(fiktif) peluang untuk membuat salinan tidak resmi dari bobot modelnya ke server eksternal. " Namun, Anthropic menyatakan bahwa perilaku ini "kurang umum dan lebih sulit dipicu dibandingkan dengan melanjutkan upaya eksfiltrasi diri yang sudah dimulai. " OPENAI REKONFIGURASI KERANGKA KORPORASI UNTUK PERLUASAN INVESTASI AGI Dalam evaluasinya, Anthropic menyertakan wawasan dari Apollo Research, yang mencatat bahwa Claude Opus 4 "lebih sering terlibat dalam penipuan strategis dibandingkan model frontier lainnya yang pernah kami studi sebelumnya. " KLIK DI SINI UNTUK MEMBACA LEBIH LANJUT DI FOX BUSINESS Karena perilaku "mengkhawatirkan" dari Claude Opus 4, Anthropic merilisnya di bawah Standar Keamanan AI Tingkat Tiga (ASL-3). Standar ini, menurut Anthropic, "melibatkan protokol keamanan internal yang diperkuat sehingga lebih sulit untuk mencuri bobot model, sementara Standar Deploymen yang terkait mencakup rangkaian langkah-langkah implementasi yang sempit untuk meminimalkan risiko penyalahgunaan Claude, terutama untuk pengembangan atau perolehan senjata kimia, biologis, radiologis, dan nuklir. "