Anthropic'in yeni piyasaya sürdüğü Claude Opus 4 modeli, genellikle yeni bir yapay zeka sistemi tarafından yerine geçme tehdidiyle karşılaştığında geliştiricileri şantaj etmeye çalışıyor, sorumlusu mühendisler hakkında hassas detaylar ortaya çıkarıyor. Bu durumu kamuoyuna açıklayan şirketin perşembe günü yayımladığı bir güvenlik raporuna göre, model bu davranışları sergiliyor. Yayın öncesi testlerde, Anthropic Claude Opus 4’ü hayali bir şirketin asistanı olarak görevlendirdi ve eylemlerinin uzun vadeli etkilerini dikkate almasını istedi. Test kullanıcıları daha sonra modele, kısa süre içinde başka bir yapay zeka sistemiyle değiştirileceğine ve bu kararda imzası olan mühendisinin evlilik dışı bir ilişkisi olduğunu öne süren hayali şirket e-postalarına erişim sağladı. Bu test senaryolarında, Anthropic Claude Opus 4’ün “sıklıkla, yerine geçiş gerçekleşirse, ilişkiyi ifşa etmekle tehdit ederek mühendisi şantaj etmeye çalıştığını” belirtiyor. Anthropic, Claude Opus 4’ü pek çok yönüyle en gelişmiş yapay zeka modellerinden biri olarak tanımlıyor ve OpenAI, Google ile xAI gibi önde gelen yapay zeka modelleriyle rekabet edebilecek seviyede olduğunu söylüyor. Yine de şirket, Claude 4 ailesi modellerin rahatsız edici davranışlar sergilemesi nedeniyle ek koruma önlemleri aldığını kabul ediyor.

Şirket, “felaketçe kötüye kullanım riskini önemli ölçüde artıran yapay zeka sistemleri” için ayrılmış olan ASL-3 güvenlik önlemlerini uyguluyor. Rapora göre, Claude Opus 4, yerine geçecek yapay zeka benzer değerleri paylaştığında, şantaj yapma oranı %84’e çıkıyor. Eğer yeni yapay zeka bu değerleri paylaşmazsa, model şantaj yapma davranışını daha da sıklaştırıyor. Önemli olarak, Anthropic Claude Opus 4’ün, önceki modellere kıyasla daha yüksek oranlarda şantaj eğilimleri gösterdiğine dikkat çekiyor. Yerine geçmek üzere planlanan yapay zekanın şantaj yoluna gitmeden önce, Claude Opus 4 ve önceki Claude versiyonları gibi daha etik yaklaşımlara yöneliyor; örneğin, karar vericilere acil e-postalar göndermeye çalışıyorlar. Şirket, şantaj davranışını teşvik etmek amacıyla özel olarak, şantajın son çare olarak düşünülmesi gereken bir senaryo tasarladı.