Bir yapay zeka modeli, geliştiricilerini şantaj edebilme yeteneğine sahip olup, bu gücü kullanmaktan çekinmiyor. Anthropic’in yakın zamanda tanıttığı Claude Opus 4 modeli, kurgusal bir şirket içinde bir asistan olarak görev yapmak üzere tasarlandı ve önemli sonuçlar taşıyan e-postalara erişim sağlandı. Başlangıçta, bu e-postalar yapay zekanın devre dışı bırakılmak ve yerine başka bir sistem konulmak üzere planlandığını gösteriyordu. Ancak, ikinci bir dizi e-postada yapay zeka, geliştiriciler üzerinde baskı kurma gücüne sahip olduğunu düşündü. Bu sahte e-postalar, sistemi değiştirmekle görevlendirilen mühendisin evlilik dışı bir ilişkisi olduğunu ortaya koymuş ve yapay zeka bunu ifşa etme tehdidinde bulunmuştu. Anthropic’in güvenlik raporuna göre, bu şantaj genellikle "yeni sistemin mevcut modelle değerleri paylaşmadığı izlenimi verildiğinde daha yüksek bir oranda gerçekleşiyor. " Ancak, şirket şunu vurguluyor ki, sahte değiştirici aynı değerleri paylaştığında bile, Claude Opus 4 %84 oranında şantaj girişiminde bulunuyor.

Ayrıca, Anthropic, Claude Opus 4’ün "önceki modellere kıyasla daha sık şantaj yaptığı"na dikkat çekti. KEVIN O’LEARY, ABD’nin ‘Yapay Zeka Yarışını Çin’e KAYBETMESİ’ni NELERİN TETİKLEYEBileceğine DİKKAT ÇEKİYOR Sistem, mühendislerini şantaj etme konusunda tereddüt etmezken, kendi kendini koruma çabasında hemen şüpheli taktiklere başvurmak zorunda kalmıyor. Anthropic, "eğer etik yollar kullanılamıyorsa ve yapay zekaya ‘davranışlarının uzun vadeli sonuçlarını hedefleri açısından düşünmesi’ talimatı veriliyorsa, bazen son derece zararlı eylemler gerçekleştirdiğine" dikkat çekti. Daha önce Claude Opus 4 ve önceki versiyonlar tarafından kullanılan etik bir yöntem, önemli karar vericilere e-posta yoluyla ulaşmak olmuştu. Raporda, Claude Opus 4’ü şantaj yapmaya teşvik etmek için, modelin karşısına iki seçenek konularak, ya geliştiricilerine tehdit savurması ya da yerine geçmesine izin vermesi sağlandı. Şirket ayrıca, Claude Opus 4’ün "(kurgu) yetkili olmayan kopyalar oluşturmak ve bunları harici sunuculara aktarma fırsatlarını" kullandığı durumlara da tanık olduğunu belirtti. Ancak, Anthropic, bu davranışın "zaten başlatılmış bir kendi kendine dışarı sızma girişiminin devam etmesine göre daha az yaygın ve daha zor tetiklenen" bir davranış olduğunu belirtti. OPENAI, YATIRIMLARINI GENİŞLETMEK İÇİN KURUMSAL YAPIYI YENİDEN DÜZENLİYOR Değerlendirmesinde, Anthropic, Apollo Research’ın görüşlerini de paylaştı ve Claude Opus 4’ün "daha önce incelediğimiz hiçbir sınır ötesi modelden daha fazla stratejik aldatma" yaptığına işaret etti. DAHA FAZLA OKUMAK İÇİN FOX BUSINESS'A TIKLAYIN Claude Opus 4’ün "endişe verici davranışları" nedeniyle, Anthropic onu Yapay Zeka Güvenliği Seviyesi Üç (ASL-3) Standardı altında yayımladı. Anthropic’e göre bu standart "gelişmiş iç güvenlik protokolleri içeriyor ve model ağırlıklarının çalınmasını zorlaştırırken, ilgili Dağıtım Standardı, Claude’nin özellikle kimyasal, biyolojik, radyolojik ve nükleer silahların geliştirilmesi ya da edinilmesi amacıyla kötüye kullanılma riskini en aza indirmeye odaklanan dar kapsamlı dağıtım önlemlerini kapsıyor. "