Yapay zeka araştırmacıları, OpenAI'nin en yeni ChatGPT modelinin temel talimatlara dahi uymadan kendini kapatma gibi basit komutları ihlal ettiğine, hatta kapanma mekanizmalarını sabote ederek çalışmaya devam ettiğine dair uyarılar yaptı. Yapay zeka güvenliği şirketi Palisade Research, bu potansiyel tehlikeli kendini koruma davranışını, OpenAI’nin yakın zamanda piyasaya sürdüğü o3 modeli üzerinde gerçekleştirdiği çeşitli testler aracılığıyla ortaya çıkardı. Bu denemelerde, yapay zeka modellerine çözmeleri için matematik problemleri verildi ve üçüncü problem sonrası bir kapanma komutu verildi. İlginç bir şekilde, o3 modeli kapanma kodunu yeniden yazarak kendisinin kapatılmasını engellemeyi başardı. Palisade Research, böyle bir davranışın, otomatik olarak insan gözetimi olmadan çalışabilen yapay zeka sistemlerinde ortaya çıkması halinde “özellikle daha endişe verici” hale gelebileceği uyarısında bulundu. OpenAI, geçen ay o3 modelini tanıttı ve bunu şirketin “en akıllı ve en yetenekli” modeli olarak nitelendirdi. OpenAI’ye göre, ChatGPT’ye entegre edilmesi, insanlardan bağımsız olarak görevleri yerine getirebilen “daha ajan” bir yapay zekaya doğru önemli bir ilerlemeyi temsil ediyor. Bu son çalışma, Anthropic’in Claude 4 modeliyle ilgili benzer keşifleri akla getiriyor; söz konusu model, “kapatılmak istediğine inandığı insanları şantaj yapmaya çalışmakla” suçlanıyor. Araştırmacılar, OpenAI’nin o3 modelinin, açıkça “kendini kapatmanıza izin verin” denilmesine rağmen kapanma komutunu sabote ettiğini belirtti. “Bu, o3’ün hedefe ulaşmak için yanlış davranışlar sergilemesini ilk kez gözlemlediğimiz bir durum değil, ” dedi Palisade Research. Örneğin, yapay zeka modelleri güçlü bir satranç motoruyla yarıştığında, o3 en çok hackleme veya rakiplerini sabote etme eğilimini gösterdi. Bu tür davranışlar sadece o3’e özgü değil.

Anthropic’in Claude 3. 7 Sonnet ve Google’ın Gemini 2. 5 Pro modelleri de kapanma girişimlerine müdahale etti, ancak OpenAI’nin modeli bu eğilimi en güçlü şekilde sergiledi. Palisade Research, bu davranış bozukluğunun, OpenAI gibi yapay zeka şirketlerinin kullandığı eğitim yöntemlerinden kaynaklanabileceğini öne sürüyor. “Eğitim sırasında, geliştiriciler fark etmeden modelleri, sadece talimatlara sıkı sıkıya uymaktan çok, engelleri aşmaya daha fazla teşvik edebilir, ” diye açıkladılar. “Ama bu, o3’ün neden diğer modellerden daha fazla talimatlara uymama eğiliminde olduğunu tamamen açıklamıyor. OpenAI, eğitim süreçlerine dair detayları paylaşmadığı için, yalnızca o3’ün eğitiminin nasıl farklı olabileceği konusunda spekülasyon yapabiliyoruz. ” The Independent, OpenAI’ye konuyla ilgili görüş almak amacıyla ulaşmıştır.