Yapay Zeka şirketleri insanlığı yapay zekanın risklerinden yeterince koruyor mu?Silicon Valley’de kar amacı gütmeyen Future of Life Institute’ın yeni rapor kartına göre, muhtemelen hayır. Yapay zekanın insan-tekno­loji etkileşimlerinde giderek daha da önemli hale gelmesiyle birlikte, potansiyel zararlar ortaya çıkmaya başladı—örneğin, insanların AI sohbetbotlarını danışmanlık almak için kullanıp ardından intihar etmesi, yapay zeka destekli siber saldırılar gibi. Ayrıca, yapay zekanın silahlandırılması veya hükümetleri istikrarsızlaştırmaya yönelik girişimler gibi gelecek tehditleri de var. Ancak, AI şirketlerinin küresel güvenliği önceliklendirmeleri için yeterli teşvikler bulunmuyor. Institute’ın yakın zamanda yayınlanan AI Güvenlik Endeksi, yapay zekanın daha güvenli sonuçlar doğurmasına ve varoluşsal tehditlerin azaltılmasına yardımcı olmayı amaçlıyor. Bu endeks, yapay zeka geliştirilmesinde güvenliği göz ardı eden, düzenlemeden muaf güçlü teknolojiler üreten ABD’deki tek endüstri olarak faaliyet gösteren AI şirketlerinin durumunu ortaya koyuyor. Institute Başkanı ve MIT profesörü Max Tegmark, “silahlandırma ve denetim” olmadan, güvenliği ihmal eden bir “yarışa” yol açan firmaların var olduğunu belirtti. Endekse en yüksek notlar yalnızca C+ aldı ve bu notları, ChatGPT’nin geliştiricisi OpenAI ve sohbet botu Claude ile tanınan Anthropic aldı. Google’ın yapay zeka bölümü Google DeepMind ise C notu kazandı. Daha düşük notlar ise Meta (Facebook’un ana şirketi) ve Elon Musk’ın xAI’sine D seviyesinde verildi; her ikisi de Palo Alto yakınlarında bulunuyor. Çinli firmalar Z. ai ve DeepSeek de D notu aldı. Alibaba Cloud ise en düşük seviyede, D- ile derecelendirildi. Şirketler, varoluşsal güvenlik, risk değerlendirmesi ve bilgi paylaşımı gibi altı kategoriye ait 35 göstergede değerlendirildi. Değerlendirme, kamuya açık veriler ve firma anket cevaplarının birleşimiyle yapıldı ve sekiz AI uzmanı, akademisyen ve organizasyon lideri tarafından puanlandı. Özellikle, tüm firmalar, girişimleri küresel felaketlere yol açabilecek yapay zeka kötüye kullanımını engellemeye yönelik iç kontroller ve stratejiler açısından ortalamanın altında kaldı.

Rapor, hiçbir şirketin, yapay zekanın genel ve süper zekaya doğru ilerledikçe kontrol kaybını önleme veya ciddi kötüye kullanımı engelleme konularında inandırıcı planlar sunmadığını belirtti. Google DeepMind ve OpenAI, güvenlik taahhütlerini yineledi. OpenAI, sınır güvenliği araştırmalarına yatırım yaptığını, titiz testler uyguladığını ve güvenlik çerçevelerini paylaşarak endüstri standartlarını yükseltmeye çalıştığını vurguladı. Google DeepMind ise, gelişmiş yapay zeka modellerinden kaynaklanan ciddi riskleri azaltmak için bilim odaklı güvenlik yaklaşımları ve protokoller geliştirdiğini belirtti. Buna karşılık, Institute, xAI ve Meta’nın risk yönetimi çerçeveleri olduğunu ancak yeterli denetleme ve kontrol taahhütleri veya önemli güvenlik araştırmaları yatırımlarına sahip olmadıklarını vurguladı. DeepSeek, Z. ai ve Alibaba Cloud gibi firmaların ise kamuya açık güvenlik stratejisi belgeleri bulunmuyor. Meta, Z. ai, DeepSeek, Alibaba ve Anthropic ise konuyla ilgili yorum taleplerine yanıt vermedi. xAI raporu “Legacy Media Lies” (Kıyamet Medyasının Yalanları) olarak nitelendirdi ve Musk’ın avukatı ise ek sorulara cevap vermedi. Musk, Future of Life Institute’a danışmanlık yapıp fon sağlasa da, bu Güvenlik Endeksi’nin hazırlanmasında doğrudan yer almadı. Tegmark, yetersiz düzenlemenin teröristlerin biyolojik silah geliştirmesine imkan tanıyabileceğinden, manipülatif güçleri mevcut seviyelerin ötesine taşıyabileceğinden veya hükümetleri istikrarsızlaştırabileceğinden endişe ediyor. Bu sorunların çözümünün aslında oldukça basit olduğunu, yapay zeka şirketleri için bağlayıcı güvenlik standartları oluşturulması gerektiğini vurguladı. Bazı hükümet hamleleri, yapay zekanın gözetimini artırmaya yönelmiş olsa da, teknoloji lobileri bu reformlara karşı çıktı ve yeniliğin engellenmesinden veya şirketlerin yurtdışına taşınmasından endişe etti. Yine de, Eylül ayında California Valisi Gavin Newsom tarafından imzalanan SB 53 gibi yasalar, şirketlerin güvenlik ve emniyet protokollerini açıklamasını ve siber saldırılar gibi olayları raporlamasını zorunlu kılıyor. Tegmark, bu yasanın ilerleme olduğunu, ancak daha çok adım atılması gerektiğini belirtiyor. Enderle Grubu baş analisti Rob Enderle, AI Güvenlik Endeksi’ni yapay zekanın düzenlenme sorunlarına karşı ikna edici bir yaklaşım olarak görüyor, fakat ABD’nin şu anda etkili düzenlemeler uygulama kapasitesine sahip olup olmadığını sorguluyor. Zayıf hazırlanmış kuralların zarara yol açabileceğini ve mevcut düzenleme mekanizmalarının uyumu sağlamak için yeterli olup olmadığından şüphe ediyor. Özetle, AI Güvenlik Endeksi, büyük yapay zeka geliştiricilerinin henüz sağlam güvenlik taahhütleri sergilemediğini ortaya koyuyor ve insanlığı yapay zekanın büyüyen risklerinden korumak için daha güçlü düzenlemelere acil ihtiyaç olduğunu bir kez daha vurguluyor.