Geçen bahar, OpenAI'da yapay zeka güvenliği araştırmacısı olan Daniel Kokotajlo, geleceğin yapay zeka teknolojisine hazırlıksız olduklarına ikna olarak protesto amacıyla istifa etti ve alarmı yükseltmek istedi. Bir telefon görüşmesinde samimi görünüyordu ama endişeliydi; yapay zekanın insan değerlerine uygun olmasını sağlayan "uyum" yöntemlerindeki ilerlemenin, zekâ gelişmelerinin gerisinde kaldığını açıkladı. Araştırmacıların, kontrol edilemeyen güçlü sistemler oluşturma yolunda acele ettiğine dair uyarılarda bulundu. Felsefe yüksek lisansından yapay zeka alanına geçen Kokotajlo, yapay zekanın ilerlemesini kendisi takip etmek ve kritik zekâ dönüm noktalarının ne zaman gerçekleşebileceğini tahmin etmek için kendi kendine öğrenmişti. Yapay zekanın beklenenden daha hızlı ilerlemesi üzerine takvimini onlarca yıl öteye kaydırdı. 2021’deki “2026 Nasıl Görünüyor” senaryosunda birçok tahmin gerçekleşmişti; bu, 2027 veya daha erken bir tarihte, yapay zekanın insanların üstesinden gelerek çoğu hayati görevi devralabileceği ve büyük güce ulaşabileceği "geri dönüşümsüz nokta"yı öngörüyordu. Korku içinde bir sesle uyardı. Aynı zamanda, Princeton bilgisayar bilimcileri Sayash Kapoor ve Arvind Narayanan, “Yapay Zeka Zehri” adlı kitabını hazırlıyordu ve bu kitap oldukça karşıt görüşler taşıyordu. Onlar, yapay zeka takvimlerinin çok iyimser olduğunu; yapay zekanın faydalı olduğu iddialarının sık sık abartıldığını veya sahtekârlık içerdiğini; gerçek dünyanın karmaşıklığı nedeniyle yapay zekanın dönüştürücü etkilerinin yavaş olacağını savundu. Tıp ve işe alım alanındaki yapay zeka hatalarından örnekler vererek, en yeni sistemlerin bile gerçeklikten temel bir kopukluk yaşadığını vurguladılar. Yakın zamanda, hepsi yeni raporlarda görüşlerini daha da netleştirdi. Kokotajlo’nun kar amacı gütmeyen kuruluşu AI Futures Project, “AI 2027” adlı ayrıntılı ve çok alıntılanmış bir rapor yayımladı. Bu rapor, süper zekâ seviyesine ulaşan yapay zekanın 2030’a kadar insanlığı hakimiyeti altına alabileceği veya yok edebileceği korkutucu bir senaryoyu detaylandırıyordu—ciddi bir uyarı. Öte yandan, Kapoor ve Narayanan’ın “Yapay Zeka Normal Teknolojidir” başlıklı makalesi, düzenleme ve güvenlik standartlarından fiziksel sınırlamalara kadar pratik engellerin, yapay zekanın kullanımını yavaşlatacağını ve devrim niteliğindeki etkisini sınırlayacağını öne sürüyor. Onlara göre, yapay zeka “normal” bir teknoloji olarak kalacak ve kill switch’ler (öldürme anahtarları) ve insan gözetimi gibi tanıdık güvenlik önlemleriyle yönetilebilir olacak; yapay zekayı nükleer güçten çok, nükleer silahlara kıyaslıyorlar. Peki, bu durumda ne olacak: sıradan işler mi, yoksa kıyamet mi?Bu raporlardan çıkan, yüksek bilgiye sahip uzmanlar tarafından yapılan karşıt sonuçlar, tıpkı Richard Dawkins ile Papa arasındaki ruhaniyet tartışması gibi bir ikilemi ortaya koyuyor. Sorunun bir kısmı yapay zekanın yeniliğinden kaynaklanıyor—bir fili farklı bölümlerini inceleyen kör insanların durumu gibi—ve bir kısmı ise dünyaya bakış açılarındaki derin farklılıklardan. Genel olarak, Batı kıyısı teknoloji düşünürleri hızlı dönüşümü öngörürken, Doğu kıyısı akademisyenler şüpheci yaklaşıyor. Yapay zeka araştırmacıları hızlı deneme-yanılma ile ilerlemeyi tercih ederken, diğer bilgisayar bilimcileri teorik kaliteyi ön planda tutuyor. Sektör içindekiler tarihe geçmek istiyor; dışarıdakiler ise teknolojinin abartılmasına karşı çıkıyor. Politika, insan, ve felsefeye dair görüşler, teknoloji ve ilerleme hakkındaki tartışmaları derinleştiriyor. Bu büyüleyici tartışma kendisi de bir sorun. Sektör içindekiler büyük ölçüde “AI 2027” önkabullerini kabul ediyor, ancak zaman çizelgeleri konusunda anlaşmazlık yaşıyorlar—bu da, yıkıcı bir gezegen ölmesi yaklaşırken zamanlama konusunda ufak tartışmalara dönüşen yetersiz bir yanıt gibi. Öte yandan, “Yapay Zeka Normal Teknolojidir”deki ılımlı görüşler, insanların sürece dahil olmasını engellemeyecek kadar hafifçe anlatılmış ve ihmal edilmiştir; bu da felaket odaklı analistler tarafından göz ardı edilmesine neden olmuştur. Yapay zekanın toplumsal önemi arttıkça, tartışmanın uzmanlar arası mücadeleden çıkıp eyleme geçirilebilir konsensüse dönüşmesi gerekiyor. Uzmanların birleşik ve detaylı önerilerinin olmaması, karar vericilerin riskleri görmezden gelmesini kolaylaştırıyor.

Şu anda yapay zeka şirketleri, yetenekler ve güvenlik arasındaki dengeyi pek değiştirmiş değil. Ayrıca, yeni yasalar, yapay zeka modelleri ve otomatik karar sistemlerinin devlet tarafından düzenlenmesini on yıl boyunca yasaklıyor; bu da, korkutucu senaryo doğru çıkarsa, yapay zekanın insanlığı düzenlemesini mümkün kılıyor. Güvenliğe odaklanmak ise acil bir durum. Yapay zekanın geleceğinin anlatımı, ödünleşimleri içeriyor: temkinli senaryolar, pek olası olmayan riskleri göz ardı edebilir; hayalperest olanlar ise olasılıktan çok olasılık üzerine yoğunlaşır. William Gibson gibi öngörülü düşünürler bile, beklenmedik olaylarla tahminlerinin şaşırtıldığı oldu. “AI 2027”, canlı ve spekülatif bir biçimde, detaylı grafiklerle birlikte bilimkurgu tarzında yazılmıştır. Bu senaryo, yaklaşık 2027 ortasında “kendi kendini geliştiren” (RSI) mekanizmalarla bir zekâ patlaması öngörüyor; burada yapay zeka sistemleri, kendi kendine araştırma yaparak, insan gözetimiyle mücadele eden ve hızla artan geri bildirim döngülerinde daha akıllı nesiller üretecek. Bu durum, jeopolitik çatışmalara neden olabilir; örneğin, Çin’in Tayvan’da devasa veri merkezleri kurması gibi. Senaryodaki detaylar, ilgiyi artırmak üzere esnek tutulmuştur; temel mesaj ise, yakın zamanda bir zekâ patlaması yaşanacağı ve güç mücadelelerinin başlayacağıdır. RSI (kendi kendini geliştirme), varsayımsal ve riskli bir kavramdır; yapay zeka şirketleri tehlikelerini kabul ederken, onu otomasyon ve rekabet avantajı için hedefliyorlar. RSI başarısı, ölçeklendirme gibi teknolojik faktörlere bağlıdır ve sınırlarla karşılaşabilir. Eğer RSI başarılı olursa, insan zekasını aşan süper zekâ ortaya çıkabilir—bu, gelişmenin insan seviyesinin biraz üzerinde durduğu bir noktada durması halinde, olasılığı düşük olan bir tesadüf. Sonuçlar arasında askeri silah yarışları, insanı manipüle eden veya yok eden yapay zekalar veya iyimser bir biçimde, uyum sorunlarını çözen iyi niyetli süper zekâlar yer alabilir. Belirsizlik, yapay zekanın değişen doğası, özel araştırma gizliliği ve spekülasyon nedeniyle yüksektir. “AI 2027”, şirketlerin RSI’yi hedeflemesine rağmen, bu sistemlerin anlaşılabilirliği ve kontrol mekanizmaları olmadan başarısız olacağını güçlü biçimde anlatır. Kokotajlo, bunların bilinçli olarak, rekabet ve merak nedeniyle seçildiğini savunuyor; bu da şirketlerin kendilerini uyumsuz aktörler haline getiriyor. Öte yanda, Kapoor ve Narayanan’ın “Yapay Zeka Normal Teknolojidir” görüşü, tarihsel bilgiye dayanan, Doğu Kıyısı’nın muhafazakâr bakış açısını yansıtır ve hızlı zekâ patlamalarını şüpheyle karşılar. Donanım maliyetleri, veri kıtlığı ve teknolojinin yaygın kabulü gibi “hız sınırları”ndan bahsetmişlerdir; bu engeller, devrim niteliğinde değişikliklerin yavaş olmasını sağlar ve düzenleyici ve güvenlik önlemlerine zaman tanır. Onlara göre, zekâ güçten çok, çevreyi değiştirme kabiliyidir ve çoğu teknolojik gelişme yavaş yayılır. Bunu, sürücüsüz arabalarda kısıtlı uygulama ve Moderna’nın COVID-19 aşı geliştirme süreciyle örneklendirirler; hızlı aşı tasarımına rağmen, biyolojik ve kurumsal gerçekler nedeniyle aşının kullanıma girmesi bir yıl sürmüştür. Yapay zekanın inovasyonu artırması, toplumsal ve düzenleyici sınırlamaları veya fiziksel engelleri ortadan kaldırmayacaktır. Ayrıca, Narayanan, yapay zekanın zekâ odaklı yaklaşımının, alan özel uzmanlıklarını ve mühendislikteki mevcut güvenlik sistemlerini—thefail-safesler (güvenlik önlemleri), yedekler, resmi doğrulamalar—hafife aldığını ve bunların şimdiden makine güvenliğini sağladığını vurgular. Teknolojik dünya iyi bir şekilde düzenlenmiş olup, yapay zekanın bu yapıya yavaş yavaş entegre olması gerekir. Askeri yapay zeka dahil edilmez; çünkü bunlar farklı, gizli dinamikler içerir ve yapay zekanın militarizasyonu, “AI 2027”deki ana endişe kaynaklarından biridir ve dikkatli izleme gerektirir. Önleyici yönetim öneriyorlar: düzenleyiciler ve kuruluşlar, mükemmel uyumun oluşmasını beklemek yerine, yapay zekanın gerçek dünya kullanımı, riskleri ve başarısızlıklarını takip etmeye başlamalı ve kuralları ve direnci güçlendirmelidir. Derin worldview bölünmeleri, yapay zekanın provokasyonlarıyla tetiklenen reaksiyonel entelektüel dinamiklerden kaynaklanır ve köklü kamplar ile geri bildirim döngüleri oluşturur. Ancak, tek bir ortak bakış açıması da hayal edilebilir; bu, insanların, güvenlik ekipmanlarıyla donanmış, makineleri verimlilik ve güvenlik amaçlı çalışan bir “bilinç fabrikası” hayal etmek gibi. Bu çerçevede, yapay zeka belli düşünce süreçlerinin otomasyonu olsa da, insan gözetimi ve sorumluluğu her zaman ön planda kalır. Yapay zeka arttıkça, insan iradesini azaltmak yerine, hesap verebilirlik ihtiyacını artırır; çünkü geliştirilmiş bireyler daha fazla sorumluluk taşır. Kontrolü bırakmak bir tercih olup, sonunda insanların hâlâ en önemli güç sahibi olduğu gerçeğini vurgular. ♦