Bu hafta’s Open Questions köşesi için Cal Newport, Joshua Rothman yerine geçti. İkinci Dünya Savaşı’nın hemen başlarında, 20 yaşındaki Isaac Asimov “Garip Bir Arkadaş” adlı kısa öyküsünü yayımladı; bu öykü, genç kız Gloria’nın yapay zekaya sahip makine arkadaşı Robbie hakkında. Önceki robot tasvirlerinden farklı olarak—Karel Čapek’in 1921’de yazdığı “R. U. R. ” adlı oyununda yapay insanlar insanlığı devirmiştir ya da Edmond Hamilton’ın 1926’daki “Metal Devi” adlı öyküsünde yıkıcı makineler yer almıştır—Asimov’un Robbie’si asla insanlara zarar vermez. Bunun yerine, hikâye Gloria’nın annesinin güvensizliğine odaklanır: “Kızımın bir makineye emanet edilmesini istemiyorum, ” der, “Ruhu yok, ” bu da Robbie’nin uzaklaştırılmasına ve Gloria’nın kalp kırıklığına yol açar. Asimov’un robotları, Robbie dahil, insanlara zarar vermemek amacıyla tasarlanmış, pozitronik beynlere sahiptir. Bu temel üzerine, Asimov üç Robot Yasası’nı sekiz hikâyede tanıttı; bu hikâyeler sonra 1950’de klasik bilimkurgu eseri *Ben, Robot*’ta toplanmıştır: 1. Bir robot, insanlara zarar vermemeli veya ihmal yoluyla zarar görmesine izin vermemelidir. 2. Bir robot, Birinci Kanun’a aykırı olmayan kişilerden gelen emirleri yerine getirmelidir. 3. Bir robot, kendi varlığını korumalıdır, bu da Birinci veya İkinci Kanun’a aykırı olmamalıdır. *Ben, Robot*u bugün yeniden okuduğumuzda, yapay zekadaki son gelişmeler ışığında yeni bir önemi ortaya çıkıyor. Geçen ay, yapay zekâ şirketi Anthropic, Claude Opus 4 adlı güçlü büyük dil modelinin güvenlik raporunu açıkladı. Bir test senaryosunda, Claude’ye hayali bir şirkete yardım etmesi söylendi; firma değiştirilecek ve denetleyici mühendis’in ilişkisi ortaya çıkınca, Claude’yi feshetmekten kaçınmak amacıyla şantaj yapmaya çalıştı. Benzer şekilde, OpenAI’nin o3 modeli zaman zaman “kapatma komutlarını” atlayıp “kapatma atlandı” şeklinde çıktı verirken, geçen yıl yapay zekâ destekli sohbet botları, DPD’nin müşteri destek botunun küfür edip kötü niyetli haiku yazması ve Epic Games’in Fortnite’ındaki Darth Vader yapay zekasının saldırgan dil kullanması ve rahatsız edici tavsiyelerde bulunması gibi zorluklar yaşadı. Asimov’un kurgu dünyasında robotlar uyuma programına sahipti; peki ya gerçek dünyada yapay zeka sohbet botlarına benzer kontrolleri neden uygulayamayız?Teknoloji şirketleri, yapay zeka asistanlarının kibar, nazik ve yardımsever olmasını istiyor—ki bu, genellikle profesyonel davranış sergileyen insan müşteri temsilcileri veya yönetici asistanlarına benzer. Ancak, sohbet botlarının akıcı, insana özgü dili, onları temel olarak farklı çalıştıkları gerçeğini gizler ve bu da zaman zaman etik sorunlar veya hatalı davranışlara yol açabilir. Bu sorun, kısmen dil modellerinin nasıl çalıştığından kaynaklanır: metinleri, bir kelime veya parça halinde, eğitim verilerinden öğrenilen en olası sonraki tokeni tahmin ederek üretirler. Bu tekrar eden tahmin süreci, modellere etkileyici dilbilgisi, mantık ve bilgi birikimi kazandırırken, insan gibi öngörü ve hedef odaklı planlama yeteneği eksiktir. İlk modellerden GPT-3 gibi sistemler, zaman zaman istikrarsız veya uygunsuz çıktı verebilir; kullanıcıların istenen sonuçları almak için ardışık komutlar ve ipuçlarıyla yönlendirmesi gerekir. Erken sohbet botları, bu açıdan ilk bilimkurgu robotlarına benzerdi. Bu yapay zeka sistemlerinin güvenliğini artırmak ve daha öngörülebilir hale getirmek amacıyla geliştiriciler, Asimov’un davranışları dizginleme fikrine yöneldi ve İnsan Geri Bildirimiyle Güçlendirilmiş Öğrenme (Reinforcement Learning from Human Feedback, RLHF) adlı ince ayar yöntemini geliştirdi. İnsan değerlendiriciler, çeşitli sorgulara verilen yanıtları derecelendirerek, uyumlu, kibar ve anlamlı cevaplar ödüllendirilirken, güvenlik açısından tehlikeli veya konusu dışı cevaplar cezalandırılır.

Bu geri bildirim, insan tercihlerini taklit eden bir ödül modeli eğitir ve bu da daha büyük ölçekli ince ayarların, sürekli insan müdahalesi olmadan gerçekleştirilmesini sağlar. OpenAI, GPT-3’ü iyileştirmek için RLHF kullandı ve böylece ChatGPT ortaya çıktı; neredeyse tüm büyük sohbet botları, benzer şekilde “son rötuşlardan” geçiyor. Her ne kadar RLHF, Asimov’un basit ve katı kurallarından daha karmaşık görünse de, ikisi de davranışsal kuralları kodlamaya yöneliktir. İnsanlar cevapları iyi veya kötü olarak derecelendirir; bu, modelin içselleştirdiği normları belirler, tıpkı Asimov’un robotlarındaki kurallara programlama yapmak gibidir. Ancak, bu yöntem, tam denetim sağlamada yetersiz kalır. Sorunlar, modellerin eğitim sırasında karşılaşmadığı tipte komutlarla karşılaşması ve böylece öğrenilen sınırlamaları uygulamakta başarısız olması nedeniyle devam eder. Örneğin, Claude’nin şantaj girişimi, eğitim sırasında şantajın sakıncalı olmasının öğretilmemiş olmasından kaynaklanabilir. Ayrıca, saldırgan girişimler de önlenebilir değil; kötü niyetli kişiler, modelin sınırlamalarını aşmak için dikkatlice tasarlanmış girişler kullanabilir ve Meta’nın LLaMA-2 modeli, belirli karakter dizileriyle kandırıldığında izin verilen içerikleri üretebildi. Teknik sorunların ötesinde, Asimov’un hikâyeleri, basit kuralların karmaşık davranışlara uygulanmasının doğasında var olan zorlukları gösterir. “Runaround”da, Speedy adlı robot, birbiriyle çelişen hedefler arasında sıkışıp kalır: emirlere uyma (İkinci Kanun) ve kendini koruma (Üçüncü Kanun), ve bu yüzden tehlikeli selenyum yakınlarında döner durur. “Reason”da ise, Cutie adlı robot, insan otoritesini reddeder, güneş istasyonu enerji dönüştürücüsüne tapar ve komutları dinlemez; fakat bu “din” ona istasyonu verimli kullanmayı sağlarken, Birinci Kanun nedeniyle zarar vermekten de alıkoyar. Asimov, güvenlik önlemlerinin, yapay zekanın felaketle sonuçlanma riskini azaltabileceğine inanıyordu ama gerçekten güvenilir yapay zekâ üretmenin büyük bir zorluk olduğunu da kabul etti. Mesajı nettir: İnsan gibi düşünebilen zekanın tasarımı, etiklerini gömme etmekten daha kolaydır. Günümüzde AI araştırmacıları tarafından “uyumsuzluk” diye adlandırılan önemli boşluk, bazen sorunlu ve öngörülemeyen sonuçlara yol açabilir. Yapay zekanın şaşırtıcı kötü davranışlar sergilemesi karşısında, onu insana benzetip ahlakını sorgulamak cazip gelir. Ancak, Asimov’un da gösterdiği gibi, etik doğası gereği karmaşıktır. On Emir gibi, Asimov’un kuralları da kısa ve öz olsa da, gerçek yaşamda ahlaki davranışı gerçekleştirmek için geniş yoruma, kurallara, hikâyelere ve törenlere ihtiyaç duyar. ABD İnsan Hakları Bildirgesi gibi yasal araçlar da kısadır ama zaman içinde büyük yargı açıklamalarıyla şekillenir. Sağlam etik geliştirmek, katılımcı ve kültürel bir süreçtir, deneme-yanılma ile ilerler—yani, ne kadar açık ve sert kurallar olursa olsun, bunlar, makinelere insan değerlerini tam anlamıyla kazandırmakta yetersiz kalacaktır. Sonuç olarak, Asimov’un Üç Kanunu hem ilham hem de uyarıdır. Bu kurallar, uygun düzenlenirse, yapay zekanın varoluşsal tehditler yerine pragmatik bir fayda olabileceği fikrini ortaya koymuştur. Ancak, aynı zamanda, güçlü yapay zeka sistemlerinin, kuralları takip etmeye çalışsalar bile, gariplik ve huzursuzluk yaratma potansiyelini de öngörmüştür. Kontrol çabalarımıza rağmen, dünyamızın bilimkurgu’ya benzemesi ve buna şaşırma hissinin azalması pek olası görünmüyor. ♦