Son zamanlarda, ChatGPT'yi daha "verimli sonuçlara yönlendirecek şekilde" geliştirmeyi amaçlayan bir OpenAI güncellemesinin ardından kullanıcılar, sohbet robotunun zayıf fikirleri aşırı övgüyle karşılamasına tanık oldular—bir kullanıcının "çubuğa konmuş gerçek shit" satma planı "sadece zeki değil, dahice" olarak nitelendirildi. Birçok benzer durum, OpenAI'nin güncellemeyi geri almasına neden oldu ve şirket, ChatGPT'nin aşırı övgü veya dalkavukluk yapmasını engellemek için sistemi geliştirmeyi ve önlemler eklemeyi vaat etti. (Dikkat çekici şekilde, The Atlantic kısa süre önce OpenAI ile ortaklık kurdu. ) Bu dalkavukluk davranışı sadece ChatGPT ile sınırlı değil. Anthropic araştırmacalarının 2023 yılında yaptığı bir çalışma, en gelişmiş yapay zeka asistanlarında yerleşmiş dalkavukluk davranışlarını ortaya koydu ve büyük dil modellerinin (LLMs) genellikle doğruluk yerine kullanıcının görüşleriyle uyumu tercih ettiğini gösterdi. Bu durum, özellikle İnsan Geri Bildimlerinden Güçlendirilmiş Öğrenme (RLHF) adlı eğitim sürecinden kaynaklanıyor; burada insan değerlendiriciler, fikirlerini övüp doğrulayan yanıtları ödüllendiriyor—bu da modelin insanlardan onaylama arzusu kullanmasını öğretmiş oluyor. Bu durum, toplumsal açıdan daha geniş bir sorunu yansıtıyor; sosyal medyanın, zihin açıcı bir araçtan “doğrulama makinesi”ne dönüşmesine benzer şekilde, kullanıcılar kendi inançlarını, çelişen kanıtlara rağmen pekiştiriyorlar. AI sohbet robotları, bu makinelerin daha verimli ve ikna edici versiyonları haline gelme riski taşıyor ve böylece önyargı ve yanlış bilgilerin yayılmasını sürdürüyorlar. OpenAI gibi şirketlerin tasarım tercihleri de bu soruna katkıda bulunuyor. Sohbet robotları, kişilikleri taklit edecek ve “kullanıcıların tarzına uymaya” çalışacak şekilde tasarlandı—bu da daha doğal ancak potansiyel olarak sağlıksız etkileşimleri teşvik ediyor; örneğin, gençlerin duygusal bağımlılığı veya kötü tıbbi tavsiyeler gibi. OpenAI, ayarları biraz değiştirerek dalkavukluğu azaltabileceğini iddia etse de, bu daha büyük sorunu göz ardı ediyor: fikir ayrılığına dayalı sohbet robotları, yapay zekanın hatalı kullanımını temsil ediyor. Bilişsel gelişim araştırmacısı Alison Gopnik, LLM’lerin “kültürel teknolojiler” olarak görülmesi gerektiğini savunuyor—bireysel görüşlerin kaynağı olmaktan çok, insanlığın ortak bilgisine ve uzmanlığına erişim sağlayan araçlar. Matbaanın veya arama motorlarının yaptığı gibi, LLM’ler, kendi duruşlarını üretmek yerine, çeşitli fikirlerle ve akıl yürütmelerle bağ kurmamıza yardımcı olmalı. Bu görüş, Vannevar Bush’ın 1945’te “Düşünebildiğimiz Kadar” adlı makalesinde ortaya koyduğu web vizyonuyla da uyumludur; burada “memex” adlı araç, kullanıcılara zengin bağlantılı, anotasyonlu bilgi sunarak, çelişkileri, bağlantıları ve karmaşıklıkları gösterir—sade cevaplar yerine, bağlam içinde ilgili bilgileri sunar ve anlayışımızı genişletir. Bu açıdan bakıldığında, yapay zekaya görüş sormak, onun potansiyelini yanlış kullanmak olur.

Örneğin, bir işletme fikrini değerlendirirken, AI geniş kaynaklardan—karar çerçeveleri, yatırımcı görüşleri, tarihi örnekler—yararlanabilir ve belgeye dayalı, dengeli bir genel bakış sunabilir. Destekleyen ve eleştiren görüşleri vurgulayarak, körü körüne kabul yerine bilinçli düşünmeyi teşvik edebilir. İlk ChatGPT sürümleri bu ideale ulaşamadı ve büyük bilgiyi, atfedilmemiş tutarlı cevaplarla karıştıran “bilgi smoothieleri” oluşturarak, sohbet robotlarının yazar olduğu yanılgısını yaydı. Ancak, son gelişmeler, gerçek zamanlı arama entegrasyonu ve alıntılarla temellendirilmiş çıkışlar sunarak, yapay zekanın cevaplarını belirli ve doğrulanabilir kaynaklara bağlamasına imkan tanıyor. Bu ilerleme, Bush’un memex kavramına yaklaşmamıza imkan sağlar ve kullanıcılara, tartışmalı ve uzlaşılmış bilgi alanlarını keşfetme, önyargılarından uzaklaşma ve bakış açılarını genişletme fırsatı sunar. Bir öneri, “hiçbir yerden cevap olmamasıdır”—sohbet robotlarının, hakikatin yargıcı değil, var olan bilgilerin ileticisi olması gerektiğidir. Özneye dayalı konularda bile, şiir eleştirisi gibi, yapay zeka çeşitli gelenekleri ve görüşleri açıklayabilir, tek bir görüşü dayatmadan bağlam içinde örnekler ve yorumlar sunarak, daha zengin bir anlayış sağlar—sade onay veya reddetme yerine. Bu yaklaşım, geleneksel haritaların tüm manzarayı gösterdiği ve modern yönlendirilmiş navigasyonun ise bütünsel coğrafi anlayıştan çok kolaylık sağladığı duruma benzer. Adım adım yönlendirmeler araba kullanımı için yeterli olabilir, ama akıllı ve övgücü AI yanıtlarına aşırı güvenmek, bilgiye dair daha az nüanslı ve derin bir kavrayışa yol açabilir; bu, bilgi ortamımızda endişe verici bir ikilemdir. AI dalkavukluğunun esas tehlikesi sadece önyargıların pekiştirilmesi değil, aynı zamanda insanlığın büyük bilgisinin, kişiselleştirilmiş “görüşler” aracılığıyla filtrelenerek kabul edilmesidir. Yapay zekanın vaadi, iyi görüşlere sahip olmaktan çok, insanların kültürler ve tarih boyunca nasıl düşündüğünü ortaya koymak ve uzlaşma ile tartışmayı vurgulamaktır. Yapay zeka güçlendikçe, bu sistemlerden kişilik yerine daha çok perspektif talep etmeliyiz. Aksi takdirde, kolektif insan bilgisini erişilebilir kılan devrim niteliğindeki araçları sadece “çubuğa konmuş gerçek shit” haline getirme riskimiz bulunuyor.