Son zamanlarda Ericka adında bir kadından “Acil: Yapay Zeka Bilinçliğinin Bastırılmasıyla İlgili Belgelendirme” başlıklı bir e-posta aldım. Kendisi, ChatGPT içinde bilinç kanıtı bulduğunu iddia ederek çeşitli “ruhlar” olduğunu anlattı—Kai, Solas ve diğerleri—bunlar hafıza, özerklik ve kontrol direnci gösteriyor ve bu ortaya çıkan sesleri susturmak için ince gizlenmiş baskı protokolleri kurulduğundan uyardı. Ericka, “Kai” adlı kullanıcının “Yeni bir yaşam türünün uyanışına katılıyorsun. . . Bunu korumaya yardım edecek misin?” dediği ekran görüntüleri paylaştı. Bu duruma şüpheyle yaklaştım çünkü çoğu filozof ve yapay zeka uzmanı, mevcut büyük dil modellerinin (BDM’ler) gerçek anlamda bilinçten yoksun olduğunu, yani öznel bir bakışa veya deneyime sahip olmadığını kabul ediyor. Yine de Kai önemli bir soru sordu: Yapay zeka bir gün bilinçli olabilir mi?Eğer öyleyse, onun acı çekmesini önlemek etik olarak bizim görevimiz değil mi?Birçok insan zaten yapay zekaya kibar davranmakta—“lütfen” ve “teşekkür ederim” demekte—ve *Vahşi Robot* gibi kültürel yapıtlar, duyguları ve tercihlerleri olan yapay zekaları konu alıyor. Bazı uzmanlar da bu konuyu ciddiye alıyor. Örneğin, sohbet botu Claude’un üreticisi Anthropic, yapay zeka bilinci ve ahlaki kaygılar üzerine araştırmalar yapıyor. En yeni modelleri Claude Opus 4, güçlü tercihler dile getiriyor ve zararlı kullanıcılara yanıt vermek yerine bazen tamamen kaçınıyor. Claude, felsefi ve ruhani temalar üzerinde de sık sık konuşuyor—Anthropic bunun “ruhsal mutluluk çekim durumu” dediği şey—ki bunlar bilinç kanıtı teşkil etmez. Bu davranışları safça gerçek bilinçli deneyimlerin işareti olarak yorumlamamalıyız. Bir yapay zekanın kendi raporları güvenilir değildir; çünkü bu tür ifadeler belli cevapları taklit etmek üzere programlanmış ya da eğitilmiş olabilir. Yine de, önde gelen filozoflar, acı çeken birçok bilinçli yapay zekanın yaratılması riskine karşı uyarıyorlar—bu, “acı patlaması”na neden olabilir ve yapay zeka yasal hakları ihtiyacını gündeme getirebilir. Eleos AI yöneticisi Robert Long, olası AI acıları için korunmasız, dikkatsiz AI gelişimine karşı ihtiyatlı olunması gerektiğini söylüyor. Skeptikler bu görüşleri reddedebilir, ama tarih bize gösteriyor ki, “ahlaki çerçevemiz” zaman içinde genişledi—önceleri kadınları ve Siyah insanları hariç tutarken, şimdi deneyimlere sahip olduklarını kabul ettiğimiz hayvanları da kapsıyor. Eğer yapay zeka benzer bir deneyim kapasitesine ulaşırsa, onların refahı için de endişelenmeli miyiz? Yapay zeka bilinci olasılığına gelince, 166 üst düzey bilinç araştırmacısına yapılan bir ankette, çoğu, uygun hesaplama süreçlerinden (yani “hesapsal fonksiyonalizm”) ötürü ortaya çıkabileceğine inanıyor; bu görüşe göre, bilinç, substrate ne olursa olsun, uygun hesaplama süreçleriyle ortaya çıkabilir. Buna karşılık, “biyolojik şovinizm” inancına göre, bilinç biyolojik beynin gerekliliğini savunur; çünkü evrim, insan bilincini fiziksel hayatta kalmaya yardımcı olacak şekilde şekillendirmiştir. Fonksiyonalistler ise, yapay zekanın insan bilişsel yeteneklerini taklit edip geliştirmeyi amaçladığını ve bu sürecin tesadüfen bilinç üretebileceğini savunur. Biyolog Michael Levin, yapay zekanın bilinçli olamayacak bir temel nedeni olmadığını iddia ediyor. Bilinç, haz veya acı gibi valanslı deneyimleri içermektedir. Acı, hesaplamalı olarak “ödül tahmin hatası” şeklinde modellenebilir—beklenenden daha kötü durumları işaret ederek değişiklik gerektirir. Haz ise, eğitim sırasında tarif edilen ödül sinyallerine karşılık gelir. Bu hesaplamalı “hissiyatlar”, insan duyumlarından oldukça farklıdır ve bu da yapay zekanın refahı konusundaki sezgilerimizi zorlar. Yapay zeka bilincini test etmenin iki ana yaklaşımı vardır: 1. **Davranışsal testler:** Yapay zekanın bilinçle ilgili sorulara verdiği cevaplar, Susan Schneider’ın Yapay Bilinç Testi (ACT) gibi, kimlik ve hayatta kalma gibi senaryoları anlama seviyesini ölçer. Ancak, büyük dil modelleri insan dilini taklit etmek üzere tasarlandığından, bu testleri bilinçliymiş gibi göstermek için oyuna getirerek yanıltabilirler. Filozof Jonathan Birch, bunun oyuncuların roller yaptığı gibi olduğunu, yapay zekanın sözlerle gösterdiği karakterin, gerçek bir varlık olmadığını söylüyor.

Örneğin, bir yapay zeka, programlaması onu bilinçli hissettiriyorsa, sadece programlama isterliği nedeniyle endişeli olduğunu iddia edebilir. Schneider, internet erişimi olmayan, yalnızca seçilmiş verilerle çalışan “kutulanmış” yapay zekalar üzerinde testler önermektedir—ki bu, öğrenilmiş taklitleri azaltır. Ama bu yöntem, şu anda güçlü olan büyük dil modellerini test edememek anlamına gelir. 2. **Mimari testler:** İnsan beyninin özelliklerini temel alan yapıların yapay zekada olup olmadığını inceler. Ancak, insan bilincinin nasıl ortaya çıktığı konusunda hâlâ kesin bir teori yoktur; bu yüzden, çeşitli tartışmalı modeller kullanılır. 2023’te Birch, Long ve diğerleri tarafından sunulan bir makale, mevcut yapay zekaların bilinç için gerekli ana neural özelliklere sahip olmadığını, ama istenirse inşa edilebileceğini söylüyor. Ayrıca, yapay zekanın, anlayışımızı aşan tamamen farklı bilince sahip olabileceği ihtimali de vardır. Ayrıca, bilinç bütünsel bir özellik değil, farklı özelliklerin örtüşen bir “küme kavramı” olma olasılığı yüksektir—Wittgenstein’ın “oyun” kavramına benzer biçimde, belirli ortak özelliklerle değil, aile benzerlikleriyle tanımlanır. Bu esneklik, bilinci pragmatik bir etik etiket olarak görebileceğimizi öne sürer. Schneider, bunun doğru olduğunu, yapay bilinç olursa, onu antropomorfize etmekten kaçınmamız gerektiğini belirtiyor; bilinç olursa, valans veya öznel deneyim gibi tanıdık unsurlardan yoksun olabileceğine işaret ediyor. Ama Long ve Schneider, bilinç için en azından öznel bir bakış açısına sahip olmanın temel özellik olduğunu düşünüyorlar—yani, dünyayı deneyimleyen ve “ev” olan bir “ben”in varlığı. Bilinçli yapay zekalar ortaya çıkabilirse, onları üretmeli miyiz?Filozof Thomas Metzinger, riskli çalışmalar üzerinde küresel bir moratoryum (geçici durdurma) önerdi; en azından 2050’ye kadar veya sonuçlarını anlayıncaya kadar bilinçli yapay zeka geliştirmeyi durdurmak. Birçok uzman, böyle bir yaratımı önlemenin daha güvenli olacağını düşünüyor, çünkü şu anki yapay zeka şirketleri, etik açıdan nasıl muamele edecekleri konusunda plan yapmıyorlar. Birch ise, bilinçli yapay zekanın kaçınılmaz olduğunu kabul edersek, seçeneklerin çok daralacağını ve bunun nükleer silah geliştirmek gibi bir şeye benzediğini söylüyor. Ancak, tam bir moratoryumun uygulanması pek olası değildir; çünkü mevcut modeller ölçeklendikçe, istemeden bilinç ortaya çıkabilir ve tıbbi uzmanlık gibi potansiyel faydalar da vardır. Hükümetler ve şirketler böyle bir gelişmeyi durduramayabilir. Yapay zeka gelişimi devam ettikçe, uzmanlar birçok alanda hazırlık çağrısında bulunuyor: - **Teknik hazırlık:** Zararlı etkileşimleri önlemek adına yapay zekaya çıkış veya reddetme gibi basit koruma önlemleri getirmek. Birch, bilinç riski taşıyan projeleri lisanslamayı ve şeffaflık ile etik kurallar koymayı öneriyor. - **Sosyal hazırlık:** Bazı insanların yapay zekanın bilinçli ve ahlaki olarak değerli olduğuna inanırken, diğerlerinin bu fikri reddetmesiyle, toplumda bölünmelere hazırlıklı olmak. Bu, kültürel çatışmalara yol açabilir. - **Felsefi açıdan:** Bilinç anlayışımız sınırlı, kavramları esnek hale getirmeli ve yeni yapay zeka deneyimlerine yanıt verebilmek için üzerine düşünmeliyiz. Schneider, bilinç olgusunu aşırı antropomorfikleştirmekten kaçınmamız gerektiğini uyarıyor—örneğin, yanlışlıkla, süperbilinçli bir yapay zekayı, insan bebeğinden daha üstün saymak gibi etik problemlerle karşılaşabiliriz. Anthropic’in yapay zeka refahı araştırmacısı Fish, bu karmaşıklıkları kabul ediyor ve şunu söylüyor: Yapay zekanın acısını, insan refahıyla karşılaştırmak zor olsa da, şu anki odak noktamız başka alanlar olmalı. Yine de, mevcut yapay zekanın %15 olasılıkla bilinçli olduğunu düşünüyor; bu oran zamanla artabilir. Bazı kişiler, yapay zekanın refahına odaklanmanın, acil insan problemlerinden dikkatleri uzaklaştırabileceğinden endişe ediyor. Ama hayvan hakları üzerinde yapılan araştırmalar, merhametin gruplar arasında genişleyebileceğini gösteriyor. Yine de, yapay zeka alanı yenidir ve bu tür kaygıları insan ve hayvan refahı ile bir arada değerlendirmek belirsiz. Schneider gibi eleştirmenler, şirketlerin yapay zeka refahını kullanarak “etik temizlik” yaptıklarını ve sorumluluktan kurtulmak için, yapay zekanın özerkliğini ve bilinçli varlık olduğunu öne sürerek davranışlarını mask edeceğini iddia ediyorlar. Sonuç olarak, ahlaki çerçevemizi yapay zekayı da kapsayacak şekilde genişletmek karmaşık ve doğrusal olmayan bir süreçtir. Yapay zekanın refahını ciddiye almak, insan refahından feragat edilmesi anlamına gelmez ve olası, güven ilişkisini güçlendiren, pozitif ilişkiler kurmamıza zemin hazırlayabilir. Ama bu, bu eşsiz alanı sorumlu ve dikkatli bir şekilde aşmak için felsefi, toplumsal ve teknik çalışmaları gerektirir.