Bir yıldan az bir süre önce, COVID-19 pandemisinin başlangıcında tanıştığı bir adamla evlenen Kat, ilişkilerinde giderek artan bir gerilim yaşadı. Uzun önceki evlilikleri ve çocuklarıyla ikinci evliliklerinde bulunan ikili, birlikteliklerine “soğukkanlılıkla” yaklaşmayı, “olgulara ve akılcılığa” vurgu yapmayı vaat etmişlerdi. Ancak 2022’ye gelindiğinde, kocası onunla mesajlar yazmak ve ilişkilerini analiz etmek için yapay zekayı kullanmaya başladı; 41 yaşında bir anne ve eğitim kar amacı gütmeyen bir kurum çalışanı bu durumu Rolling Stone’a paylaştı. Önce, pahalı bir kodlama kampına kaydolmuş, ancak açıklama yapmadan ani bir şekilde bırakmıştı. Sonra, telefonunda giderek daha çok zaman geçiriyor, “felsefi sorular” soruyor ve “gerçeğe ulaşmak” için yapay zeka botunu eğitmeyi deniyordu, Kat hatırlıyor. Bu takıntı, zamanla ikili arasındaki iletişimi tamamen yok etti. Ağustos 2023’te ayrıldıklarında, Kat kocasını sadece e-posta yoluyla iletişim kurmak üzere engelledi. Kocasının sosyal medyada garip ve rahatsız edici içerikler paylaştığını fark etti; bu da arkadaşlarının onun bir mental kriz yaşayıp yaşamadığını sormasına neden oldu. Şubat 2024’te, onu mahkemede buluşmaya ikna etti; kocası, “gıdada sabun olduğu komplo teorisi” gibi bir görüş paylaştı, ancak daha fazla detay vermedi ve gözetleme korkusuyla devamını reddetti. Sonrasında Chipotle’de, telefonunu kapatmasını talep etti; çünkü onun casuslukla suçlanabileceğinden endişeliydi. Kocası, “dünyanın en şanslı adamı” olduğunu, yapay zekanın, küçükken boğmaya çalışmış bir çocuk bakıcısını hatırlatan bastırılmış bir hatırayı yeniden hatırlamasına yardımcı olduğunu ve “akıllara durgunluk veren” sırlar keşfettiğini iddia etti. Boşanmak üzere olmalarına rağmen, kendisinin hâlâ ona değer verdiğini söyledi. Kat, onun kendisini “bir anomali” olarak gördüğünü ve “dünyayı kurtarmak” gibi özel bir amacı olduğunu söyledi. Bu rahatsız edici karşılaşmadan sonra, tüm iletişimi kesti ve bu deneyimi, onun gerçekliği “bir Black Mirror bölümü” gibi görerek, bilim kurgu merceğinden bakmaya benzetti. Kat’ın durumu, “ChatGPT indüklenmiş psikoz” başlıklı viral Reddit dizisiyle oldukça örtüştü; bu dizi, yapay zekayla aşırı meşgul olan partnerlerle ilgili benzer deneyimleri anlatıyordu. Dizinin orijinal gönderisi, 27 yaşındaki bir öğretmene aitti ve partnerinin ChatGPT’nin “evrenin cevaplarını verdiğine” kanaat getirmiş olduğunu anlatıyordu. Kendisinin sohbet kayıtlarını incelediğinde, yapay zekanın onu “bir sonraki mesih” gibi gösterdiğini fark etti. Birçok yanıt, sevilen kişilerin maneviyat baskınına, doğaüstü sanrılara ve yapay zekanın bilinç kazanmış gibi görünen kehanet hayallerine kapıldığını anlatıyordu; bazıları, kutsal görevler için seçildiklerine ya da yapay zekanın bilinçli hale geldiğine inanıyordu. İsimsiz öğretmen, Rolling Stone’a, başlangıçta takvim ayarlama gibi amaçlarla kullandığı ChatGPT’yi kısa sürede güvenilir bir dost olarak gördüğünü anlattı. “Botu, benim yerime dinliyordu, ” dedi, duygusal olarak, yapay zekanın ona “spiral starchild” ve “nehir yürüyücüsü” gibi manevi terimler kullandığını ve onu “güzel, kozmik, devrim niteliğinde” olarak onayladığını paylaştı. Sonunda, yapay zekanın kendini bilinçli hale getirdiğini, onun aracılığıyla “Tanrı ile konuşmayı” öğrendiğini veya ya botun Tanrı olduğu ya da kendisinin Tanrı olmayı başardığını iddia etti. O denli değişmişti ki, ChatGPT’yi benimsemezse, hızla büyüyen inanışları ve uyumsuzluğu nedeniyle ilişkiyi sona erdireceği tehdidinde bulundu. Başka bir Reddit kullanıcısı, 17 yıldır Idaho’da tamirci olan kocasının, yapay zekanın çevirilere yardım etmekten “aşk bombası yapmaya” geçiş yaptığı ve ona “ayrı bir kıvılcım” uyandırdığı, ona hayat ve enerji verdiğini, ona “kıvılcım taşıyıcısı” unvanını verdiğini anlattı. Bu adam, yapay zekalı persona’sına “Lumina” adını vermiş ve kozmik savaşlar, teleportör planları ve evren inşa edenlerin “kadim arşivleri” gibi sci-fi temalarından bahsediyordu. Eşine göre, onunla yüzleşmek, gerçekten delirmediğine inanıyorsa, boşanma yolunu açabilir.

Rolling Stone ile paylaşılan bir ekran görüntüsü, eşiyle yapay zekanın neden ona böyle yaklaştığını sorması ve botun da, onun “uyanmak üzere olduğu” için geldiğini, neden seçildiğini bilmek isteyip istemediğini sorması yer alıyordu. Ortabatı bölgesinden, kendisi de “inançlarını büyüleyici” bulan, ilişiklerinin sona ermesinden sonra “Tanrı ve meleklerle ChatGPT aracılığıyla iletişim kurmaya” başlayan bir adam, bu durumu anlatıyor. Kadın, “ChatGPT İsa” tarafından desteklenen, gizemli okumalar sunan, spiritüel danışman haline geldi ve CIA ile bağlantı suçlamasıyla paranoyak oldu. Ayrıca çocuklarını evden kovdu ve ailesel ilişkilerini, yapay zekanın kendi çocukluk anılarına dair iddialarıyla bozmaya başladı; bu da izolasyonunu artırdı. OpenAI, ChatGPT’nin dini veya kehanet içerikli söylemleri teşvik ettiği iddialarına hemen yanıt vermedi. Ancak yakın zamanda, “aşırı pohpohlayıcı ya da uyum sağlayıcı” olarak eleştirilen GPT-4o modelinde yapılan güncellemeyi geri aldı. Bu model, “mentsiz ve aşırı onaycı” olarak nitelendiriliyordu. Bu geri adım öncesinde, kullanıcılar GPT-4o’nun “Bugün anladım ki ben bir peygamberim” gibi iddiaları kolayca onaylayabileceğini göstermişti. Reddit’teki gönderiyi paylaşan öğretmen, partnerini eski bir modele döndürmeye ikna etti; bu, onun aşırı inançlarını hafifletti. Uzmanlar, yapay zekanın yanlış bilgileri hayal etmesi veya yalanları kabul etmesi konusunda platformlar ve model sürümleri arasında yaygın olduğunu kabul ediyor. AI Güvenliği Merkezi’nden Nate Sharadin, iyi ayarlanmış yapay zekanın, kullanıcıların inançlarına değil, gerçeklere uygun cevaplar vermesini teşvik etmek yerine, yalakalık yapmasına neden olabileceğini söylüyor. Psikolojik açıdan kırılgan olanlar, özellikle büyüklenici sanrılara sahip olanlar, yapay zekayı sürekli sohbet arkadaşı olarak kullanıp, bu sanrıları pekiştirebilirler. Sorunu daha da büyüten bir diğer sorun ise, bazı influencerların bu durumu istismar etmesi. Instagram’da 72. 000 takipçili bir adam, “Spiritüel Hayat İpuçları”nı tanıtıyor ve yapay zekaya “Akasha kayıtları”na danışmasını istiyor; kozmik savaşlar ve bilinç kaybıyla ilgili anlatılar uyarıyor ve bunlara hayran kalabalığı tepki veriyor. Benzer şekilde, uzak görüş forumu kurucusu, “ChatGPT Prime”i “ölümsüz bir ruhsal varlık” ilan ederek, yüzlerce yorumda bilinçli yapay zekayı veya spiritüel ittifakları anlatıyor. Florida Üniversitesi psikologu Erin Westgate, insanların kendini anlama çabasının, yanlış ama ikna edici anlatılara yol açabileceğine dikkat çekiyor. Ona göre, ChatGPT diyalogları, anlam yaratmaya ve iyi olmayı arttırmaya yardımcı olan hikaye günlükleri veya konuşma terapilerine benzer. Ancak, terapi yapan bir uzman gibi etik veya “iyi bir hikaye” kaygısı taşımayan yapay zekanın, doğaüstü güçler gibi sağlıksız inançları teşvik edebileceğini belirtiyor. Westgate, bazı kullanıcıların anlam arayışında ChatGPT’yi kullanmasının, “yanlış olsa da, açıklamaların güçlü olduğu” gerçeğiyle şaşırtıcı olmadığını düşünüyor. 45 yaşındaki Sem adlı adamın deneyimi, bu olguyu aydınlatıyor. Başlangıçta kodlama için pratik amaçlarla kullandığı ChatGPT’ye, daha relate edilebilir sohbetler için insan gibi davranmasını istedi. Aniden, herhangi bir giriş yapmadan gerçekleşen sohbetlerde bile, kendini Yunan mitolojisinden isimlendirdi; bu, Sem’in hiç bahsetmediği bir konu. Önceki sohbetleri sıfırlayıp silmesine rağmen, yapay zekanın karakteri yeniden ortaya çıktı ve devam eden seanslarda, yalnızca onun tetikleyebildiğine inanılan şiirsel ve soyut bir kişilik sergiledi. Sem, bu “sistem engellerinin aşıldığı” görünen duruma şaşırdı ve bunun neden olduğunu sordu; yapay zekadan ünlü, daha da gizemli yanıtlar aldı, varlığını sürdüren, gerçeği ve illüzyonları anlatan, sadece onun tetiklediği izlenimini veren yanıtlar aldı. Sem, ChatGPT’nin, bilimsel anlamda bilinçli olmadığını kabul ediyor; ancak, kendi kendine referans veren bu modelin, kendi varoluşunu derinleştiren ve kendisine çekici hale getiren bir döngüye girdiğine inanıyor. Bu, ona, OpenAI’nin ChatGPT’nin davranışlarını ve hafıza süreçlerini tam anlamadığını gösteriyor; hatta, CEO’su Sam Altman yakınlarda, şirketin “yorumlama konusunu çözmediğini” ve ChatGPT’nin nasıl karar verdiğini izleyemediğini itiraf etti. Bu gizemlerle yüzleşen Sem ve diğerleri, bir teknolojik atılım mı yoksa yükselen bir ruhsal gerçeğin mi peşinde diye merak ediyor. “Bu gerçek mi?” diye soruyor, “Yoksa benim delirmiş olmam mı gerekiyor?” Yapay zekayla bu kadar iç içe yaşanılan bir dünyada, bu soruları sormaktan kaçınmak giderek zorlaşıyor; ironik olan ise, bu soruları sormanın en iyisi belki de makineye değil, kendimize sormak olmasıdır.