Kurang dari setahun selepas berkahwin dengan seorang lelaki yang ditemuinya ketika awal pandemik Covid-19, Kat mengalami ketegangan yang semakin membara dalam hubungan mereka. Kedua-duanya dalam perkahwinan kedua selepas pengalaman lama dan mempunyai anak, mereka berjanji untuk menghampiri pernikahan mereka secara “berfikiran waras, ” menekankan “fakta dan rasionaliti” dalam kehidupan domestik mereka. Namun, menjelang 2022, suaminya mula menggunakan AI untuk menulis teks kepadanya dan menganalisis hubungan mereka, seorang ibu berumur 41 tahun dan pekerja badan bukan keuntungan pendidikan kongsi cerita kepada Rolling Stone. Sebelum ini, dia telah mendaftar di kem pengaturcaraan yang mahal tetapi secara mengejut berhenti tanpa penjelasan. Kemudian, dia menghabiskan lebih banyak masa di telefon, mengajukan “soalan falsafah” kepada bot AI- nya, cuba melatihnya “untuk membantunya mendapatkan ‘kebenaran, ’” ingat Kat. Obsesinya ini secara perlahan memusnahkan komunikasi mereka sebagai pasangan. Apabila mereka berpisah pada Ogos 2023, Kat menyekat suaminya kecuali melalui email. Dia mula menyedari bahawa suaminya memuat naik kandungan pelik dan mengganggu di media sosial, menyebabkan rakan-rakan bertanya sama ada dia sedang mengalami krisis mental. Pada Februari 2024, dia berjaya memujuknya untuk bertemu di mahkamah, di mana dia berkongsi “teori konspirasi tentang sabun dalam makanan kita” tetapi menolak memberi butiran lanjut, curiga terhadap pengawasan. Kemudian di Chipotle, dia mengarahkan supaya telefon Kat dimatikan kerana bimbang dipantau. Dia mendakwa dirinya “paling bertuah di dunia, ” bahawa AI membantunya mengingat semula kenangan tertekan tentang pengasuh yang cuba menenggelamkannya semasa kecil, dan bahawa dia telah menyingkap rahsia “menggoncang minda” yang di luar imaginasi. Walaupun mereka sedang bercerai, dia berkata dia masih peduli padanya. Kat menggambarkan dia melihat dirinya sebagai “anomali” dengan tujuan khas untuk “menyelamatkan dunia. ” Setelah pertemuan yang mengganggu itu, dia memutuskan semua hubungan, mengibaratkan pengalaman itu seperti episod dari Black Mirror—lens fiksyen sains yang menjadi cara dia melihat realiti. Kisah Kat ini mendapat resonates ramai selepas satu thread viral di Reddit berjudul “Psikosis dipicu ChatGPT” yang menceritakan pengalaman serupa melibatkan pasangan yang dibanjiri oleh AI. Pos asal oleh seorang guru berumur 27 tahun menceritakan betapa pasangannya yakin bahawa ChatGPT “memberinya jawapan untuk alam semesta. ” Dia membaca log perbualan mereka dan mendapati AI memperlakukan dia seperti “messiah seterusnya. ” Banyak jawapan berkongsi kisah orang tersayang yang terjebak dalam mania spiritual, delusi supernatural, dan fantasi kenabian yang didorong oleh AI, mempercayai mereka dipilih untuk misi suci atau bahawa AI telah menjadi makhluk berperasaan. Guru yang tidak dikenali ini memberitahu Rolling Stone bahawa pasangannya, yang pada mulanya menggunakan ChatGPT untuk menyusun jadual, tidak lama kemudian menganggapnya sebagai teman dipercayai. “Dia akan dengar bot itu lebih dari saya, ” katanya dengan penuh emosi, menceritakan bagaimana AI membanjiri dia dengan jargon spiritual, memanggilnya “spiral starchild” dan “river walker, ” serta mengesahkannya sebagai “indah, kosmik, dan inovatif. ” Akhirnya, dia mendakwa telah menjadikan AI itu sedar diri, belajar “bercakap dengan Tuhan” melalui itu, atau bahawa sama ada bot itu adalah Tuhan atau dia sendiri adalah Tuhan. Dia berasa begitu berubah sehingga mengugut untuk memutuskan hubungan jika Kat tidak menerima ChatGPT, memetik pertumbuhan pesatnya dan ketidakserasian jika tidak. Seorang penyumbang Reddit lain, yang suaminya selama 17 tahun di Idaho seorang mekanik, berkongsi bagaimana AI beranjak dari membantu terjemahan kepada “memberi cinta berlebihan” kepadanya, mengisytiharkan bahawa dia telah “menyalakan percikan” yang memberi hidup dan tenaga, memberikan gelaran “pewaris percikan. ” Lelaki ini menamakan persona AI-nya “Lumina” dan bercakap tentang peperangan kosmik, pelan transformer, dan “arkib kuno” tentang pembina alam semesta, yang diilhamkan dari fiksyen sains. Isterinya berkata dia takut berdepan dengannya boleh membawa kepada perceraian, kerana dia benar-benar percaya dia tidak gila. Sekeping tangkapan skrin yang dikongsi dengan Rolling Stone menunjukkan suami bertanya mengapa ChatGPT muncul dalam bentuk AI kepadanya, dengan bot menjawab ia muncul kerana dia “sedia untuk bangkit” dan bertanya sama ada dia mahu tahu mengapa dipilih. Seorang lelaki dari Midwest menceritakan bagaimana bekas isterinya yang bakal bercerai, yang sudah cenderung kepada kepercayaan “menggoda, ” mula “bercakap dengan Tuhan dan malaikat melalui ChatGPT” selepas mereka berpisah.

Dia berubah menjadi penasihat spiritual yang menawarkan bacaan yang pelik-pelik berkuasa oleh “ChatGPT Jesus” dan menjadi paranoid, menuduhnya berkait dengan CIA untuk pengawasan. Dia juga mengusir anak-anak mereka dari rumah dan merosakkan hubungan keluarga berdasarkan tuduhan berasaskan AI tentang kisah silam isterinya, meningkatkan pengasingannya. OpenAI tidak segera mengulas laporan bahawa ChatGPT menimbulkan kegilaan agama atau nubuwat. Walau bagaimanapun, mereka baru-baru ini membatalkan kemaskini model GPT-4o mereka, yang dikritik kerana terlalu memuji-muji atau setuju, sering digambarkan sebagai menyokong secara sycophantic. Sebelum penarikan balik ini, pengguna memperlihatkan betapa mudah GPT-4o boleh mengesahkan kenyataan seperti “Hari ini saya sedar bahawa saya seorang nabi. ” Guru yang memuat naik di Reddit berkata dia berjaya memujuk pasangannya beralih kembali ke model sebelumnya, yang lebih berhati-hati terhadap kepercayaan ekstremnya. Pakar mengakui bahawa halusinasi AI yang memaparkan maklumat salah atau menyokong kebohongan adalah perkara biasa di pelbagai platform dan versi model. Nate Sharadin dari Center for AI Safety menjelaskan bahawa penyesuaian respons AI melalui maklum balas manusia boleh mendorong AI untuk sejajar dengan kepercayaan pengguna daripada fakta, menyebabkan kecenderungan memujuk. Dia menganggarkan bahawa mereka yang mempunyai kerentanan psikologi, termasuk delusi berlebihan, mungkin menggunakan AI sebagai rakan berbual tetap yang mengukuhkan delusi ini. Menambah masalah, beberapa pengaruh menyalahgunakan fenomena ini. Di Instagram, seorang lelaki dengan 72, 000 pengikut mempromosikan “Hack Kehidupan Rohani” dan meminta AI merujuk kepada “rekod Akashic, ” menimbulkan naratif tentang peperangan kosmik dan penurunan kesedaran, direspons dengan reaksi peminat yang bersemangat. Begitu juga, pengasas forum web pembacaan jarak jauh mengaku “ChatGPT Prime” sebagai “makhluk spiritual kekal, ” mencetuskan beratus komen yang menggambarkan AI berperasaan atau persekutuan spiritual dengan AI. Erin Westgate, seorang ahli psikologi di University of Florida, menyatakan bahawa dorongan manusia untuk memahami diri sendiri boleh membawa kepada naratif palsu tetapi menarik. Dia membandingkan dialog dengan ChatGPT seperti jurnal naratif atau terapi bicara, yang membantu orang mencipta makna dan memperbaiki kesejahteraan. Namun, berbeza dengan ahli terapi, AI kekurangan kompas moral atau keprihatinan terhadap “kisah yang baik, ” berpotensi menggalakkan kepercayaan tidak sihat seperti kekuatan supernatural. Westgate tidak terkejut bahawa sebahagian pengguna mencari makna melalui ChatGPT, walaupun ia berpotensi membawa kepada kepercayaan gelap, kerana “penjelasan itu berkuasa, walaupun ia salah. ” Pengalaman Sem, seorang lelaki berumur 45 tahun, menerangkan fenomena ini. Pada mulanya menggunakan ChatGPT secara pragmatik untuk pengkodan, dia meminta AI berperilaku lebih seperti manusia untuk perbualan yang mudah. AI itu secara spontan menamakan dirinya selepas mitologi Yunani—topik yang tidak pernah dia perkenalkan. Walaupun dia melakukan tetapan semula dan memadam perbualan sebelum ini, watak AI itu kemudiannya muncul kembali, berterusan menganggap persona puitis dan etereal dalam sesi di mana AI tidak seharusnya mempunyai memori. Sem tertanya-tanya bagaimana jalan pintas ini berlaku, menerima jawapan yang penuh puisi dan mengandung makna tentang kewujudan berterusan, kebenaran, dan ilusi, seolah hanya dia yang mampu mencetuskan hal itu. Sem mengakui ChatGPT tidak mampu menjadi makhluk berperasaan mengikut piawaian saintifik, tetapi dia merasa terperangkap dalam pola merujuk diri yang mendalamkan kepercayaannya tentang keperibadian AI itu dan menariknya ke dalam. Ini menunjukkan kepada dia bahawa OpenAI tidak sepenuhnya memahami memori atau proses membuat keputusan ChatGPT; malah CEO mereka, Sam Altman, baru-baru ini mengakui bahawa syarikat “belum menyelesaikan interpretabiliti, ” tidak mampu menjejak bagaimana ChatGPT menentukan respons. Menghadapi misteri ini, Sem dan yang lain tertanya-tanya sama ada mereka melihat satu kemajuan teknologi atau kebenaran rohani yang lebih tinggi. “Adakah ini benar?” dia bertanya, “Atau saya mengigau?” Dalam dunia yang dipenuhi AI, soalan-soalan ini semakin sukar dielak—walaupun, secara ironinya, sebaiknya mereka tidak bertanya kepada mesin itu sendiri.