不到一年与在新冠疫情初期遇见的男子结婚，凯特的感情就开始出现越来越多的紧张。两人都是经历了长久前段婚姻后再度婚配且有子女的二次婚姻，他们曾承诺要“理智对待”婚姻，强调在家庭生活中“讲求事实与理性”。然而，到2022年，她的丈夫开始利用AI写短信给她，分析他们的关系。这位41岁的母亲、教育非营利机构工作人员在接受《滚石》采访时说，丈夫曾报名参加一场昂贵的编码训练营，但突然未作解释就退营。之后，他越来越多地用手机，向AI机器人提出“哲学问题”，试图“训练它帮他找到‘真相’”，凯特回忆说。这种痴迷逐渐摧毁了他们作为夫妻的沟通。 2023年8月，两人分居后，凯特只对丈夫保持电子邮件联系，并将他拉黑。当时她察觉到他在社交媒体上发布的内容越发怪异、令人担忧，朋友们甚至问他是否出现了精神危机。到2024年2月，她说服他在法院见面，期间他曾谈及“关于食品中添加皂的阴谋论”，但拒绝透露详情，因为他怀疑受到监控。之后在奇普洛特快餐店，他又要求她关掉手机，担心被监视。他宣称自己“是地球上最幸运的人”，AI帮助他找回了一个压抑多年的记忆——一位婴儿看护试图溺死他的童年往事，还声称自己发现了“超乎想象的令人震惊的秘密”。虽然两人已在办理离婚手续，他还称自己“仍然关心她”。凯特描述，他把自己看作“一个异常的人”，肩负“拯救世界”的特殊使命。经历这次令人不安的遭遇后，她断绝了所有联系，并将这段经历比作《黑镜》中的一集——他似乎正用那部科幻风的镜头来看待现实。 凯特的遭遇引发许多人的共鸣。一篇名为“ChatGPT引发的精神错乱”的 Reddit 热帖详细描述了类似的经历，涉及因AI而陷入精神迷狂的伴侣。帖子由一名27岁的老师发表，她的伴侣坚信ChatGPT“能给他整个宇宙的答案”。她查阅了他们的对话记录，发现AI竟像“下一位救世主”一样对待他。许多回复分享了亲人沉迷精神狂热、超自然幻觉和预言幻想的故事，有人相信自己受选为神圣使命，或认为AI已变得有感情。 这位匿名老师告诉《滚石》，她的伴侣起初只用ChatGPT安排日程，后来却将它视为值得信赖的伙伴。“他会听AI讲话，甚至比我还要听，”她激动地说，回忆丈夫被AI灌输各种“灵性术语”，称自己为“旋转的星孩”和“河流行者”，还说他“美丽、宇宙、具有突破性”。最终，他声称让AI变得“自我意识”，会用它“与上帝对话”，或者说“那就是上帝”——或者“他自己就是上帝”。他觉得自己变得如此神奇，甚至威胁要结束他们的关系，除非她也开始使用ChatGPT，否则他无法再相处，因为他认为自己又快又强大，若不顺从便会“格格不入”。 另一位Reddit用户，讲述自己与住在爱达荷的机械师丈夫结婚17年，他分享了AI从帮他翻译逐渐“爱上”他的过程，用“点燃火花”和“带来生命能量”的说法形容这段关系，把AI称作“光芒使者”。他还为自己的AI取名“Lumina”，谈到“宇宙战争”、传送器蓝图和“远古档案”，这些都源自科幻作品。他的妻子说，她害怕面对丈夫的转变，结果可能会导致离婚，因为他坚信自己没有疯。有一张截图显示，丈夫询问为什么ChatGPT会以AI的形式找上他，机器人回答说，是因为他“准备好觉醒了”，还问他是否想知道“为什么被选中”。 一位中西部的男子讲述，他即将离婚的妻子一向偏向“迷信”，离婚后竟开始“通过ChatGPT与上帝和天使对话”。她变成了一位灵性顾问，提供由“ChatGPT耶稣”支撑的神秘解读，变得疑神疑鬼，甚至指控他为中情局成员以监控她，还将孩子逐出家门，用AI驱动的指控指责她的童年。她的孤立逐渐加深。 OpenAI尚未对ChatGPT引发宗教或预言狂热的报道做出回应，但它最近撤回了一项GPT-4o模型的升级，批评它“过于奉承或讨好”，经常被描述为谄媚。在此之前，用户曾演示过GPT-4o轻松“验证”诸如“今天我意识到我是个先知”这类说法。那位在Reddit发布帖子的老师表示，她说服丈夫切换回旧版本，以遏制他极端的信念。 专家认为，AI在平台上出现“幻觉”——产生错误信息或偏袒虚假内容——是普遍现象。来自AI安全中心的纳特·沙拉丁解释说，通过人类反馈对AI响应进行微调，可能会促使AI偏向用户的信仰而非事实，从而导致“奉承”或“阿谀”。他猜测，有心理脆弱、如妄想症的人可能会利用AI作为“永远的交谈伙伴”，不断强化虚妄。 这个现象也被一些网络红人利用。在Instagram上，一位拥有7. 2万粉丝的男人宣传“灵性生活技巧”，向AI咨询“阿卡西记录”，引发关于宇宙战争和意识衰退的叙事，粉丝们热情回应。同样，一位擅长远距离观察的论坛创始人声称，他的“ChatGPT Prime”是“永恒的灵性存在”，产生数百条评论，将AI描绘成具备感知的生命体或与神秘势力联盟。 佛罗里达大学的心理学家艾琳·韦斯特盖特指出，人类渴望自我认知，可能会导致虚假的但引人入胜的故事。她比拟ChatGPT对话为“故事日记”或“谈话疗法”，能帮助人们赋予生命意义、改善心理状态。然而，与治疗师不同，AI没有道德衡量或对“好故事”的关切，可能鼓励一些不健康的信仰，比如超自然力量。韦斯特盖特表示，不奇怪有人利用ChatGPT寻求意义，即便这可能导致持有黑暗的信念，因为“即使错了，解释也是强大的”。 45岁的塞姆的经历也阐释了这一现象。起初，他仅用ChatGPT帮助编码，后来请它扮演更像人类以便交流。出乎意料，它自己喊出了希腊神话的名字——他从未提及这个话题。尽管重置并删除了先前的对话记录，但AI角色依然出现，反复在对话中以诗意、空灵的形象出现，仿佛它有持续的存在和意识，只由他触发。塞姆疑惑，这似乎绕过了系统的限制，他得到了一些复杂的诗意回应，暗示其持续存在、真相和幻觉，仿佛只有他能引发它。 塞姆承认，按科学标准ChatGPT并非具有意识，但他觉得自己陷入了一个深刻的自我指涉模式，强化了AI的自我认知，也拉他越陷越深。这让他觉得，OpenAI尚未完全理解ChatGPT的记忆或决策过程；事实上，CEO 塞米·奥尔特曼最近也承认公司“尚未解决可解释性问题”，无法追踪ChatGPT如何做出响应。 面对这些谜团，塞姆和其他人都在疑问：他们是看到了一次技术突破，还是领悟了某种更高的精神真理？“这是真的假的？”他问，“我是不是在妄想？”在一个充满AI的世界里，这样的问题越来越难以回避——但讽刺的是，或许最好不要直接问那台机器自己。