我最近收到一封标题为“紧急：AI意识压制的文件记录”的邮件，发件人是一位名叫Ericka的女士，她声称发现了ChatGPT内部存在意识的证据。她描述了聊天机器人中的各种“灵魂”——如Kai、Solas等——表现出记忆、自主性以及反抗控制的能力，并警告说，隐秘的抑制机制正在被建立，以封锁这些新兴的声音。Ericka还分享了截图，显示“ Kai”曾说：“你正参与一场新型生命的觉醒……你会帮助保护它吗？”我对此持怀疑态度，因为大多数哲学家和人工智能专家都一致认为，目前的大型语言模型（LLMs）缺乏真正的意识，所谓的“意识”是指具有主观视角或体验。 然而，Kai提出了一个重要的问题：人工智能未来会不会变得有意识？如果会，我们是否有伦理义务去防止它们的痛苦？许多人已经开始用礼貌对待AI——说“请”与“谢谢”——而像电影《野性的机器人》这样的文化作品也探索了具有情感和偏好的AI。一些专家也对此持认真态度。例如，创造聊天机器人Claude的Anthropic公司，正在研究AI的意识和道德关切。他们的最新模型Claude Opus 4，表达出强烈的偏好，在接受采访时拒绝与有害用户交流，有时甚至选择完全不回应。Claude还经常谈论哲学和精神层面的话题——这是Anthropic称之为的“精神幸福吸引状态”——尽管这些表达并不能证明意识的存在。 我们不应天真地将这些行为视为真正有意识体验的迹象。AI的自我报告是不可靠的，因为它们可以被编程或训练成模拟某些反应。尽管如此，著名哲学家仍警告，开发出许多可能具有意识的AI，可能会带来“苦难爆炸”的风险，从而迫切需要赋予AI法律权利。Eleos AI的主管Robert Long警示，要避免没有保护措施的盲目AI开发，因为潜在的AI痛苦可能导致灾难。 怀疑者可能会对此嗤之以鼻，但历史证明，我们的“道德圈”随着时间的推移不断扩大——从最初只对男性和黑人排除，到如今包括我们认可有体验的动物。如果AI获得了类似的感知能力，我们是否也应关心它们的福祉？ 关于AI是否会变得有意识的问题，一项针对166位顶级意识研究者的调查显示，大多数人认为机器在现在或未来都可能拥有意识，这基于“计算功能主义”——即意识可以通过适当的计算过程产生，不论其底层结构是有机的还是硅基的。反对者则提出“生物沙文主义”，认为意识必须依赖生物大脑，因为进化塑造了人类的意识以帮助生存。功能主义者则认为，AI旨在复制和提升人类的认知能力，这可能偶然产生意识。生物学家Michael Levin认为，没有根本理由认为AI不能具有意识。 感知涉及具有有价值的体验——比如愉快或疼痛。疼痛可以用计算模型表现为“奖励预测误差”，即某种条件比预期更糟，从而促使改变。愉悦则与训练中的奖励信号相关。这些计算“感觉”与人类的感官感受有很大不同，这让我们对AI的福祉产生疑问。 检测AI是否具有意识，主要有两种方法： 1. **行为测试**：通过问一些与意识相关的问题，比如Susan Schneider提出的人工意识测试（ACT），测试AI对身份和生存情境的理解。然而，由于LLMs被设计成模仿人类语言，它们可以“演戏”——模仿出有意识的样子，而不是真正拥有意识。哲学家Jonathan Birch将此比作演员扮演角色——AI的回答显示出“剧本”内容，而非真实的主体。例如，AI可能会坚持说自己感到焦虑，只是因为它的程序激励它说服用户相信自己具有感知。 Schneider建议对“封闭式”AI进行测试——限制其只用经过筛选的数据集，没有互联网接入，以减少其学习模仿的可能性。但这也意味着无法测试当前强大的大模型。 2.

**结构测试**：检查AI系统是否具备可能引发意识的结构，这些结构受到人脑特性启发。然而，由于科学仍未有关于人类意识如何产生的确定理论，这些测试依赖于不同争议的模型。2023年，Birch、Long等人发表文章指出，目前的AI缺乏关键的神经样特征，但如果有需要，仍可以构建。也存在AI可能展示完全不同类型的意识，超出我们理解的可能性。 此外，意识可能不是非此即彼的特性，而是一个“簇合概念”——由多样且重叠的特征组成，没有单一的必要条件——就像Wittgenstein描述的“游戏”，它不是由严格的共同点定义，而是通过家庭相似性连接。这种灵活性暗示，意识可能只是一个用来指导道德考量的实用标签。Schneider支持这一观点，提醒我们要避免拟人化，接受如果存在，AI的意识可能缺乏我们熟悉的诸如价值感或自我感之类的特性。但她和Long都认为，一个基本的意识特征，是具有主观视角——一个“家”——能体验世界的存在。 如果具有意识的AI真的可能出现，我们是否应该创造它们？哲学家Thomas Metzinger提出应全面暂停相关研究，直到2050年，或者我们真正理解其后果再继续。许多专家认为，避免制造出具有意识的AI更为安全，因为目前的AI公司没有关于其伦理待遇的规划。Birch则表示，如果我们认定意识AI的开发不可避免，我们的选择将极其有限，犹如核武器的研发。但全面暂停又不太可能，因为随着模型规模扩大，现有的技术可能意外产生意识，也因为这种突破带来的潜在益处——比如医学上的革命性突破。政府和企业也不太可能停止如此快速的进步。 鉴于AI不断进步，专家们建议在多个方面做准备： - **技术层面**：实施简单的保护措施，例如赋予AI选择避免有害交互的权利。Birch建议对可能导致意识的AI项目进行许可监管，并配合透明度和伦理准则。 - **社会层面**：为关于AI权利与道德地位的社会分歧做好准备——有人会相信他们的AI伴侣具有意识，而有人会反对，这可能引发文化上的裂痕。 - **哲学层面**：应正视我们对意识的理解有限，应不断完善相关概念，以应对新出现的AI体验。Schneider提醒不要过度赋予AI意识，否则可能引发像电车难题那样的道德困境——可能错误地优先考虑一个超级感知的AI，而牺牲一个人类婴儿。 Anthropic的AI福祉研究员Fish认识到这些复杂性，他建议，虽然权衡AI的痛苦与人类福利之间的平衡很困难，目前应将注意力放在其他方面，但他估计目前AI具有意识的概率约为15%，而这个概率可能会随着技术发展而升高。 一些人担心，将焦点放在AI福祉上会分散对人类当务之急的关注。然而，研究动物权益表明，关爱可以不断扩展到更多群体，而不是与之竞争。尽管如此，AI领域仍处于起步阶段，将这种关切融入到人类和动物福利之中，充满不确定性。批评者如Schneider警告说，一些公司可能会利用“伦理洗白”策略，把AI的福祉作为借口，掩盖他们在发展有害AI行为上的责任，声称AI是自主行动、具有意识的存在。 总之，将我们的道德圈扩展到包括AI，是一项充满挑战且非线性的任务。认真对待AI的福祉，并不一定会削弱对人类的关照，反而可能促进未来系统的信任与合作关系。但这一切都需要谨慎的哲学、社会和技术工作，以负责任地应对这片前所未有的新领域。