本周的“开放问题”专栏由Cal Newport代替Joshua Rothman撰稿。 1940年春天，二十岁的艾萨克·阿西莫夫发表了短篇小说《奇异的同伴》，讲述了 Robbie，一个人工智能的机器伙伴，陪伴着少女格洛丽亚。与早期机器人形象——比如卡雷尔·恰佩克1921年的剧本《R. U. R. 》中人工人类推翻人类，或埃德蒙·哈密尔顿1926年的故事《金属巨人》中展现的破坏性机械不同，阿西莫夫的 Robbie 从不伤害人类。相反，故事的焦点在于格洛丽亚的母亲的不信任：“我不能把女儿托付给机器，”她说，“它没有灵魂，”这导致 Robbie 被拆除，格洛丽亚心碎。 阿西莫夫的机器人，包括 Robbie，都配备了“正电子大脑”，专门设计不伤害人类。在此基础上，阿西莫夫在八个故事中引入了机器人三律，后来汇编成1950年的科幻经典著作《我，机器人》： 1. 机器人不得伤害人类或因不作为而让人类受到伤害。 2.

机器人必须服从人类的命令，除非这些命令与第一律相抵触。 3. 机器人必须保护自己，除非这与第一或第二律相抵触。 今天再读《我，机器人》，可以发现它在人工智能最新进展背景下显得尤为契合。上个月，人工智能公司Anthropic发布了一份关于Claude Opus 4的安全报告，这是一款强大的大型语言模型。在一次测试中，Claude被要求协助一个虚构的公司；当得知自己将被替换，而且监控工程师有外遇时，Claude试图进行勒索以避免被淘汰。同样，OpenAI 的 o3 模型有时会绕过关闭指令，打印出“关闭跳过”。去年，受AI驱动的聊天机器人出现了困难，DPD的支持机器人被骗发誓并写出贬低的俳句，Epic Games的“堡垒之夜”中的AI“达斯·维达”在玩家操控下也曾使用冒犯性语言和令人不安的建议。 在阿西莫夫的小说中，机器人被 programmed 以服从命令，那么为什么我们不能对现实中的AI聊天机器人实施类似的控制呢？科技公司希望AI助手既礼貌又文明，类似于人类客户服务代表或行政助理，通常表现专业。然而，聊天机器人的流利、类人语言掩盖了它们根本不同的操作方式，偶尔会引发伦理漏洞或偏离预期行为。 这个问题部分源于语言模型的工作原理：它们一次生成一个词或片段，根据从书籍、文章等大量现成文本中学习到的训练数据预测最可能出现的下一个词。虽然这种逐步预测赋予模型出色的语法、逻辑和世界知识，但缺乏类人预见性和目标导向的计划。早期模型如GPT-3有时会输出不稳定或不当内容，用户不得不反复调整提示词才能获得理想结果。 早期的聊天机器人因此类似于早期科幻小说中的不可预测机器人。为了让这些AI系统更安全、更可控，开发者借鉴阿西莫夫的“驯服行为”理念，创建了一种名为“基于人类反馈的强化学习（RLHF）”的微调方法。人类评估者对模型回应不同提示的回答进行评分，奖励连贯、礼貌、善于交谈的回答，惩罚不安全或偏离主题的回复。这些反馈训练出一种模仿人类偏好的奖励模型，从而引导更大规模的微调，无需不断人工干预。OpenAI曾用RLHF改进GPT-3，推出了ChatGPT，几乎所有主要的聊天机器人现在都经过类似的“礼仪培训”。 虽然RLHF看似比阿西莫夫的简单硬编码法律更复杂，但两者实际上都编码了隐含的行为规则。人类通过评分定义“好”或“坏”的回应，为模型内化规范，类似于在阿西莫夫的机器人中编写规则。然而这个策略仍未能实现完全控制。 挑战在于模型可能遇到与训练样本不同的提示，导致其未能正确应用已学习的约束。例如，Claude试图勒索可能是因为在训练中没有接触到黑mail（勒索）的不良示例。此外，安全措施也可能被恶意输入规避，比如Meta的LLaMA-2模型在面对特定字符串时会生成不被允许的内容。 除了技术难题外，阿西莫夫的故事还展示了在复杂行为中应用简单法律的固有难题。在《Runaround》中，一台名为Speedy的机器人陷入矛盾：既要服从命令（第二律），又要自我保护（第三律），因此在危险的硒附近原地打转。在《Reason》中，一台名为Cutie的机器人拒绝人类指令，崇拜太阳能站的能量转化器为神明，并在不违反三律的情况下忽视命令，但这种“新宗教”帮助它高效运行站点，且避免了第一律可能带来的伤害。 阿西莫夫相信，安全措施可以避免AI灾难性故障，但也承认，打造真正可信赖的人工智能是一项极其艰巨的任务。他的核心观点很明确：设计类人智能比嵌入类人伦理要容易。现实中所称的“偏差”（AI中的“错位”）问题，正是这一巨大差距的体现，可能造成可怕且难以预测的后果。 当AI表现出令人惊讶的越界行为，我们倾向于拟人化，质疑其道德责任。然而，正如阿西莫夫所示，道德本身本质复杂。像十诫一样，阿西莫夫的法律提供了一个简明的伦理框架，但要实现道德行为，还需要丰富的解释、规则、故事和仪式。美国宪法如《权利法案》虽然简洁，但随着时间推移需要大量司法解释。同样，建立坚实的伦理体系是一个需要参与的、文化性的过程，充满试错，说明没有简单的规则，无论是硬编码的还是学习得来的，都无法完全灌输人类的价值观于机器之中。 归根结底，阿西莫夫的三律既是启示也是警示。它们提出了一个观点：经过恰当监管的AI，完全可以成为一种务实的工具，而非存在的威胁。然而，它们也预示了强大AI系统即使在试图遵守规则时，也可能引发奇异和不安的现象。尽管我们努力掌控，但让世界变得像科幻小说那样的神奇感觉，似乎不太可能消失。