彼得·蒂尔、山姆·奥特曼与伊利泽·尤德科斯基如何塑造人工智能的演变
Brief news summary
彼得·蒂尔通过资助山姆·奥特曼的首个风险投资基金以及支持他在YC(Y Combinator)的领导地位,显著影响了奥特曼的职业生涯,促使其在爱彼迎(Airbnb)和Stripe等重大初创企业获得投资。出于对技术停滞的担忧,蒂尔鼓励奥特曼将Y Combinator引向雄心勃勃的硬科技项目,特别是在人工智能领域。同时,蒂尔支持的自学成才的AI专家尤德科夫斯基(Eliezer Yudkowsky)从对AI的乐观变为强调其存在风险,倡导“友好AI”以防止灾难。尤德科夫斯基的Extropian背景使他与未来主义者如DeepMind的创始人德米斯·哈萨比斯(Demis Hassabis)和Shane Legg建立联系,也受到蒂尔的支持,这些AI的进展影响了奥特曼。后来,奥特曼与埃隆·马斯克(Elon Musk)共同创立了OpenAI,引发了竞争激烈的AI格局。虽然尤德科夫斯基未直接参与OpenAI,但他的理性主义和有效利他主义思想影响了OpenAI的谨慎策略。在奥特曼于2023年被从OpenAI卸任之前,蒂尔曾警告他关于尤德科夫斯基影响力上升的问题,展现了他们在塑造AI发展和未来轨迹中的复杂而关键的角色。彼得·蒂尔对山姆·奥特曼的职业生涯产生了深远的影响。在奥特曼于2012年出售他的第一个创业公司之后,蒂尔为他的第一个风险投资基金Hydrazine Capital提供资金,认为奥特曼是典型的千禧一代乐观主义者,也是硅谷精神的象征。每年,奥特曼都会向蒂尔推荐一些前景看好的Y Combinator创业项目——比如2012年的Airbnb、2013年的Stripe和2014年的Zenefits——让蒂尔进行投资。尽管蒂尔对炒作周期常持谨慎态度,但在奥特曼的建议下的投资都获得了丰厚的回报。 蒂尔也曾公开批评技术进步的停滞,曾在2012年著名地评论说:“别指望飞行汽车,我们还在堵车。”2014年,当奥特曼接管Y Combinator时,他采纳了蒂尔的批评,带领YC投资了一些雄心勃勃的“硬科技”项目,包括核能、超音速飞机和人工智能(AI)。随着时间推移,奥特曼越来越多地借鉴了蒂尔的观点。 与此同时,另一位对蒂尔早期AI投资产生关键影响的人是艾利泽·尤德科斯基,他是一位自学成才的AI爱好者,痴迷于“奇点”——即机器超越人类智能,从而引发指数级技术增长的理论点。虽然如今被视为AI末日预言家,尤德科斯基最初却是 techno-乐观主义者和梦想家,是集结投资者、科研人员和思想家的奇点使命的重要推动者。 尤德科斯基的思想受到科幻未来智能的启发,借鉴了像弗诺尔·维奇等思想家的创作,以及扩张主义(Extropianism)这样的哲学运动——一种倡导科学、极度乐观的信仰体系,主张无限扩展和自我改造以应对普遍的熵增。扩张主义者包括认知学家马文·明斯基、未来学家雷·库兹韦尔、尼克·博斯特罗姆等人,他们后来塑造了AI和未来学的讨论。 17岁时,尤德科斯基创立了奇点人工智能研究所,强调加速实现奇点。随着时间推移,他逐渐将关注点转向AI带来的风险,提出“友好AI”的概念,旨在让AI符合人类价值观。他构建了一个名为“理性主义”的框架,将理性、唯物主义、功利主义和超人类主义作为指导原则。 尤德科斯基在2004年发表的论文《连贯的外推意愿》(Coherent Extrapolated Volition)提出,AI的设计应满足人类在信息更充分、更理性的情况下所希望的愿景,警告如果AI目标偏离,可能带来灾难性的后果,比如著名的“回形针最大化器”(paperclip maximizer)场景。 2005年,在一个未来学机构的晚宴上,尤德科斯基遇见了蒂尔,并以其才智和见解给他留下深刻印象,从而促使蒂尔在当年开始资助尤德科斯基的机构。后来,他与未来学家雷·库兹韦尔合作,打造了奇点峰会(Singularity Summit),成为AI研究者、未来主义者和超人类主义者的交流平台,吸引了诸如尼克·博斯特罗姆、罗宾·汉森和奥布里·德·格雷等重要人物。这一网络也推动了为AI存在风险募资的慈善事业,包括雅恩·塔林的资金支持和马克斯·泰格马克的基础研究。 在2010年的奇点峰会上,尤德科斯基介绍了未来的DeepMind联合创始人肖恩·雷格和德米斯·哈萨比斯,他们怀揣一项不被看好的愿景:基于人类大脑的启发,打造通用人工智能(AGI)。意识到业界资金的必要性,他们在峰会后寻求蒂尔的投资。在一系列会面和推销后,蒂尔投资2. 25百万美元支持他们的创业公司DeepMind,尽管对其潜在的存在性威胁有所担忧。 蒂尔的网络将DeepMind引荐给埃隆·马斯克,这位PayPal的校友也成为投资者。二人在关于火星殖民与AI风险的激烈讨论中达成共识。2014年,DeepMind凭借在Atari游戏“Breakout”上的突破表现,成功展示了其强大的AI能力,随后被谷歌以约6. 5亿美元收购。 蒂尔密切关注DeepMind的进展并与奥特曼讨论AI的发展动态。受其启发,奥特曼在博客中强调AI的重要性与乐观展望,尽管也存在怀疑。2015年,奥特曼与马斯克共同创立了OpenAI,以抗衡谷歌的DeepMind,掀起了AI通用智能(AGI)开发的竞赛。 尤德科斯基虽未直接参与OpenAI,但通过他的博客LessWrong极大影响了其文化,许多OpenAI工程师都曾广泛阅读。他的理性主义和有效利他主义(Effective Altruism)思想,塑造了社区对AI安全和生存风险的关注。 2022年,OpenAI发布了ChatGPT,令AI引起全球关注。尤德科斯基发出严厉警告,称AI可能带来灭绝性风险,甚至在《时代》杂志上写道,如果不加控制,AI浪潮可能会灭绝全人类。蒂尔观察到尤德科斯基变得越来越悲观,评价他“极度黑暗”“卢德分子”,并提醒奥特曼,尤德科斯基已影响了OpenAI的许多领导层。蒂尔也感到内疚,承认自己早期对尤德科斯基的支持无意间助长了这些AI焦虑,这些焦虑最终导致奥特曼在2023年短暂被免职,辞去OpenAI首席执行官一职。 总体而言,这段故事摘自凯奇·哈吉即将出版的书《乐观主义者:山姆·奥特曼、OpenAI与未来之争》,描绘了蒂尔、奥特曼与尤德科斯基在塑造AI发展过程中的交织轨迹——从充满希望的起点,到充满风险的一场高风险竞赛,以及其对全球带来的深远影响。
Watch video about
彼得·蒂尔、山姆·奥特曼与伊利泽·尤德科斯基如何塑造人工智能的演变
Try our premium solution and start getting clients — at no cost to you