自我、恐惧和金钱：人工智能的导火索是如何点燃的

来源：极客公园 《第二次「AI 世界大战」》

原文作者：凯德·梅斯, 凯伦·韦斯，尼科·格兰特和迈克·艾萨克

原标题：自我、恐惧和金钱：人工智能的导火索是如何点燃的

图片来源：由无界 AI生成

大模型引发的 AI 大战，始于 8 年前，而非 1 年前。

编者按：

1919 年 6 月，《凡尔赛条约》签订似乎证明了惨绝人寰的第一次世界大战正式宣告结束，而长久的和平即将到来。只有法国的斐迪南·福煦元帅预言：这不是和平，而是二十年休战。元帅一语成谶，1939 年，德国闪击波兰，第二次世界大战正式打响。
将这段战争史移到现在火热的 AI 大战之中，能够发现二者惊人的相似之处。看起来 OpenAI 带起的 AI+大模型浪潮始于去年，但其实「战争」的种子，在 8 年之前马斯克与谷歌创始人拉里·佩奇的「AI 论战」之中已经埋下。
8 年的时间里，马斯克、彼德·蒂尔、Sam Altman、拉里·佩奇、戴密斯·哈萨比斯、盖茨、萨提亚·纳德拉，这些和现在当红 AI 公司 OpenAI、Anthropic、微软、DeepMind 紧密捆绑的人物，他们之间的合纵连横，最终催生了 2016 年前后第一次人工智能大战，和 2022 年的大模型之战，重塑了人工智能之战的图景。而在其背后驱动的，是恐惧、自我和金钱。

2015 年 7 月，伊隆·马斯克 Elon Musk 庆祝了自己的 44 岁生日，他的妻子在加利福尼亚州一个布满小木屋的葡萄酒乡村度假村举办了一场为期三天的派对。只有家人和朋友，孩子们在纳帕谷的高档住宅周围奔跑。

那是 Twitter 成为 X 之前的几年，特斯拉也迎来了盈利的一年。马斯克和他的妻子塔露拉·莱利 Talulah Riley——一位女演员，在 HBO 的科幻连续剧《西部世界》中扮演了一个美丽但危险的机器人——距离他们的第二次婚姻认输还有一年。派对嘉宾拉里·佩奇 Larry Page 仍然是谷歌的首席执行官。人工智能在几年前才引起了公众的注意，当时它被用来识别 YouTube 上的猫——准确率达到 16%。

第一晚晚饭后，当马斯克和佩奇坐在游泳池边的火坑旁时，人工智能成为了谈话的一大话题。这两位亿万富翁已经是十多年的朋友了，马斯克有时会开玩笑说，他偶尔会在玩了一晚上的电子游戏后倒在佩奇的沙发上。

但那个晴朗的夜晚很快就变得充满争议，因为两人争论人工智能最终会提升人类还是毁灭人类。

随着讨论持续到寒冷的时间，讨论变得越来越激烈，30 多名聚会者中的一些人凑近了听。佩奇先生十多年来一直受到声带异常疾病的困扰，他低声描述了他对数字乌托邦的愿景。他说，人类最终将与人工智能机器融合。有一天，将会有多种智能争夺资源，最优秀的将会获胜。

马斯克说，如果发生这种情况，我们就完蛋了。机器将毁灭人类。

带着沮丧的声音，佩奇先生坚持要追求他的乌托邦。最后，他称马斯克为「物种主义者」，是一个偏爱人类而非未来数字生命形式的人。

马斯克后来说，这种侮辱是「最后一根稻草」。

当晚散去时，人群中的许多人似乎都目瞪口呆，甚至有些好笑，并认为这只是硅谷派对上经常爆发的深奥辩论中的又一场。

但八年后，两人之间的争论似乎有先见之明。人工智能究竟会提升世界还是毁灭世界——或者至少造成严重损害——这一问题引发了硅谷创始人、聊天机器人用户、学者、立法者和监管机构之间关于该技术是否应该受到控制或释放的持续争论。

这场争论让世界上一些最富有的人相互对立：马斯克、佩奇、Meta 的马克·扎克伯格、科技投资者彼得·蒂尔、微软的萨蒂亚·纳德拉和 OpenAI 的 Sam Altman。所有人都在争夺这一业务的份额（有一天，该业务可能价值数万亿美元）以及塑造它的权力。

这场竞争的核心是一个令人费脑筋的悖论。那些自称最担心人工智能的人，是最有决心创造人工智能并享受人工智能财富的人。他们坚信，只有他们才能阻止人工智能危及地球，从而证明了自己的雄心壮志。

那年夏天的聚会结束后不久，马斯克和佩奇就不再说话了。几周后，马斯克与当时经营一家科技孵化器的 Altman 以及几名研究人员，在加利福尼亚州门洛帕克瑰丽酒店的一间私人房间里共进晚餐，该酒店是靠近该合资企业的热门交易地点沙山路的首都办事处。

那次晚宴促成了一家名为 OpenAI 的初创公司在当年晚些时候的成立。在马斯克和其他资助者的数亿美元支持下，该实验室承诺保护世界免受佩奇愿景的影响。

凭借其 ChatGPT 聊天机器人，OpenAI 从根本上改变了科技行业，并向世界介绍了人工智能的风险和潜力。据两位熟悉该公司最新一轮融资的人士透露，OpenAI 的估值超过 800 亿美元，不过马斯克和 Altman 的合作并未成功。两人从此不再说话。

「存在分歧、不信任和自负，」Altman 说。「人们越接近同一方向，分歧就越有争议。你可以在教派和宗教团体中看到这一点。最亲近的人之间也会发生激烈的争吵。」

上个月，这场内讧来到了 OpenAI 的董事会。Rebel 董事会成员试图驱逐 Altman，因为他们认为，他们不能再相信他能够构建造福人类的人工智能。在混乱的五天里，OpenAI 看起来似乎要崩溃了，直到董事会在巨额投资者和威胁要追随 Altman 离开的员工的压力下做出了让步。

OpenAI 内部的戏剧让世界第一次看到那些将决定人工智能未来的人之间的激烈争斗

但在 OpenAI 濒临崩溃的几年前，硅谷就发生了一场鲜为人知但激烈的争夺技术控制权的竞争，这些技术现在正在迅速重塑世界，从如何教育儿童到如何进行战争。New York Times 采访了 80 多名高管、科学家和企业家，其中包括 2015 年参加马斯克生日派对的两人，讲述了这个关于野心、恐惧和金钱的故事。

DeepMind 的诞生

纳帕谷派对的五年前，也就是猫在 YouTube 上取得突破的两年前，34 岁的神经科学家戴密斯·哈萨比斯 Demis Hassabis 走进 Peter Thiel 在旧金山联排别墅举行的鸡尾酒会，意识到自己赚到了大钱。蒂尔的客厅里有一个棋盘，俯瞰着这座城市的美术宫和天鹅池。哈萨比斯博士曾是 14 岁以下组世界第二好的球员。

「我为这次会议准备了一年，」哈萨比斯博士说。「我认为这将是我独特的魅力：我知道他喜欢国际象棋。」

2010 年，哈萨比斯博士和两名住在英国的同事正在寻找资金来开始建造「通用人工智能」（AGI），这是一种可以做大脑能做的任何事情的机器。当时很少有人对人工智能感兴趣。经过半个世纪的研究，人工智能领域未能提供任何与人类大脑相距甚远的东西。

尽管如此，一些科学家和思想家仍然关注人工智能的缺点。许多人，比如这三个来自英国的年轻人，与互联网哲学家和自学成才的人工智能研究员埃利泽·尤德科夫斯基 Eliezer Yudkowsky 有联系。尤德科夫斯基先生是一群自称为理性主义者或后来称为有效利他主义者的群体中的领导者。

他们相信人工智能可以找到治疗癌症或解决气候变化的方法，但他们担心人工智能机器人可能会做他们的创造者没有想到的事情。理性主义者认为，如果机器变得比人类更聪明，机器就会背叛它们的创造者。

蒂尔通过对 Facebook 的早期投资以及在 PayPal 早期与马斯克的合作而变得非常富有。他对奇点产生了浓厚的兴趣，奇点是科幻小说中的一个比喻，描述智能技术不再受人类控制的时刻。

在蒂尔先生的资助下，尤德科斯基先生扩大了他的人工智能实验室，并举办了关于奇点的年度会议。几年前，哈萨比斯博士的两名同事中的一位见过尤德科斯基先生，他为他们赢得了在会议上发言的机会，确保他们会被邀请参加蒂尔先生的聚会。

Yudkowsky 先生向 Thiel 先生介绍了 Hassabis 博士。哈萨比斯博士聚会上的很多人都会试图向主人榨取金钱。他的策略是安排另一次会议。他告诉蒂尔先生，主教和骑士之间存在着深深的紧张关系。这两件棋子的价值相同，但最优秀的玩家都知道，他们的实力相差甚远。

有效。第二天，蒂尔先生被迷住了，邀请大家回来，他们聚集在厨房里。他们的主人刚刚结束早晨的锻炼，穿着闪亮的运动服，还在大汗淋漓。管家递给他一杯健怡可乐。三人提出了自己的建议，很快蒂尔先生和他的风险投资公司同意向他们的初创企业投入 140 万英镑（约合 225 万美元）。他是他们的第一位主要投资者。

他们将公司命名为 DeepMind，这是对「深度学习」的认可，「深度学习」是人工智能系统通过分析大量数据来学习技能的一种方式；神经科学；以及科幻小说《银河系漫游指南》中的 Deep Thought 超级计算机。到 2010 年秋天，他们开始建造自己的梦想机器。他们全心全意地相信，因为他们了解风险，所以他们在保护世界方面处于独特的地位。

「我不认为这是一个矛盾的立场，」DeepMind 三位创始人之一穆斯塔法·苏莱曼 Mustafa Suleyman 说。「这些技术可以带来巨大的好处。我们的目标不是消除它们或暂停它们的发展。我们的目标是减轻不利因素。」

在赢得蒂尔先生的青睐后，哈萨比斯博士努力进入马斯克先生的轨道。大约两年后，他们在蒂尔投资基金组织的一次会议上见面，该基金也向马斯克的公司 SpaceX 投资了资金。哈萨比斯博士带领大家参观了 SpaceX 总部。随后，火箭外壳悬挂在天花板上，两人在自助餐厅共进午餐并交谈。

马斯克解释说，他的计划是殖民火星，以逃避地球上的人口过剩和其他危险。哈萨比斯博士回答说，只要超级智能机器不跟踪并摧毁火星上的人类，这个计划就会奏效。

马斯克先生无语了。他没有想到那种特殊的危险。马斯克先生很快与蒂尔先生一起投资了 DeepMind，这样他就可以更接近这项技术的创造。

DeepMind 资金充裕，聘请了专门研究神经网络和根据人脑图像创建的复杂算法的研究人员。神经网络本质上是一个巨大的数学系统，它花费数天、数周甚至数月的时间来识别大量数字数据中的模式。这些系统首次开发于 20 世纪 50 年代，可以学习自行处理任务。例如，在分析了数百个信封上潦草的姓名和地址后，他们可以阅读手写文本。

DeepMind 进一步发展了这个概念。它构建了一个系统，可以学习玩经典的雅达利游戏，如《太空入侵者》、《Pong》和《Breakout》，以展示什么是可能的。

这引起了另一家硅谷巨头谷歌的注意，特别是拉里佩奇。他看到了 Deep Mind 机器玩雅达利游戏的演示。他想进去。

人才拍卖会

2012 年秋天，多伦多大学 64 岁的教授 Geoffrey Hinton 和两名研究生发表了一篇研究论文，向世界展示了人工智能的能力。他们训练了一个神经网络来识别花、狗和汽车等常见物体。

科学家们对 Hinton 博士和他的学生开发的技术的准确性感到惊讶。据三名知情人士透露，中国互联网巨头向 Hinton 博士和他的学生提供了 1200 万美元的入职条件，让他们加入公司。

Hinton 博士拒绝了，但这笔钱引起了他的注意。

这位在剑桥接受过教育的英国侨民除了偶尔在微软和谷歌工作外，他的大部分职业生涯都在学术界度过，他并不是特别受金钱驱动。但他有一个神经分歧的孩子，这笔钱意味着经济安全。

「我们不知道自己值多少钱，」辛顿博士说。他咨询了有关收购的律师和专家，并提出了一个计划：「我们将组织一次拍卖，然后我们将自己出售。」此次拍卖将在太浩湖 Harrah's 酒店和赌场举行的年度人工智能会议期间举行。

大型科技公司注意到了这一点。谷歌、微软、百度和其他公司开始相信，神经网络是一条通向机器的道路，机器不仅可以看，还可以听、写、说，并最终思考。

佩奇先生在他公司的人工智能实验室谷歌大脑中看到了类似的技术，他认为辛顿博士的研究可以提升他的科学家的工作水平。他给了谷歌工程高级副总裁艾伦·尤斯塔斯（Alan Eustace）一张相当于一张空白支票，可以雇佣他需要的任何人工智能专家。

拍卖前一天晚上，大脑实验室的负责人尤斯塔斯先生和杰夫·迪恩飞往太浩湖，带辛顿博士和他的学生到酒店内的一家牛排馆吃晚饭。迪恩博士回忆说，旧香烟的气味太浓了。他们提出了来谷歌工作的理由。

第二天，辛顿博士在他的酒店房间里进行了拍卖。由于背部有旧伤，他很少坐下来。他把一个垃圾桶倒过来放在桌子上，把笔记本电脑放在上面，看着接下来两天的出价滚滚而来。

谷歌提出了报价。微软也是如此。随着价格的上涨，DeepMind 很快就退出了。根据拍卖的详细文件，行业巨头将出价提高到 2000 万美元，然后是 2500 万美元。当价格超过 3000 万美元时，微软退出，但以 3700 万美元的价格重新加入竞标。

「我们感觉就像在看电影，」辛顿博士说。

然后微软第二次退出。只剩下百度和谷歌了，他们把竞价推到了 4200 万美元、4300 万美元。最后，辛顿博士和他的学生以 4400 万美元停止了拍卖。出价仍在攀升，但他们想为谷歌工作。而且钱是惊人的。

这是一个明确的迹象，表明财力雄厚的公司决心收购最有才华的人工智能研究人员——DeepMind 的哈萨比斯博士也没有忽视这一点。他一直告诉员工，DeepMind 将仍然是一家独立的公司。他相信，这是确保其技术不会变成危险事物的最佳方法。

但随着大型科技公司进入人才竞赛，他认为自己别无选择：是时候出售了。

据三位知情人士透露，到 2012 年底，谷歌和 Facebook 正在考虑收购伦敦实验室。哈萨比斯博士和他的联合创始人坚持两个条件：DeepMind 技术不能用于军事目的，其 AGI 技术必须由技术专家和伦理学家组成的独立委员会监督。

谷歌出价 6.5 亿美元。Facebook 的马克·扎克伯格向 DeepMind 的创始人提出了更高的报酬，但他不同意这些条件。DeepMind 卖给了谷歌。

扎克伯格先生决心建立一个自己的人工智能实验室。他聘请了法国计算机科学家 Yann LeCun 来运营该项目，他也做过开创性的人工智能研究。Hinton 博士拍卖一年后，扎克伯格和 LeCun 博士飞往太浩湖参加同一次人工智能会议。当扎克伯格穿着袜子在哈拉斯赌场的套房里走来走去时，他亲自采访了顶尖研究人员，他们很快就获得了数百万美元的薪水和股票。

AI 一度被嘲笑。现在，硅谷最富有的人正在斥资数十亿美元，以免被抛在后面。

失落的道德委员会

当马斯克投资 DeepMind 时，他打破了自己的非正式规则——他不会投资任何不是他自己经营的公司。他的决定的缺点已经很明显了，在他生日后与佩奇先生发生口角仅一个月左右，他就再次与他的前朋友兼亿万富翁同行面对面。

这次会议是 2015 年 8 月 14 日，DeepMind 道德委员会的第一次会议。该委员会是在这家初创公司创始人的坚持下成立的，目的是确保他们的技术在出售后不会造成任何损害。据三名知情人士透露，成员们在 SpaceX 马斯克办公室外的一间会议室举行会议，从一扇窗户可以看到他的火箭工厂。

但这就是马斯克先生控制权的终结。当谷歌收购 DeepMind 时，它收购了整个公司。马斯克先生出去了。在经济上他已经领先了，但他并不高兴。

目前牢牢控制 DeepMind 的三名谷歌高管也在场：佩奇先生、佩奇先生、谢尔盖·布林 Sergey Brin，谷歌联合创始人、特斯拉投资者；以及前谷歌董事长埃里克·施密特。其他与会者包括 PayPal 的另一位创始人里德·霍夫曼 Reid Hoffman 和研究「存在风险」的澳大利亚哲学家托比·奥德 Toby Ord。

DeepMind 创始人报告说，他们正在推进他们的工作，但他们意识到这项技术存在严重风险。

DeepMind 联合创始人苏莱曼先生发表了题为「The Pitchforkers Are Coming」的演讲。他告诉董事会，人工智能可能会导致虚假信息激增。他担心，随着这项技术在未来几年取代无数工作岗位，公众会指责谷歌窃取了他们的生计。他认为，谷歌需要与数百万无法再找到工作的人分享其财富，并提供「全民基本收入」。

马斯克先生同意了。但很明显，他的谷歌客人并不准备开始（他们的）财富的重新分配。施密特先生说，他认为这种担忧完全是多余的。佩奇先生用他一贯的低语表示同意。他认为，人工智能创造的就业机会将多于它夺走的就业机会。

八个月后，DeepMind 取得了震惊人工智能界和全世界的突破。一台名为 AlphaGo 的 DeepMind 机器在古老的围棋游戏中击败了世界上最好的棋手之一。这场比赛通过互联网直播，全球有 2 亿人观看。大多数研究人员认为人工智能还需要 10 年的时间才能发挥聪明才智来做到这一点。

理性主义者、有效的利他主义者和其他担心人工智能风险的人声称计算机的胜利证实了他们的恐惧。

「这再次表明人工智能的发展速度比许多专家预期的还要快，」即将加入 DeepMind 担任「人工智能安全」研究员的维多利亚·克拉科夫纳 (Victoria Krakovna) 在一篇博客文章中写道。

DeepMind 的创始人越来越担心谷歌将如何处理他们的发明。2017 年，他们试图脱离公司。谷歌的回应是增加 DeepMind 创始人及其员工的工资和股票奖励。他们留在原地。

道德委员会从未召开过第二次会议。

分手

马斯克确信佩奇对人工智能的乐观看法是完全错误的，并对失去 DeepMind 感到愤怒，因此建立了自己的实验室。

OpenAI 成立于 2015 年底，就在他在硅谷瑰丽酒店与 Sam Altman 会面几个月后。马斯克向实验室注入了大量资金，他在 PayPal 的前好友霍夫曼和蒂尔也加入其中。三人和其他人承诺向该项目投入 10 亿美元，当时 30 岁的 Altman 将帮助运营该项目。为了让他们开始，他们从谷歌挖来了 Ilya Sutskever。（Sutskever 博士是 Google 在 Hinton 博士的拍卖中「购买」的研究生之一。）

最初，马斯克希望将 OpenAI 作为一个非营利组织来运营，不受谷歌和其他公司的经济激励措施的影响。但当谷歌以其 AlphaGo 特技让科技界惊叹不已时，马斯克已经改变了他对公司运营方式的看法。他迫切希望 OpenAI 发明一些能够激发世界想象力并缩小与谷歌差距的东西，但作为一个非营利组织，它并没有完成这项工作。

据四位知情人士透露，2017 年底，他制定了一项计划，从 Altman 和其他创始人手中夺取该实验室的控制权，并将其转变为商业运营，与特斯拉联手，并依赖该汽车公司正在开发的超级计算机。与此事有关。

当 Altman 和其他人进行反击时，马斯克辞职了，并表示他将专注于自己在特斯拉的人工智能工作。三名参加会议的人士称，2018 年 2 月，他在一家改装卡车工厂的初创公司办公室顶层向 OpenAI 的员工宣布离职。当他说 OpenAI 需要加快步伐时，一位研究人员在会议上反驳说马斯克先生太鲁莽了。

马斯克称这位研究人员为「混蛋」，然后带着丰厚的财力愤然离去。

OpenAI 突然急需新的融资。Altman 飞往太阳谷参加会议，并遇到了微软首席执行官萨蒂亚·纳德拉 Satya Nadella。合作似乎很自然。Altman 先生认识微软首席技术官凯文·斯科特。微软从 OpenAI 董事会成员霍夫曼手中收购了 LinkedIn。纳德拉先生告诉斯科特先生去完成它。该交易于 2019 年完成。

Altman 先生和 OpenAI 在原来的非营利组织下组建了一家营利性公司，他们拥有 10 亿美元的新资本，微软也有一种新方法将人工智能构建到其庞大的云计算服务中。

并非 OpenAI 内部的每个人都感到高兴。

OpenAI 诞生时，达里奥·阿莫迪 Dario Amodei 是一位与高效利他主义社区有联系的研究员，他就在瑰丽酒店。阿莫代博士在讲话时不停地用手指扭动自己的卷发，他正在领导实验室努力构建一种称为大型语言模型的神经网络，该网络可以从大量数字文本中学习。通过分析无数的维基百科文章、数字图书和留言板，它可以自行生成文本。它也有编造事情的不幸习惯。它被称为 GPT-3，于 2020 年夏天发布。

OpenAI、谷歌和其他公司的研究人员认为，这种快速改进的技术可能是通向 AGI 的道路

但 Amodei 博士对微软的交易并不满意，因为他认为这将 OpenAI 引向真正的商业方向。据五位知情人士透露，他和其他研究人员前往董事会，试图将 Altman 赶下台。失败后，他们就离开了。就像 DeepMind 的创始人一样，他们担心新的企业霸主会优先考虑商业利益而不是安全。

2021 年，这个由约 15 名工程师和科学家组成的团队创建了一个名为 Anthropic 的新实验室。该计划是按照有效的利他主义者认为应该做的方式构建人工智能——并进行非常严格的控制。

「Anthropic 的联合创始人并没有试图将 Sam Altman 从 OpenAI 中剔除，」Anthropic 发言人 Sally Aldous 表示。「联合创始人自己得出的结论是，他们希望离开 OpenAI 创办自己的公司，并向 OpenAI 的领导层通报了这一点，并在几周内就双方同意的条款进行了退出谈判。」

Anthropic 接受了亚马逊 40 亿美元的投资，两年后又接受了谷歌 20 亿美元的投资。

揭晓

在 OpenAI 又从微软获得 20 亿美元后，Altman 和另一位高管格雷格·布罗克曼 Greg Brockman 拜访了比尔·盖茨 Bill Gates，他位于西雅图郊外华盛顿湖畔的豪宅。这位微软创始人不再参与公司的日常事务，但与公司高管保持定期联系。

晚餐时，盖茨先生告诉他们，他怀疑大型语言模型能否发挥作用。他说，他会保持怀疑态度，直到该技术完成一项需要批判性思维的任务——例如通过 AP 生物学测试。

五个月后，即 2022 年 8 月 24 日，Altman 先生和 Brockman 先生回来了，并带来了一位名叫 Chelsea Voss 的 OpenAI 研究员。沃斯女士在高中时曾获得过国际生物奥林匹克竞赛的奖牌。纳德拉和其他微软高管也出席了会议。

在盖茨先生客厅外的巨大数字显示屏上，OpenAI 团队展示了一项名为 GPT-4 的技术。

布罗克曼先生对系统进行了多项选择的高级生物学测试，沃斯女士对答案进行了评分。第一个问题涉及极性分子，即一端带正电荷、另一端带负电荷的原子团。系统回答正确并解释了它的选择。「它只是经过训练来提供答案，」布罗克曼先生说。「谈话的本质几乎神奇地消失了。」换句话说，它正在做一些他们并没有真正设计它做的事情。

有 60 个问题。GPT-4 只有一个答案错误。

盖茨先生从椅子上坐起来，睁大了眼睛。1980 年，当研究人员向他展示成为现代个人计算机基础的图形用户界面时，他也有类似的反应。他认为 GPT 就是革命性的。

到 10 月，微软在其在线服务中添加了该技术，包括 Bing 搜索引擎。两个月后，OpenAI 发布了 ChatGPT 聊天机器人，目前每周有 1 亿人使用该机器人。

OpenAI 击败了 Anthropic 的高效利他主义者。佩奇在谷歌的乐观派急忙发布了他们自己的聊天机器人 Bard，但人们普遍认为他们在与 OpenAI 的竞争中失败了。ChatGPT 发布三个月后，谷歌股价下跌了 11%。马斯克先生无处可寻。

但这只是开始。