“LSTM之父”谈AI威胁论:AI将超越人类智力,对人类不感兴趣,呼吁暂停AI是一种误导

转载
560 天前
3798
学术头条

文章转载来源:学术头条

他因在人工智能(AI)、深度学习和人工神经网络领域内做出的成就而知名,一度被称为“(现代)AI 之父”或“深度学习之父”。 

他提出的长短期记忆网络(LSTM)被谷歌、苹果、亚马逊、Meta 等科技巨头公司应用于实际业务,以及疾病预测和音乐创作等,被《彭博商业周刊》称为“最具商业化的 AI 成就”。 

他就是计算机科学家 Jürgen Schmidhuber,一位在 AI 社区充满争议的人物,“(现代)AI 之父” 或 “深度学习之父” 的称号也并不令所有人信服。 

有人说,Schmidhuber 对技术进步速度的乐观是没有根据的,而且可能是危险的。如今,  身处由 ChatGPT 等 AI 大模型掀起的 AI 浪潮之中,他再次选择与同时代的许多人“决裂”,站在了他们的对立面  : 

“AI 的崛起是不可避免的,人们不应该感到害怕。”“你无法阻止它。”“呼吁暂停 AI 是一种误导。”

当前,以 ChatGPT 为代表的 AI 大模型,涌现出了越来越多另人难以置信的能力,这让越来越多的人对这场 AI 军备竞赛感到恐惧。 

从谷歌辞职后,“AI教父” Geoffrey Hinton 在 MIT Technology Review 的一场半公开分享会上讲述了他对 AI 的所有恐惧和担忧: 

一旦AI在人类灌输的目的中生成了自我动机,那以它的成长速度,人类只会沦为硅基智慧演化的一个过渡阶段。AI 会取代人类,它有能力这么做,在当下的竞争环境下也没有什么办法限制它,因此这只是一个时间问题。

在此之前,马斯克等上千人共同签署了一封来自生命未来研究所(FLI)的公开信,认为“AI 实验室陷入了一场失控的竞赛,他们没有办法理解、预测或可靠地控制自己创造的大模型”,并呼吁“所有 AI 实验室应立刻暂停训练比 GPT-4 更强大的 AI 模型,这一时间至少为 6 个月。” 

马斯克透露,他上个月与谷歌的联合创始人 Larry Page 闹翻了,因为他认为佩奇没有足够重视 AI 的安全,而是试图创造一个“digital god”。 

然而,据英国《卫报》报道,在 Hinton、马斯克等业内人士相继对外发表“AI 威胁论”之后,Schmidhuber 却表示“即将到来的事情是不可避免的,我们应该学会拥抱它”。 

更有意思的是,Schmidhuber 认为,  AI 将发展到超越人类智力的地步,将不会对人类产生大的兴趣,而人类将继续受益并使用 AI 开发的工具。

Schmidhuber 在 20 世纪 90 年代对神经网络的研究如今已被发展为语言处理模型,被用于谷歌翻译和苹果的 Siri 等技术中。《纽约时报》曾在 2016 年表示,当 AI 成熟时,可能会叫Schmidhuber 一声 “Dad”。 

如今,这个成熟期貌似已经到来,虽然一些 AI 的先驱们正惊恐地看着 AI 生成的作品——呼吁为该技术的不可思议发展按下暂停键,但Schmidhuber却说这些呼吁是被误导的。 

在他看来,政府、大学和公司之间存在着竞争,都在寻求推进这项技术,这意味一场 AI 军备竞赛已经存在了,无论人类是否喜欢它。 

“在 95% 的情况下,AI 研究实际上是为了‘让人类的生命更长久、更健康、更轻松’。” 

Hinton 此前表示,如果 AI 变得比人类更聪明,它可能会被包括权力者在内的坏人利用。 

但 Schmidhuber 认为,这些担忧在很大程度上是多余的。他曾与 Hinton 和业内其他人就 AI 问题发生过长期争执。 

他说,对付坏人使用 AI 的最好办法,是用 AI 开发更好的工具。“现在用来改善生活的工具可能被坏人利用,但它们也可以用来对付坏人。” 

“我更担心核弹这些旧威胁,而不是我们现在看到的关于AI的新的小危险(new little dangers)。” 

这是他多年来一直在讨论的一个主题,他曾在一次会议上被指责他的论断“破坏了科学方法”。 

对此,你怎么看?

参考链接: 

https://www.theguardian.com/technology/2023/may/07/rise-of-artificial-intelligence-is-inevitable-but-should-not-be-feared-father-of-ai-says