三大巨头联合署名！又一封“警惕AI、保卫人类”的公开信发出

转载

539 天前

7630

硅星人

文章转载来源：硅星人

文：VickyXiao Juny

编辑：VickyXiao

自从生成式AI以势如破竹的速度席卷几乎每一个领域，AI挑战人类的担忧也越来越真实。

上次，马斯克就人工智能研究界和产业界的大佬们一起发布了一篇呼吁暂停半年AI大模型训练、加强AI技术监管的公开信，呼吁全球所有实验室暂停比更强的AI模型研发，暂停时间至少为6个月。但结果被人扒出其实他为Twitter购买了1万个GPU用于推进一个全新的AI项目，极有可能正在开发自家的大语言模型。

但这一次，又一封呼吁人们要重视AI带来威胁的公开信又发出。比上一次更引人注目的是，目前生成式AI领域鼎立的三大巨头： OpenAI 、DeepMind（隶属于Google）、Anthropic都加入其中。

22字声明，350人签名

这份声明由总部位于旧金山的非营利组织AI安全中心发布，就他们认为AI对人类构成的生存威胁发出了新的警告。整份声明才22个字——对，你没看错，才22个字，全部内容如下：

减轻 AI 灭绝的风险，应该与管控流行病和核战争等其他社会级规模的风险一样，成为一项全球优先事项。

尽管AI威胁论并不新鲜，但如此直白地把它和“核战争”、“大流行病”等危害全体人类的危机因素列在一起公开作比较，还是属于首次。

声明的署名部分比声明的内容长得多。

除去OpenAI首席执行官Sam Altman、DeepMind首席执行官Demis Hassabis和Anthropic首席执行官Dario Amode以外，超过350名顶级AI研究人员、工程师和创业者也加入其中，包括曾经获得图灵奖的“AI三巨头”之二Geoffrey Hinton和 Yoshua Bengio，但另一位和他们一起获奖的、现任Facebook母公司Meta首席 AI 科学家的Yann LeCun尚未签名。

此外，名单里还出现了中国学者的身影，包括中国科学院的自动化研究所人工智能伦理与治理研究中心主任曾毅，清华大学副教授詹仙园等。

完整签名名单，可以在这里进行查看：https://www.safe.ai/statement-on-ai-risk#open-letter

声明发布者AI安全中心的执行主任Hendrycks表示，这一份声明很简洁，特意没有提出任何减轻人工智能威胁的潜在方法，就是为了避免分歧。“我们不想推动包含30种潜在干预措施的庞大措施组合，”Hendrycks说。“当这种情况发生时，它会淡化信息。”

马斯克公开信的加强版

这封公开信可以看做是今年早些时候马斯克公开信的加强版和“清白版”。

此前，马斯克联合超过千名产业界和学术界的大佬们在“生命未来研究所（Future of Life Institute）”网站上发布联名公告。公开信中主要传达了两个方面的信息：一是警告人工智能存在对人类社会的潜在威胁，要求立刻暂停任何比GPT-4更强大的人工智能系统的训练，时间跨度至少6个月。二是呼吁整个人工智能领域以及政策制定者们，要共同设计一套全面的人工智能治理系统，对人工智能技术的发展进行监督和审查。

这封信当时在多个层面受到批评。不仅因为马斯克被爆出“不讲武德”，一边公开呼吁暂停AI研究，一边偷偷推进一个全新的AI项目，并挖走了一些Google和OpenAI的技术人才，还因为“暂停开发”的建议并不可行，而且也并不能解决问题。

比如当年跟Yoshua Bengio一起获得图灵奖，人工智能“三巨头”之一的Yann LeCun当时就明确表示他并不同意这封信的观点，也没有签名。

不过，此次这封全新的更为含糊的公开信，Yann LeCun同样没有签名。

人工智能领域的著名学者、Landing AI的创始人吴恩达当时也在LinkedIn上发文表示，认为全面暂停AI训练6个月的想法是一个糟糕、不切实际的想法。

他表示能够真正让整个行业都暂停研究AI训练的唯一办法是政府的介入，但让政府暂停他们不了解的新兴技术是反竞争的，显然也不是一个很好的解决办法。他承认负责任的AI很重要、AI确实也有风险，但一刀切的方式不可取。当前更重要的是各方要在发展AI技术的同时更多的投资于人工智能的安全领域，并且配合制定围绕透明度和审计的法规。