OpenAICEO放出“定心丸”：短期内不会训练GPT5

转载

530 天前

4525

AI之势

文章转载来源：AI之势

来源：财联社

编辑周子意

图片来源：由无界 AI工具生成

根据人工智能初创公司OpenAI CEO最新给出的说法，目前OpenAI仍然没有培训GPT-5。

OpenAI首席执行官Sam Altman周三（6月7日）在印度《经济时报》主办的一次会议上说。“在启动这种模式之前，我们还有很多工作要做。”

“我们正在研究我们认为需要的新想法，但我们肯定还没有接近开始（训练GPT-5）。”

就在几个月前，在许多行业高管和学者对Sam Altman的大型语言模型的快速发展表示担忧后，当时这家AI初创公司承诺“一段时间内”不会开发GPT-4的继任者GPT-5。

短期内不会这么做

3月底，包括特斯拉CEO埃隆·马斯克、苹果联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）等1100多名行业高管、专家联名签署了一封公开信，呼吁“所有人工智能实验室立即暂停对比GPT-4更强大的人工智能系统的训练至少6个月”。

几周后，Altman回应这封信表示，它“遗漏了我们需要暂停的大部分技术细节”。虽然Altman也认为，谨慎行事和对安全问题越来越严格的态度非常重要，但并不承认这封信是解决这个问题的最佳方式。此外他还坚称，OpenAI还没有开始培训GPT-5，而且“一段时间内”也不打算这样做。

Altmam周三再次反驳了一些对人工智能最直言不讳的担忧声，称这家初创公司已经在通过外部审计、红队测试（red-teaming）和安全测试等更有意义的措施来评估潜在的危险。

Red-teaming是一种测试方式，指的是通过采取对抗的方式，对计划、政策、制度和假设进行严格挑战的做法，OpenAI将其用于发现语言模型中的危害并减轻它们的危害。

Altman还补充道，“当我们完成GPT-4时，我们花了六个多月的时间才准备好发布它。”他意在表明，即便公司已经完成了GPT-5的训练，也需要一段时间的准备去发布它。

在早些时候的采访中，Altman还表示，“我们唯一监管要求的是针对我们自己和更大的公司。”

Altman的印度之行反映了他积极参与与全球立法者和行业人士的会面、并建立起信任的一步。

在会议上，Altman还积极敦促立法者认真考虑人工智能的潜在滥用问题和其他负面影响，以便设置应对措施，将意外事故降到最低。

本周二（6月6日），Altman在访问阿联酋期间提议， 设立一个类似于IAEA的组织来监督AI 。IAEA成立于1957年，是致力于和平发展核能的独立政府间国际组织。

Altman指出，IAEA是一个典范，面对一项非常危险的技术，在设置防护措施后，能同时兼顾机遇和安全。

关键词：

来源：AI之势

发布人：暖色

声明：该文观点仅代表作者本人，不代表火讯财经立场。火讯财经系信息发布平台，仅提供信息存储空间服务。

如文章涉及侵权，请及时致函告之，本站将第⼀时间删除⽂章。邮箱：840034348@qq.com