07月06日,星期四 10:00
火讯财经讯,据新浪科技7月6日报道,ChatGPT的开发者OpenAI表示计划投入更多资源并成立新的研究团队,研究如何确保AI对人类的安全性,最终实现用AI来监督AI。OpenAI联合创始人伊利亚・苏茨凯弗和AI对齐负责人简・莱克在官方博客中表示:“超级智能的巨大能力可能导致人类失去力量甚至灭绝。目前,我们还没有解决方案来操纵或控制一个可能的超智能AI,并防止其变成无赖。”这篇博文预测,超智能AI,即相比于人类更智能的系统,可能会在未来10年中出现。人类需要比目前更强大的技术来控制超智能AI,因此需要在“AI对齐研究”方面取得突破,AI对齐是AI控制中的主要问题,即要求AI的目标和人类的价值观与意图保持一致。OpenAI将在未来4年内,将算力的20%专门用于解决这方面问题。