12月15日,星期五 01:30
火讯财经讯,据TechCrunch报道,12月15日,OpenAI超级对齐(Superalignment)团队发布论文,展示了其关于超级智能对齐的新研究成果。目前,该团队正试图建立适用于未来强大人工智能系统的治理和控制框架。该团队目前确定的方法是,使用一个较弱、不太复杂的AI模型(例如GPT-2)来指导更先进、更复杂的模型模型(GPT-4)朝理想的方向发展,远离不良的方向。此外,OpenAI启动了一项1000万美元的资助计划,以支持超级智能对齐的技术研究,其中部分资金将保留给学术实验室、非营利组织、个人研究人员和研究生。OpenAI还计划在2025年初举办一次关于超对齐的学术会议,届时将分享和推广超对齐奖决赛入围者的工作。OpenAI于今年7月成立了Superalignment团队,由OpenAI联合创始人兼首席科学家IlyaSutskever领导,旨在开发引导、规范和管理“超智能”AI系统的方法。