10月13日,星期五 01:15
火讯财经讯,据TheDecoder10月12日报道,MetaAI研究人员提出了一种基于提示的方法Chain-of-Verification(CoVe),可显著减少ChatGPT等聊天机器人的幻觉问题。据悉,使用CoVe时,聊天机器人首先要对提示做出回应,然后根据这些输出生成问题来验证语句。然后,这些“验证问题”会作为独立于第一个输入的新提示执行,以防止第一个输出中的错误信息被采用。最后,语言模型会根据单独收集的事实来验证第一个输入。所有测试均使用Llama65B完成。研究小组的研究表明,单个问题的答案中包含的错误明显减少,这使得CoVe能够显著提高提示语的最终输出。对于基于列表的问题,CoVe可以将准确率提高一倍以上,大大降低错误率。而对于更复杂的问答场景,该方法仍能提高23%的准确率。不过,对于较长的内容,团队仍需检查验证答案是否前后矛盾。