11月21日,星期二 04:30
火讯财经讯,据VentureBeat报道,11月21日,微软研究部门发布小语言模型对Orca2。据悉,Orca2在零射频环境下的复杂推理任务测试中,其性能可与Meta的Llama-2Chat-70B等大型语言模型媲美,甚至超过它们的五到十倍。Orca2有70亿和130亿参数两种大小,建立在最初的13BOrca模型的基础上,几个月前,该模型通过模仿更大、能力更强的模型的逐步推理轨迹,展示了强大的推理能力。目前,微软已将这两个新模型开源,以便进一步研究如何开发和评估与大型模型性能相当的小型模型。