09月07日,星期四 02:45
火讯财经讯,据新智元9月7日报道,开源大模型Falcon180B登顶HuggingFace排行榜,评分68.74分,超越LlaMA2(67.35)。在基准测试中,Falcon180B在推理、编码、熟练度和知识测试各种任务中,一举击败Llama2。甚至,Falcon180B能够与谷歌PaLM2不差上下,性能直逼GPT-4。对此,英伟达高级科学家JimFan表示质疑,称Falcon-180B的训练数据中,代码只占5%,且没有编码基准数据。此前,Falcon已经推出了三种模型大小,分别是1.3B、7.5B、40B。官方介绍,Falcon180B是40B的升级版本,由阿布扎比的全球领先技术研究中心TII推出,可免费商用。对于训练过程,Falcon180B基于亚马逊云机器学习平台AmazonSageMaker,在多达4096个GPU上完成了对3.5万亿token的训练。