09月22日,星期五 07:00
火讯财经讯,据品玩9月22日报道,据Arxiv页面显示,来自苏州大学的一个研发团队近日推出一款名为OpenBA的开源seq2seq模型。据悉,OpenBA是一款具有150亿参数的双语非对称seq2seq模型,也是首个加入中国开源模型社区的大语言模型变体。论文显示,研究者采用高效的技术以及采用三阶段的训练策略,从头开始训练了OpenBA模型。实验显示,OpenBA在BELEBELE基准测试中的性能优于LLaMA-70B,在MMLU基准测试中的性能优于BLOOM-176B,在C-Eval(hard)基准测试中的性能优于GLM-130B。