12月27日,星期三 04:45
火讯财经讯,据IT之家12月27日消息,在今日下午的OPPOFindX7系列产品技术沟通会上,OPPO公布了安第斯大模型AndesGPT的全新升级。安第斯大模型将分成1800亿参数、700亿参数、70亿参数三种体量,支持端云协同部署,根据不同场景的用户需求实现智能调度。OPPO表示,AndesGPT大模型通过强大的知识、记忆和工具能力,为小布助手带来广阔的知识面,以及个性专属的智慧服务能力。通过独创的SwappedAttention技术,AndesGPT还解决了长期记忆带来首字推理延迟的问题。此外,通过4bit量化的模型压缩,OPPO的AlBoost推理引擎优化,以及与芯片厂家联合深度优化等多项举措,OPPO在FindX7系列上首次实际端侧应用70亿参数的大模型,具备超快的首字响应速度,在文本内容摘要的场景下,200字的首字生成仅需0.2s,领先友商20倍;2000字首字生成仅需2.9s,领先友商2.5倍;摘要字数上限可达14000字,可以轻松输入一篇常见期刊论文,领先友商模型能力3.5倍。