06月27日,星期二 10:15
火讯财经讯,据界面新闻6月27日报道,原粒半导体创始人兼CEO方绍峡在接受采访时表示,大模型的爆发首先带动的是训练,算力需求目前最紧俏也是这部分,英伟达目前在训练一侧是绝对的霸主。但当大模型训出来后,开放API响应广大网友们每天的各种请求,推理的算力价值就会被浮出水面。方绍峡还表示,与云计算的数据中心架构相比,大模型在边缘端的智能计算是在一个已经训练好、有基本智能水平的模型基础上。当边缘端具备多模态大模型的离线学习进化能力时,本地模型将变成私人定制化的东西,数据也无需再往云端上传。这部分推理与训练微调过程主要依赖边缘多模态大模型AI算力。据悉,原粒半导体是一家AIChiplet供应商,公司正式成立于今年4月,创始团队来自国际半导体巨头,在AI芯片领域深耕多年。该公司目标是通过结合创新的多模态AI处理器技术与Chiplet设计方法,提供高能效、低成本的通用AIChiplet组件。