06月27日,星期六 08:52
火讯财经讯,Coinbase CEO Brian Armstrong 披露公司在AI成本优化上的最新进展。随着AI使用量和Token消耗持续增长,控制成本的核心不是限制员工使用或频繁发预算提醒,而是优化默认模型选择、任务路由机制与缓存策略。Coinbase通过内部LLM网关将GLM 5.2、Kimi 2.7等开放权重模型设为默认,同时允许工程师按需求选其他模型,91%员工未达AI使用额度上限,因此未收紧配额,而是靠低成本模型提效。模型路由上会预处理提示词,结合缓存命中率和模型定价自动分配任务,复杂任务用前沿模型,执行