斯坦福大学研究人员推出优化器 Sophia，可高效低成本训练大模型

446 天前

07月26日，星期三 04:15

斯坦福大学研究人员推出优化器 Sophia，可高效低成本训练大模型

火讯财经讯，据站长之家7月26日报道，斯坦福大学的研究人员开发了一种名为Sophia的新型优化器，可将语言模型的预训练时间缩短一半。相比于Adam优化器，Sophia可以更快地解决语言模型的问题。Sophia通过轻量级估计对角Hessian矩阵作为二阶优化器的预条件。在更新之后，通过取梯度的平均值除以估计Hessian的平均值来进行元素级别的剪切。此外，Sophia还可以适应语言建模任务中的大参数变化。

Galaxy Digital的OTC钱包过去14小时内向CEX存入13580枚ETH，价值约3430万美元

火讯财经讯，10月14日消息，据Lookonchain监测，GalaxyDigital的OTC钱包在过去14小时内向Coinbase、OKX和Binance存入了共计13,580枚$ETH，价值约3430万美元。

12 分钟前
Tether正在探索向大宗商品贸易公司提供贷款的可能性

火讯财经讯，10月14日消息，据彭博社报道，Tether正在探索向大宗商品贸易公司提供贷款的可能性。

12 分钟前
PeckShield：BingX黑客地址发生异动

火讯财经讯，10月14日消息，PeckShield监测显示，标记为BingX黑客的地址发生异动。

27 分钟前
美股区块链概念股持续上涨，MARA、CLSK涨超10%

火讯财经讯，10月14日消息，美股行情显示，今日开盘后，区块链概念股持续上涨。Marathon（MARA）、CleanSpark（CLSK）上涨超10%。Coinbase、IrisEnergy上涨超8%。Riot、嘉楠科技、Hut8和HIVEDigitalTechnologies上涨超6%。

42 分钟前
ETH突破2600美元，日内上涨约6.8%

火讯财经讯，10月14日消息，欧易OKX行情显示，ETH突破2600美元，现报2609美元/枚，日内上涨约6.8%。

1 小时前

446 天前

斯坦福大学研究人员推出优化器 Sophia，可高效低成本训练大模型

Galaxy Digital的OTC钱包过去14小时内向CEX存入13580枚ETH，价值约3430万美元

Tether正在探索向大宗商品贸易公司提供贷款的可能性

PeckShield：BingX黑客地址发生异动

美股区块链概念股持续上涨，MARA、CLSK涨超10%

ETH突破2600美元，日内上涨约6.8%

友情链接：