611 天前

01月01日,星期一 11:45

MIT 博士生发现新方法“LASER”,无需额外训练可提升模型 30% 性能

火讯财经讯,据量子位报道,MIT博士生发现,只需对Transformer的特定层进行一种非常简单的修剪,即可在缩小模型规模的同时显著提高模型性能。效果主要体现在文本理解任务上,最高可达30%。除了文本理解,它也适用于强化学习。这个操作只需在模型训练完成之后进行,不需要额外的参数和数据。该方法全称“Layer-SelectiveRankReduction”,简称“LASER”。这是一种选择性地去除LLM权重矩阵高阶组件(components)的干预措施,操作就在Transformer模型的特定权重矩阵和层中进行。研究发现,即使完全去除90%以上,模型性能一般也不会下降。

1
0
  • 美联储理事沃勒:我们应该在下次会议上降息,10年期国债收益率已基本稳定

    火讯财经讯,9月3日消息,据金十称,美联储理事沃勒:我已明确表示,认为我们应该在下次会议上降息。他还表示,美国10年期国债收益率已基本稳定。理事库克的案件正在法院审理,对此不发表评论。法院将很快决定库克的案件将如何发展。尚未接受美联储主席职位的面试。尚未与财长贝森特讨论美联储主席职位。不认为会出现经济衰退,但经济增长将放缓。关税是一种税收,将导致今年经济增长放缓。

    6 分钟前

  • ArbitrumDAO推出首季DeFi激励计划,分发2400万ARB

    火讯财经讯,9月3日消息,据CoinDesk报道,ArbitrumDAO宣布启动总额4000万美元的DeFiRenaissanceIncentiveProgram(DRIP)首季,计划分发最多2400万ARB以推动Arbitrum网络DeFi生态增长。首季聚焦ETH及稳定币杠杆循环策略,激励Aave、Morpho、Fluid、Euler、Dolomite、Silo等主流借贷协议,用户可通过指定ETH及稳定币质押借贷获得ARB奖励。DRIP共设四季,总预算8000万ARB,每季针对不同DeFi场景,表现优异的策略将获得持续支持。

    6 分钟前

  • 现货白银突破41美元

    火讯财经讯,9月3日消息,现货白银突破41美元/盎司,日内涨0.27%,续创2011年以来新高。

    6 分钟前

  • AlphaTON Capital宣布启动TON数字资产战略,收购约1亿美元TON

    火讯财经讯,9月3日消息,据GlobeNewswire报道,AlphaTONCapital(原PortageBiotech,Nasdaq:ATON)宣布将通过私募融资及BitGo贷款,收购约1亿美元Toncoin(TON),并建立TON数字资产企业金库。公司将专注于TON代币储备、网络验证、生态项目孵化,推动Telegram生态应用发展。BrittanyKaiser出任CEO,EnzoVillani任执行主席。公司已与BitGo、AnimocaBrands、Kraken等达成战略合作,股票将于9月4日启用新代码“ATON”。

    6 分钟前

  • 昊天国际将3,575万港元转用于购入以太币

    火讯财经讯,9月3日消息,港股上市公司昊天国际建设投资集团(1341.HK)宣布,将原计划用于马来西亚数据中心开发的约3,575万港元资金变更为购入以太币。公司表示,因经济环境及财务资源限制,数据中心项目暂缓,董事会认为以太币具升值空间,已决议于一个月内完成相关购币操作。

    6 分钟前