1017 天前

06月27日,星期二 09:45

微软打造 13 亿参数小型 LLM AI 模型,并称实际效果胜于千亿参数 GPT-3.5

火讯财经讯,IT之家今日发文表示,AI模型盲堆体积实际上效果并不见得更好,更多要看训练数据的质量,微软日前最近发布了一款13亿参数的语言模型phi-1,采用“教科书等级”的高品质资料集训练而成,据称“实际效果胜于千亿参数的GPT3.5”。该模型以Transformer架构为基础,微软团队使用了包括来自网络的“教科书等级”数据和以GPT-3.5经过处理的“逻辑严密的内容”,以及8个英伟达A100GPU,在短短4天内完成训练。微软团队表示,比起增加模型的参数量,通过提高模型的训练数据集质量,也许更能强化模型的准确率和效率,于是,他们利用高质量数据训练出了phi-1模型。在测试中,phi-1的分数达到50.6%,比起1750亿参数的GPT-3.5(47%)还要好。微软还表示,phi-1接下来会在HuggingFace中开源,而这不是微软第一次开发小型LLM,此前,他们打造一款130亿参数的Orca,使用了GPT-4合成的数据训练而成,表现也同样比ChatGPT更好。

0
0
  • 美国 2 月 PCE 报告今晚公布,降息预期或将验证

    火讯财经讯,美国2月PCE报告将于北京时间20:30公布,市场预计服务价格将继续支撑核心通胀,商品价格或大幅反弹。当前美国通胀面临多重压力,美联储“更晚、更少”降息的预期可能进一步强化。

    8 分钟前

  • 币安完成 Dai (DAI) 代币置换,品牌升级为 USDS (USDS)

    火讯财经讯,币安已于2026年4月9日16:00完成Dai(DAI)代币置换及品牌升级为USDS(USDS),并开放BTC/USDS、ETH/USDS和USDS/USDT现货交易。 用户可充值旧的Dai代币(BEP20),并使用置换功能以1:1的比例置换新USDS代币。请注意,币安将不再支持旧DAI代币的提现业务。

    9 分钟前

  • 数据:一巨鲸花费 260 万美元买入 6.76 万枚 HYPE

    火讯财经讯,Onchain Lens监测数据显示,一巨鲸已花费260万美元买入6.76万枚HYPE代币,平均买入价格为38.49美元。

    10 分钟前

  • 美伊停火提振市场情绪,Tom Lee 称美股阶段性底部或已确认

    火讯财经讯,受特朗普宣布美伊达成两周临时停火影响,市场风险情绪迅速回暖,美股三大指数大幅反弹。道指单日上涨超1300点,创近一年最佳表现;WTI原油期货则暴跌逾16%。 Fundstrat研究主管Tom Lee表示,当前市场已确认阶段性底部,正重新迈向历史高位。他指出,此前油价飙升与冲突升级背景下,股市未出现明显下跌,显示市场韧性较强,而停火成为情绪反转的催化剂。 Tom Lee预计,标普500指数年内或升至7300点,较当前水平仍有约7.6%的上行空间,并看好科技股、软件、能源及金融板块的后续表现,其中“科技七巨头”被视为本轮反弹的核心驱动力。 多位机构投资者认为,随着地缘风险缓和与油价回落,市场进入“释然式反弹”阶段,叠加财报季临近,当前或为逢低布局的窗口。

    21 分钟前

  • 美元兑日元突破 159,日内涨幅达 0.31%

    火讯财经讯,美元兑日元(USD/JPY)突破159,日内涨幅达0.31%。

    29 分钟前