微软打造 13 亿参数小型 LLM AI 模型，并称实际效果胜于千亿参数 GPT-3.5

1017 天前

06月27日，星期二 09:45

微软打造 13 亿参数小型 LLM AI 模型，并称实际效果胜于千亿参数 GPT-3.5

火讯财经讯，IT之家今日发文表示，AI模型盲堆体积实际上效果并不见得更好，更多要看训练数据的质量，微软日前最近发布了一款13亿参数的语言模型phi-1，采用“教科书等级”的高品质资料集训练而成，据称“实际效果胜于千亿参数的GPT3.5”。该模型以Transformer架构为基础，微软团队使用了包括来自网络的“教科书等级”数据和以GPT-3.5经过处理的“逻辑严密的内容”，以及8个英伟达A100GPU，在短短4天内完成训练。微软团队表示，比起增加模型的参数量，通过提高模型的训练数据集质量，也许更能强化模型的准确率和效率，于是，他们利用高质量数据训练出了phi-1模型。在测试中，phi-1的分数达到50.6%，比起1750亿参数的GPT-3.5（47%）还要好。微软还表示，phi-1接下来会在HuggingFace中开源，而这不是微软第一次开发小型LLM，此前，他们打造一款130亿参数的Orca，使用了GPT-4合成的数据训练而成，表现也同样比ChatGPT更好。

恐慌指数 VIX 下跌至 20.04

火讯财经讯，恐慌指数VIX下跌1点，报20.04。

11 分钟前
数据：过去 24 小时全网爆仓 2.99 亿美元，多单爆仓 1.36 亿美元，空单爆仓 1.64 亿美元

火讯财经讯，过去24小时全网加密货币爆仓总额达2.99亿美元，其中多单爆仓1.36亿美元，空单爆仓1.64亿美元。具体来看，比特币多单爆仓1864.62万美元，空单爆仓9522.18万美元；以太坊多单爆仓2569.04万美元，空单爆仓2335.72万美元。

20 分钟前
分析，比特币突破 7.2 万美元，中东停火预期提振市场情绪

火讯财经讯，受中东局势缓和预期提振，比特币价格快速走高。以色列总理内塔尼亚胡已指示启动与黎巴嫩的谈判，此前美国前总统特朗普亦要求以方减少军事行动以维护停火进程。消息公布后，比特币迅速上涨约3%，当前报约7.23万美元，24小时涨幅约2%，显著跑赢主流加密资产——以太坊、Solana及XRP涨幅均不足1%。与此同时，美股止跌回升，油价从日内高点回落。值得注意的是，比特币与科技股走势出现明显分化，两者20日滚动相关系数已降至约0.34，表明比特币正逐步摆脱与科技股的联动，更多受宏观地缘政治及避险情绪驱动。

40 分钟前
标普 500 和纳斯达克 100 指数盘中上涨 0.5%

火讯财经讯，据行情数据显示，标普500指数与纳斯达克100指数已涨至盘中高位，最新涨幅为0.5%。

46 分钟前
美国财政部推出面向数字资产行业的网络安全信息共享计划

火讯财经讯，美国财政部网络安全与关键基础设施保护办公室（OCCIP）今日宣布一项新举措，旨在加强数字资产行业的网络安全。该举措将向符合条件的美国数字资产公司和行业组织提供及时、可操作的网络安全信息，帮助它们更好地识别、预防并应对针对其客户和网络的网络威胁。这一行动落实了总统数字资产市场工作组在《加强美国在数字金融科技领域的领导力》报告中的一项重要建议。

51 分钟前

1017 天前

微软打造 13 亿参数小型 LLM AI 模型，并称实际效果胜于千亿参数 GPT-3.5

恐慌指数 VIX 下跌至 20.04

数据：过去 24 小时全网爆仓 2.99 亿美元，多单爆仓 1.36 亿美元，空单爆仓 1.64 亿美元

分析，比特币突破 7.2 万美元，中东停火预期提振市场情绪

标普 500 和纳斯达克 100 指数盘中上涨 0.5%

美国财政部推出面向数字资产行业的网络安全信息共享计划

友情链接：