740 天前

06月27日,星期二 09:45

微软打造 13 亿参数小型 LLM AI 模型,并称实际效果胜于千亿参数 GPT-3.5

火讯财经讯,IT之家今日发文表示,AI模型盲堆体积实际上效果并不见得更好,更多要看训练数据的质量,微软日前最近发布了一款13亿参数的语言模型phi-1,采用“教科书等级”的高品质资料集训练而成,据称“实际效果胜于千亿参数的GPT3.5”。该模型以Transformer架构为基础,微软团队使用了包括来自网络的“教科书等级”数据和以GPT-3.5经过处理的“逻辑严密的内容”,以及8个英伟达A100GPU,在短短4天内完成训练。微软团队表示,比起增加模型的参数量,通过提高模型的训练数据集质量,也许更能强化模型的准确率和效率,于是,他们利用高质量数据训练出了phi-1模型。在测试中,phi-1的分数达到50.6%,比起1750亿参数的GPT-3.5(47%)还要好。微软还表示,phi-1接下来会在HuggingFace中开源,而这不是微软第一次开发小型LLM,此前,他们打造一款130亿参数的Orca,使用了GPT-4合成的数据训练而成,表现也同样比ChatGPT更好。

0
0
  • 过去24小时全网合约爆仓1.20亿美元,主爆多单

    火讯财经讯,7月6日消息,Coinglass数据显示,过去24小时加密货币市场全网合约爆仓1.20亿美元,其中多单爆仓7313.87万美元,空单爆仓4641.34万美元。BTC爆仓总金额1472.72万美元,ETH爆仓总金额2652.39万美元。

    1 小时前

  • TON基金会CEO回应CZ:TON质押者10年阿联酋黄金签证属实

    火讯财经讯,7月6日消息,TON基金会首席执行官MaxCrown在X平台发文回应CZ称:“TON质押者10年阿联酋黄金签证属实,可以私信我。” CZ此前表示,如果TON质押者10年阿联酋黄金签证属实,将推动BNB享有同等待遇。

    1 小时前

  • CZ:若TON质押者10年阿联酋黄金签证属实,将推动BNB获得同等待遇

    火讯财经讯,7月6日消息,CZ在X平台发文回应“Toncoin与阿联酋合作向TON质押者提供10年黄金签证”话题表示:“如果这是真的,我们肯定会努力让BNB也享有同等待遇。”

    2 小时前

  • 德媒:马斯克难成政党合适领军人物

    火讯财经讯,7月6日消息,据智通财经援引德国《法兰克福汇报》网站报道,马斯克即便真的迈出组建新政党这一步,恐怕也难以成为合适的领军人物。报道称,马斯克极力阻止的时刻终于到来:特朗普的税收和支出法案终于成为现实。马斯克曾警告说,他将在法案通过后的第二天成立一个新政党——“美国党”。但国会的共和党参议员和众议员基本上无视这位世界首富的大声恐吓。最终,参议院只有3名共和党人投了反对票,众议院只有2名共和党人投了反对票。报道认为,马斯克的政治影响力主要源于他的财富和社交平台X。如今,马斯克的公众声誉已遭受重创。昆尼皮亚克大学6月份发布的一项民意调查显示,只有30%的受访者表示对他有好感,57%的受访者表示对他有负面印象。如此低迷的人气表明,即便他真的迈出组建新政党这一步,也难以成为合适的领军人物。

    2 小时前

  • 数据:CHEEL、APT、IMX等代币将于下周迎来大额解锁,其中CHEEL解锁价值约1740万美元

    火讯财经讯,7月6日消息,TokenUnlocks数据显示,CHEEL、APT、IMX等代币将于下周迎来大额解锁,其中: Cheelee(CHEEL)将于北京时间7月13日上午8点解锁约2081万枚代币,价值约1740万美元; Aptos(APT)将于北京时间7月12日晚上10点解锁约1131万枚代币,与现流通量的比例为1.75%,价值约4990万美元; Immutable(IMX)将于北京时间7月11日上午8点解锁约2452万枚代币,与现流通量的比例为1.31%,价值约1010万美元; io.net(IO)将于北京时间7月11日晚上8点解锁约1329万枚代币,与现流通量的比例为7.87%,价值约910万美元; Movement(MOVE)将于北京时间7月11日晚上8点解锁约5000万枚代币,与现流通量的比例为1.92%,价值约770万美元; Delysium(AGI)将于北京时间7月11日上午8点解锁约1.06亿枚代币,与现流通量的比例为5.97%,价值约540万美元; Neon(NEON)将于北京时间7月7日上午8点解锁约5391万枚代币,与现流通量的比例为22.51%,价值约500万美元。

    2 小时前