767 天前

06月13日,星期二 12:15

阿联酋打造的 Falcon-40B 语言模型在 OpenLLM 上排名第一,持续霸榜

火讯财经讯,据IT之家6月13日报道,近日,阿联酋科技创新研究所(TII)打造出了400亿参数的语言模型Falcon-40B,在HuggingFace的OpenLLM排行榜上排名第一,并持续霸榜,赢过此前LLaMA、StableLM和RedPajama等竞争者。据称,Falcon-40B使用了384颗GPU来进行2个月的训练、利用将近5亿个Token训练而成。为提高训练过程的质量,团队还自己组建了一套工作流程来筛选出“最高质量的的资料”供给AI模型训练。经多个基准测试,表现比LLaMA、Vicuna和Alpaca更加出色。此外,团队还采用了“多重查询注意力”(Multiqeryattention)机制,来提高模型的效率。“多重查询注意力”机制即模型可以对每个Token进行多个查询,来更好表示同一序列中,不同token之间的关系,以在加速模型运算效率的同时,降低模型的复杂性,进而提高模型整体的可维护性。阿联酋科技创新研究所首席执行官RayO.Johnson博士表示:“2023年将是人工智能之年。Falcon模型对我们来说具有里程碑意义,但这仅仅是个开始”。

0
0
  • 某鲸鱼2小时前向FalconX存入40亿枚PUMP,价值1767万美元

    火讯财经讯,7月19日消息,据Lookonchain监测,某鲸鱼2小时前向FalconX存入40亿枚PUMP,价值1767万美元,此前该鲸鱼在公售交易时花费1亿枚USDC以0.004美元的价格购买了250亿PUMP,并在过去5天内向FalconX存入了130亿PUMP(7290万美元),目前仍持有120亿PUMP(5122万美元)。

    1 小时前

  • 过去24小时全网合约爆仓3.11亿美元,主爆空单

    火讯财经讯,7月19日消息,Coinglass数据显示,过去24小时加密货币市场全网合约爆仓3.11亿美元,其中多单爆仓7270.30万美元,空单爆仓2.38亿美元。BTC爆仓总金额2896.45万美元,ETH爆仓总金额9115.81万美元。

    1 小时前

  • 某鲸鱼的PUMP和LAUNCHCOIN三倍杠杆多单均陷入亏损,现浮亏超377万美元

    火讯财经讯,7月19日消息,据Lookonchain监测,某鲸鱼3倍杠杆的PUMP和LAUNCHCOIN多单情况不容乐观,目前均陷入亏损,现浮亏已超377万美元。

    1 小时前

  • WLFI:任何联创、团队或顾问的代币在上线时都不会解锁,无新一轮预售

    火讯财经讯,7月19日消息,特朗普家族加密项目WLFI在X平台发文澄清社区质疑表示:任何联合创始人、团队或顾问的代币在上线时都不会解锁,WLFI从第一天起就致力于公平和建立信任。WLFI不会开启新一轮预售,相反将与主流交易所合作,创建一个WLFI奖励计划,让现有使用和信任的平台上赚取收益,这是一条让每个人都能加入自由运动的新途径。 关于解锁:在公开发售中,只有部分以0.015美元和0.05美元购得的代币会优先解锁,这是为了直接奖励给早期的散户信徒,而非其他任何人。此外,金库代币纯粹用于培育流动性,这使得社区成为下一步行动的主要焦点和驱动力。上线后将提交一份投票,由社区投票决定以0.015和0.05的价格购买的剩余代币的解锁时间表,以及场外交易的解锁时间表。只有在确定了解锁时间表后才会提交最终投票,由社区决定创始人、团队和顾问代币的解锁时间表。WLFI重申并不急于解锁创始人、团队和顾问代币,重要的是为未来而建设。此外,WLFI还表示正在与主要的CEX合作伙伴合作以确保WLFI登陆交易所,此还为偏爱去中心化环境的用户提供DeFi选项,完整的上线计划详情即将发布。

    2 小时前

  • BTC突破118000美元,日内涨幅 0.13%

    火讯财经讯,7月19日消息,欧易OKX行情显示,BTC刚刚突破118000美元,现报118000.00美元/枚,日内涨幅0.13%。

    2 小时前