Nous Research 提出高效计算法 YaRN，可扩展大模型上下文窗口

738 天前

09月05日，星期二 09:45

Nous Research 提出高效计算法 YaRN，可扩展大模型上下文窗口

火讯财经讯，据品玩9月5日报道，NousResearch联手EleutherAI实验室以及瑞士日内瓦大学的研究者发表论文，公布了一项名为YaRN的方法，可扩展大模型上下文窗口。论文显示，和传统方法相比，YaRN需要更少的标记和训练步骤。利用这种方法，LLaMA模型可以有效地利用和外推到比其原始预训练所允许的上下文长度更长的上下文，同时超过了过去窗口扩展的最新技术水平。据GitHub页面显示，使用YaRN进行微调的LLaMA27B/13B上下文窗口分别可达到64k和128k。

BTC突破116000美元，日内涨幅 0.77%

火讯财经讯，9月13日消息，欧易OKX行情显示，BTC刚刚突破116000美元，现报116012.90美元/枚，日内涨幅0.77%。

14 分钟前
ETH突破4600美元，日内涨幅 1.38%

火讯财经讯，9月13日消息，欧易OKX行情显示，ETH刚刚突破4600美元，现报4604.88美元/枚，日内涨幅1.38%。

44 分钟前
上市公司LiveOne披露其比特币持仓已增至500多万美元

火讯财经讯，9月12日消息，据Globenewswire报道，音乐、娱乐和技术公司LiveOne（纳斯达克股票代码：LVO）披露，其比特币持仓已增至500多万美元。

2 小时前
过去24小时全网合约爆仓2.87亿美元，主爆多单

火讯财经讯，9月12日消息，Coinglass数据显示，过去24小时加密货币市场全网合约爆仓2.87亿美元，其中多单爆仓2.17亿美元，空单爆仓7026.71万美元。BTC爆仓总金额6858.03万美元，ETH爆仓总金额6530.42万美元。

2 小时前
Tether CEO：公司正推出一种名为USAT的基于美国的稳定币

火讯财经讯，9月12日消息，据金十报道，Tether公司首席执行官：公司正在推出一种名为USAT的基于美国的稳定币。

3 小时前

738 天前

Nous Research 提出高效计算法 YaRN，可扩展大模型上下文窗口

BTC突破116000美元，日内涨幅 0.77%

ETH突破4600美元，日内涨幅 1.38%

上市公司LiveOne披露其比特币持仓已增至500多万美元

过去24小时全网合约爆仓2.87亿美元，主爆多单

Tether CEO：公司正推出一种名为USAT的基于美国的稳定币

友情链接：