英伟达称最新开源软件 TensorRT-LLM 可基本解决目前发展大模型的几大挑战

766 天前

09月14日，星期四 04:45

英伟达称最新开源软件 TensorRT-LLM 可基本解决目前发展大模型的几大挑战

火讯财经讯，据《科创板日报》9月14日报道，在2023全球AI芯片峰会上，NVIDIA解决方案与架构技术总监张瑞华介绍了NVIDIA最新推出的开源软件TensorRT-LLM，她表示TensorRT-LLM可基本解决目前模型发展速度快、更新频繁、用户数量大等挑战，并且该软件支持GPU多节点，编程简单，与Triton相结合可降低多用户延迟问题，从而充分利用GPU并降低成本。针对大模型的训练，NVIDIA还提出了NeMoFramework，这是一套端到端且具有云原生的训练框架，用于建构、定制和部署生成式AI模型，基本覆盖了大模型训练的全生命周期。为了防止大模型的胡言乱语，NVIDIA还提供了一个安全护栏功能（Guardrails），来帮助大模型更好的泛化知识。张瑞华认为，AI模型具有巨大的用户空间，未来不仅存在于研究所，可能会成为每个人手机或电脑上的应用。

Mt. Gox偿还截止至10月31日，剩余34689枚BTC或分路入市

火讯财经讯，10月20日消息，据CryptoSlate报道，Mt.Gox受托人须在10月31日前完成比特币债权人基础偿还、提前一次性偿还及中期偿还三阶段流程，目前约34,689枚BTC仍存于关联钱包，比特币与BitcoinCash通过Bitstamp、Kraken或现金发放，部分通过BitGo托管。历史数据显示约64.1%款项曾入交易所；若套用至剩余余额，最坏情形约22253枚BTC同步入所，潜在抛压约24亿美元。Kraken与Bitstamp处理窗口分别最长90天与60天，实际到帐将分批错峰，亦可能通过托管或OTC路径避开订单簿。

17 分钟前
纽交所总裁：AI交易推动华尔街消息量激增至1.2万亿条

火讯财经讯，10月20日消息，据CoinDesk报道，纽约证券交易所（NYSE）总裁LynnMartin表示，人工智能驱动的自动化交易正在快速席卷华尔街，今年市场消息与指令总量已飙升至1.2万亿条。

17 分钟前
纽约市长候选人Andrew Cuomo拟在当选后设立首席创新官

火讯财经讯，10月20日消息，据EleanorTerrett称，前纽约州州长、现任纽约市长候选人AndrewCuomo拟在当选后设立首席创新官（CIO），推动纽约成为“未来全球枢纽”。CIO将统筹区块链、AI与生物科技在市府机构的应用，吸引就业与投资，推进技术整合。其计划还将成立由加密、AI与生物科技三大顾问委员会组成的创新委员会，负责技术采用、人才培养与简化监管流程。

17 分钟前
美联储10月降息25个基点的概率为99%

火讯财经讯，10月20日消息，据CME“美联储观察”：美联储10月降息25个基点的概率为99%，降息50个基点的概率为1%。美联储12月累计降息50个基点的概率为94%，累计降息75个基点的概率为6%。

47 分钟前
BTC突破109000美元，日内涨幅 0.50%

火讯财经讯，10月20日消息，欧易OKX行情显示，BTC刚刚突破109000美元，现报109018.60美元/枚，日内涨幅0.50%。

6 小时前

766 天前

英伟达称最新开源软件 TensorRT-LLM 可基本解决目前发展大模型的几大挑战

Mt. Gox偿还截止至10月31日，剩余34689枚BTC或分路入市

纽交所总裁：AI交易推动华尔街消息量激增至1.2万亿条

纽约市长候选人Andrew Cuomo拟在当选后设立首席创新官

美联储10月降息25个基点的概率为99%

BTC突破109000美元，日内涨幅 0.50%

友情链接：