811 天前

01月13日,星期六 06:00

中国电信申请基于 GPU 网络拓扑的大模型容量编排专利

火讯财经讯,据金融界1月13日消息,据国家知识产权局公告,中国电信股份有限公司申请一项名为“基于GPU网络拓扑的大模型容量编排方法、系统及介质“,公开号CN117391163A,申请日期为2023年10月。专利摘要显示,本发明公开了基于GPU网络拓扑的大模型容量编排方法、系统及介质,方法包括检测多个设备之间的网络带宽信息,设备包括GPU和第一设备,根据网络带宽信息,以GPU和第一设备作为节点,以连接两个设备的通道作为初始链路,以每条初始链路的网络带宽信息和类型作为边,构建设备网络拓扑;获取训练请求,根据设备网络拓扑选择与训练请求对应的训练网络拓扑;根据训练网络拓扑创建大模型容器,通过配置大模型容器执行与训练请求对应的训练任务。本发明通过设备网络拓扑能够发现GPU之间的网络带宽,使得容器的编排能够满足GPU之间的带宽需求,提高了大模型训练的训练性能和训练效率及训练资源的利用率。本发明应用于大模型训练技术领域。

3
0
  • 特朗普预算案预计 2027 财年实际 GDP 增长 3.1%

    火讯财经讯,特朗普预算案预计2027财年实际GDP增长3.1%。

    17 分钟前

  • Circle 过去 4 天已铸造总计 30 亿 USDC

    火讯财经讯,Circle过去4天每天新增铸造7.5亿枚USDC,已铸造总计30亿枚USDC。

    35 分钟前

  • 数据:Circle 过去 4 日已铸造总计 30 亿 USDC

    火讯财经讯,Circle过去4天每天新增铸造7.5亿枚USDC,已铸造总计30亿枚USDC。

    35 分钟前

  • Meta 裁减数百名员工,并继续加大 AI 投资力度

    火讯财经讯,Meta正于硅谷裁减数百名员工,同时这家科技巨头持续大举投资人工智能,且正考虑削减超过20%的员工总数。 根据最新州政府备案文件,Meta(Facebook母公司)将在旧金山湾区裁减近200名员工,其中加利福尼亚州伯灵格姆124人、附近桑尼维尔74人,裁员将于5月下旬生效,所有受影响岗位将被永久取消。 专家指出,此举表明Meta正推进重大战略转型——从以大量人力为主的运营模式,转向机器驱动的系统。Meta近期的人工智能相关布局包括计划在德克萨斯州埃尔帕索投资100亿美元建设数据中心。 Meta还在考量更大幅度裁员:高级员工已被告知需为可能影响超20%员工(约1.5万人)的裁员做好准备。针对该计划,Meta发言人回应称:“这是一则关于理论性方案的推测性报道。” 若此次裁员成行,将是Meta自2022年至2023年扎克伯格推动“效率年”期间裁减2万多名员工以来的最大规模裁员。此前一次Meta财报电话会议上,扎克伯格表示,得益于人工智能工具的应用,Meta已开始“看到那些过去需要大团队才能完成的项目,现在由一个非常有才华的人就能完成”。

    38 分钟前

  • 今日美国比特币ETF净流出 21 枚 BTC,以太坊ETF净流出 15,212 枚 ETH

    火讯财经讯,监测数据显示,美国比特币ETF净流出21枚BTC,以太坊ETF净流出15,212枚ETH,Solana ETF净流入15,735枚SOL。

    42 分钟前