571 天前

06月20日,星期二 08:30

高通 AI 负责人:云端难以完成所有生成式 AI 负载,“混合 AI 模式”是合理方向

火讯财经讯,据界面新闻报道,高通技术公司产品管理高级副总裁兼AI负责人ZiadAsghar近日表示,在云端完成所有生成式AI所需的工作负载,是难以实现的。云端处理存在成本的乘数效应,用户进行查询的次数越多,模型规模就越大,也就会导致云端的成本不断上升。不仅如此,应用数量和用户数量的增加,也会导致成本的提高。因此,高通更倡导所谓“混合AI”模式。ZiadAsghar称,在高通理念中,混合AI的优势在于结合云端和终端的各自优势:一方面,对隐私和安全要求比较高的终端侧工作负载,可以继续通过边缘云,完全在终端侧完成。同时,通过在云端和边缘侧终端分布工作负载,我们能够大幅度减少云端的处理量。另一方面,对于其它较大负载的AI模型处理工作,可以通过云服务供应商完成。ZiadAsghar还认为,外界对于云端处理生成式应用仍存在隐私疑虑,而终端侧处理恰恰能够解决这一问题。“比如用户发出一个查询,终端接收之后能够独立完成推理,那么所有相关的查询信息和数据都会留在终端上。”

3
0
  • ETH突破3300美元,日内涨幅 0.90%

    火讯财经讯,1月12日消息,欧易OKX行情显示,ETH刚刚突破3300美元,现报3300.60美元/枚,日内涨幅0.90%。

    1 小时前

  • 过去24小时全网合约爆仓1.79亿美元,主爆空单

    火讯财经讯,1月11日消息,Coinglass数据显示,过去24小时加密货币市场全网合约爆仓1.79亿美元,其中多单爆仓5470.27万美元,空单爆仓1.25亿美元。BTC爆仓总金额4589.68万美元,ETH爆仓总金额4927.46万美元。

    6 小时前

  • 1confirmation创始人:BTC、ETH、XRP、BNB和SOL是加密货币中的OG

    火讯财经讯,1月11日消息,1confirmation创始人NickTomaino在X平台发文介绍适合初学者的十大加密货币: 1)BTC:OG、以简单的数字黄金叙事赢得了机构的青睐; 2)ETH:OG、开创了所有新的加密用例(DeFi、NFT、稳定币等); 3)XRP:OG、对华尔街人士具有良好的营销效果; 4)BNB:OG、对投机者来说具有良好营销效果; 5)SOL:OG、VC币,受硅谷科技者关注; 6)DOGE:初代Memecoin; 7)ADA:一个伪装成技术平台的Memecoin; 8)TRON:在亚洲市场有良好的营销; 9)SUI:VC币; 10)AVAX:VC币。 (注:OG一般指的是某一领域里的元老。)

    6 小时前

  • USDC Treasury在Solana链上铸造2.5亿枚USDC

    火讯财经讯,1月11日消息,据WhaleAlert监测,北京时间今日23:19左右,USDCTreasury在Solana链上铸造2.5亿枚USDC。

    6 小时前

  • 三个疑似归属同一人或机构的地址近3天已累计抛售2652万枚SWARMS

    火讯财经讯,1月11日消息,据@ai_9684xtpa监测,三个疑似归属同一人或机构的地址近3天累计抛售2652万枚SWARMS,价值约合808万美元,疑似为近段时间币价下跌的主要推动力,近三天SWARMS已下跌28.82%,对应的砸盘事件如下: 1、地址HikmG...S2Yat近三天内抛售1652万枚代币(约516万美元),其资金来源地址之一目前已抛售75%的仓位并获利373万美元,剩余500万枚仍浮盈125.6万美元,成本低至0.02291美元; 2、地址384zS...g8RUL过去11小时内抛售500万枚代币,约140万美元; 3、地址BqbfX...k6pd1两天内抛售500万枚代币,约152万美元。

    7 小时前