11月14日,星期二 04:45
火讯财经讯,据IT之家11月14日消息,Meta生成式人工智能工程总监谢尔盖・埃杜诺夫近日在硅谷数字工人论坛上分享了他对人工智能推理需求的预测。他认为,明年全球新增的人工智能应用推理需求,如果使用合理规模的语言模型,仅需两座核电站的发电量就可以满足。他假设,明年全球会新增100万到200万个NvidiaH100图形处理器,每个处理器的功率约为1千瓦。如果每个处理器每天运行24小时,每人每天可生成10万个“token”。他认为以人类规模来看,这用电量尚属合理。全球仅需新增两座核电站,就可以提供足够电力。