更快、更便宜!SamAltman最新访谈透露OpenAI下一步计划,目前GPU短缺是最大瓶颈

转载
301 天前
6588
华尔街见闻

文章转载来源:华尔街见闻

来源:葛佳明

图片来源:由无界 AI工具生成

GPU、GPU还是GPU,AI掀起的“算力革命”不仅让几乎垄断GPU市场的英伟达成了聚光灯下的焦点,也让OpenAI CEO在一次又一次的访谈中大谈GPU短缺问题。

5月29日,Humanloop,一家从事机器学习和人工智能的初创公司,其CEO Raza Habib邀请了包括OpenAI CEO Sam Altman在内的20位开发人员共通探讨人工智能的未来,而整个讨论中最重要的主题便是——GPU短缺是最大瓶颈。

Altman表示,目前OpenAI的客户最不满的便是API的可靠性和速度,而这个问题主要就是GPU短缺造成的。

这场算力革命,让英伟达今年以来一度暴涨170%,跻身万亿市值公司行列,在GPU持续短缺的当下,围绕着英伟达的狂欢还将继续吗?


OpenAI严重依赖GPU


Altman表示,他们的下一步计划就是不断更新GPT-4,让其更便宜,更快,而在发展过程中遇到的最大瓶颈便是GPU短缺,访谈中指出:

长度为32k的上下文窗口还未到推广时机,OpenAI还未能克服技术上的障碍,主要是因为算法的高复杂性。虽然很快就会有10万—100万新的32K上下文窗口token,但提供更多的访问token则需要技术和研究上突破。
微调(Fine-Tuning)API目前也受到GPU可用性的限制。他们还没有使用像Adapters或LoRa这样的高效微调方法,所以微调运行和管理需要高精度的计算。将来会有更好的微调支持。他们甚至可能主持一个社区贡献模型的市场。
OpenAI提供的专用容量服务受到GPU的限制。当用户请求使用专用容量时,OpenAI需要确保有足够的GPU可供分配给用户。然而,由于GPU资源有限,供应有限。要使用这项服务,客户必须愿意预付10万美元的费用。

对于OpenAI未来的发展,Altman表示,在2023年OpenAI的目标是尽可能降低“智能的成本”,继续降低API的成本:

更便宜、更快的GPT-4 —— 首要任务。
更长的上下文窗口 —— 在不久的将来,高达一百万的上下文窗口token。
微调(Fine-Tuning)API —— 微调API将扩展到最新的模型,但这的确切形式将由开发者表明他们真正想要的东西来塑造。
支持会话状态的API —— 现在当你调用聊天API时,你必须反复重复历史对话,并反复支付同样的tokens。在未来,API将有一个记住对话历史的版本。

在5月16日举行的AI国会听证会上,Altman就已经表达了对算力瓶颈的担忧:由于计算能力瓶颈,如果使用ChatGPT的人少一些会更好


英伟达的狂欢还将继续?


在这场AI大战中,华尔街高呼,英伟达是唯一“军火商”,其超预期业绩指引让市场开启了一场围绕着英伟达的狂欢,股价再次节节攀升,市值一度突破万亿美元大关。

目前,包括谷歌和微软在内,许多科技巨头都使用英伟达芯片来为AI业务提供算力。谷歌计划将生成式AI技术嵌入六个产品,每一个都手握超过20亿用户。

英伟达周一在COMPUTEX大会上推出了新产品,覆盖了从机器人到游戏的多个领域。它还宣布了一个新的超级计算机平台——DGX GH200助力新一代大AI模型。谷歌、微软和Meta预计是获得访问权的首选客户。会上,英伟达CEO黄仁勋表示,全球4万家大公司和1.5万家初创公司正在使用英伟达的技术。

英伟达最近表示,该公司正在扩大供应,以满足不断增长的需求。英伟达CEO黄仁勋周日表示,该公司已经提高了用于生成式人工智能的新款旗舰芯片H100的产量。