10月18日,星期三 10:45
火讯财经讯,据IT之家消息,10月18日,英伟达宣布推出TensorRT-LLM开源库,旨在提升大型语言模型(LLM)在本地WindowsPC上的性能。据悉,这个库之前是为数据中心发布的,现在也可以用于WindowsPC。最大的特点是,如果WindowsPC配备英伟达GeForceRTXGPU,TensorRT-LLM可以让LLM在WindowsPC上的运行速度提高四倍。此外,英伟达今天还在新的GeForce驱动更新中增加了一些基于人工智能的功能。其中包括新的1.5版本的RTXVideoSuperResolution功能,可以在观看在线视频时提供更好的分辨率提升效果和更少的压缩效果。英伟达还为StableDiffusionWebUI增加了TensorRT人工智能加速功能,让拥有GeForceRTXGPU的用户可以比正常情况下更快地从人工智能图片生成器那里获得图像。