09月26日,星期二 08:15
火讯财经讯,据品玩9月26日报道,HuggingFace页面显示,微软DeepSpeed近日公布了一款名为DeepSpeed-VisualChat的框架,旨在通过整合多模式功能来优化大语言模型的能力。据论文显示,DeepSpeed-VisualChat的重点是提高大语言模型处理交错输入方面的熟练程度。为此,该框架引入了创新的多模式因果注意机制,在现有数据集上利用数据混合技术来确保无缝多轮、多图像对话中的交互。与现有框架相比,DeepSpeed-VisualChat显示出高达70B参数语言模型大小的卓越可扩展性。