10月16日,星期一 05:00
火讯财经讯,据品玩10月16日报道,Arxiv页面显示,加州大学伯克利分校的研究者们推出了一款名为MemGPT的大语言模型系统。该研究团队通过借鉴传统操作系统中的层次内存系统,提出虚拟上下文管理技术,通过在快速和慢速内存之间移动数据,提供大内存资源的外观。MemGPT系统智能地管理不同的内存层次,以在LLM的有限上下文窗口内有效提供扩展上下文,并利用中断来管理自身与用户之间的控制流。实验显示,MemGPT在多会话聊天和文档分析实验中表现出良好的性能,有效克服了现有方法在有限上下文中性能的限制。