44k Star!为智能体增加超长记忆内存,Github每日第一

2025-12-27 阅读量:220

关注CAIE,国内头部AI人才认证、培训体系,助你在职场升职加薪。
CAIE注册人工智能工程师
CAIE注册人工智能工程师
公众号作者
CAIE,全称 Certifed Artifcial Intelligence Engineer(人工智能工程师),简称 CAIE(赛一) ,是人工智能领域的技能等级认证。旨在评估和培养具备人工智能理论基础与实战能力的职业人士。

用过AI模型的人会发现一个糟心问题,就是AI特别健忘,聊了好几次的话题,换个会话就全忘了,之前说过的偏好也记不住,甚至还会前后矛盾。

这其实都是因为大模型有个固定上下文窗口的限制,就像大脑内存不够,没法长期存东西,想让它当靠谱的长期伙伴根本不现实。

所以,Mem0.ai研究团队开源了一个增强AI的超长记忆内存框架Mem0,专门解决AI健忘的问题。

不只是基础版,还有个增强版Mem0g,靠更聪明的记忆方式,让AI能动态记下来对话里的关键信息,尤其是对于开发超长流程的智能体帮助巨大。

咱先简单说下为啥AI记忆不好这个事。AI的记忆全靠那个固定的上下文窗口,就像一个临时记事本,只能记有限的内容。

就算是现在最牛的模型,能存上千万tokens的Gemini,也只是记事本大点,没解决根本问题。实际用的时候,要么是聊的时间长了,内容超了窗口记不住;要么是聊天话题跳来跳去,关键信息混在一堆无关内容里,AI根本找不到。

比如你跟AI说过自己是素食主义者,不吃乳制品,结果过两天再问晚餐推荐,它可能给你推荐鸡肉料理,完全忘了之前的话。

Mem0.ai直接搞了两个互补的架构,Mem0主打高效实用,Mem0g则更擅长处理复杂关系,不管是简单聊天还是复杂推理,都能覆盖到。

Mem0的工作逻辑特别好理解,就像咱们跟人聊天时,一边听一边记重点,还会定期整理笔记。它主要分两步走,提取和更新。

提取阶段就是抓重点,每次你和AI聊完一轮,它就把这轮对话当成一个信息单元,再结合之前的聊天摘要和最近的几条消息,从里面挑出关键信息。

比如你说“周末要去上海出差”,它就会把周末、上海、出差这些核心信息提取出来。

而且它还会定期更新聊天摘要,保证记的都是最新的内容,不会因为信息太旧出错。

更新阶段就是整理笔记,避免记重或者记混。它会把新提取的信息,和之前存的记忆对比,看看该怎么处理。

要是之前没记过,就新增一条;要是有补充信息,就更新原来的;要是发现矛盾,就删掉错的;

要是信息重复,就不用管。整个过程不用额外训练什么模型,全靠LLM自己判断,又快又准。

Mem0g是在Mem0的基础上升级来的,它不只是记单个信息点,还会把信息之间的关系也记下来,就像给每个知识点都画了张思维导图。

会把聊天里的关键信息拆成“实体”和“关系”,比如“小明住在北京”,就会拆成“小明”、“北京”这两个实体,还有“住在”这个关系,然后用图的形式存起来。

这样一来,AI想找信息的时候,不仅能直接找到单个知识点,还能顺着关系网找到相关的内容。

比如你问“小明周末要去哪”,AI不仅能调出“小明周末去上海出差”,还能关联到“上海是出差地点”、“出差时间是周末”这些相关信息,回答起来更全面。

而且找信息的时候有两种方式,既可以直接找关键实体,也能整体匹配相关内容,不管是具体问题还是宽泛的疑问,都能应对。

研究团队在LOCOMO数据集上做了全面测试,还和六大类主流方案对比,结果真的很亮眼。

这个数据集挺有代表性的,包含10个长对话,每个对话平均有600轮,26000个tokens,还有200个测试问题,涵盖了简单查询、复杂推理、时间相关、开放域等多种情况,能全面考验AI的记忆能力。

测试下来,Mem0和Mem0g在大多数问题上都排第一。单跳问题比如“小明周末要去哪”,Mem0表现最好,关键信息一抓一个准;

多跳问题需要整合多个会话的信息,Mem0也能轻松搞定;时间相关的问题比如“小明上次出差是什么时候”,Mem0g因为能理清时间关系,表现更突出;开放域问题虽然Zep稍微领先一点,但Mem0g也差得不多。

更难得的是,它们不仅记的准,还不费资源。Mem0的响应延迟特别低,比全上下文方法快了91%,记一个对话平均只需要7ktokens,而Zep要600k,差了快90倍。

而且Mem0g虽然功能更强,延迟和tokens消耗也只是稍微增加,完全在可接受范围内。

对比现在常用的RAG方法和全上下文方法,优势也很明显。RAG方法会提取大段文本,里面有很多没用的信息,AI找重点很费劲,而Mem0系列只记关键信息,又快又准;

全上下文方法虽然偶尔能记对更多内容,但延迟高、耗资源,长期用根本不现实,Mem0系列则实现了性能和效率的平衡。

目前,Mem0在github已获得超44K星,非常受欢迎,并且还获得过每日最佳第一名。

开源地址:https://github.com/mem0ai/mem0?tab=readme-ov-file

想系统掌握AI核心技能、获取行业认可资质?

CAIE注册人工智能工程师认证

助你拓宽职业赛道,成为AI领域持证实力派

微信小程序
CAIE 认证
CAIE 认证
CAIE认证
以上内容来自微信小程序
点击下方
阅读原文
即刻跳转至CAIE官网,了解更多AI相关信息

确定要退出登录吗?
确定 取消