大模型「记忆断片」成历史！

在当今人工智能领域，大模型的性能不断提升，其能够处理的上下文长度也随之增加。一旦超出上下文窗口的限制，大模型就需要重新开始对话，这就像“失忆”一样，忘记了之前交流的内容。😅 从用户的角度来看，智能体应该能够记住之前的所有对话，因此如何有效地管理和利用对话历史，成为了提升AI智能体用户体验的关键。🔑

Zep，一个为大模型智能体提供长期记忆的插件，能够将智能体的记忆组织成情节，从这些情节中提取实体及其关系，并将它们存储在知识图谱中。📚 这样，用户就可以以低代码的方式为智能体构建长期记忆。ZepAI，一家成立于2023年的湾区YC系初创公司，致力于为AI构筑长期记忆。他们的核心插件已经在GitHub上开源，并获得了3k+的标星，同时也发表了详解技术原理的预印版本文。🌟

Zep的开发者们认为，当前的RAG方法并不适合实现智能体的长期记忆。他们提出，要让LLM驱动的智能体真正拥有存储部件，才能赋予智能体以动态、广泛的“记忆力”。💡 事实上，这个想法并非ZepAI团队的原创。2023年，UC伯克利的研究者们发表的MemGPT就提出了这一点。Zep可视为AI智能体的基本内存，由具有时间感知能力的知识图谱引擎Graphiti所驱动，可以摄入并综合结构化业务数据和非结构化的消息数据，并动态更新知识图，从而表征一个复杂、不断发展的世界。🌍

Zep的“记忆”由一个具有时间感知能力的动态知识图谱所驱动，可以表示为=(,ℰ,ϕ)，其中为节点，ℰ表示边，而ϕ则是一个形式关联函数。整个知识图谱共包含3层子图，从底层到顶层分别为：情节（episode）子图e，语义（semantic）子图s以及社区（community）子图c。这种分层表示与之前的AirGraph和GraphRAG有相近之处，更接近人类心智中的记忆模式，从而让使用Zep的LLM智能体发展出更加复杂和细微的存储结构。🧠

Zep的一大亮点就是功能强大、高效且高度可配置的内存检索系统，包括3个核心步骤：第一步骤的搜索中，除了RAG常用的余弦相似度搜索和全文搜索，Zep还加入了广度优先搜索，分别针对相似性的不同方面：全文搜索识别词语相似性，余弦相似度搜索识别语义相似性，而广度优先搜索则用于探索知识图谱中的关联性。🔍 这种多层次的搜索机制，使得Zep在内存检索的准确性、延迟和可扩展性上都有所提升，相比MemGPT，Zep更适用于工业界的生产场景。🏭

Zep的出现为大模型智能体的长期记忆管理提供了一种新的解决方案，通过动态知识图谱和高效的内存检索系统，Zep能够帮助智能体更好地理解和利用过去的对话，从而提升用户体验。🚀 随着AI技术的不断进步，我们有理由相信，像Zep这样的工具将在未来的智能体开发中扮演越来越重要的角色。🌈