AgentScope Java 分层记忆与上下文压缩：长对话智能体不丢记忆的 3 层设计原理

AgentScope Java 分层记忆与上下文压缩长对话智能体不丢记忆的 3 层设计原理【免费下载链接】agentscope-javaBuild distributed, production-grade, long-running agents.项目地址: https://gitcode.com/gh_mirrors/ag/agentscope-javaAgentScope Java 是一个用于构建分布式、生产级、长运行智能体Agent的 Java 框架。当 Agent 与人聊上一整天、或者连续自主工作数小时大模型的上下文窗口很快就会塞满——聊到后面它开始忘记前面说过的话。AgentScope Java 用一套分层记忆 上下文压缩的设计解决了这个问题短期上下文会被自动压缩成摘要完整原始对话被归档留底重要事实再沉淀进长期记忆让长对话智能体真正不丢记忆。一、长对话智能体为什么容易失忆大模型有一个硬性限制上下文窗口context window即一次推理能看到的 token 总量。对话越长、工具调用产生的输出越多历史消息越占空间最终会撞上天花板。粗暴的做法是只保留最近 N 条但这样早期达成的共识、做过的决策就全丢了。AgentScope Java 的思路是不是简单丢弃而是把记忆按使用频率 × 重要程度拆成 3 层该压缩的压缩、该归档的归档、该提炼的提炼。二、3 层记忆设计总览层级名称生命周期存放位置谁来维护第 1 层短期上下文对话缓冲 滚动摘要当前会话AgentState.contextAgentState.summaryConversationCompactor压缩中间件第 2 层会话流水全量归档跨进程重启sessions/id.log.jsonlJSONL 追加写MemoryFlushManageroffload第 3 层长期记忆跨会话memory/YYYY-MM-DD.mdMEMORY.mdMemoryFlushManagerMemoryConsolidator一句话概括数据流对话变长 → 旧消息被 LLM 提炼成摘要替换 → 被替换掉的原始消息追加进会话流水 → 其中的重要事实再冲刷进每日记忆笔记 → 后台定期把每日笔记合并去重成精炼的MEMORY.md。每一层都比上一层更精炼、生命周期更长。三、第 1 层上下文压缩——最核心的瘦身机制这一层由 CompactionMiddleware.java 在每次推理前自动检查核心算法在 ConversationCompactor.java分为 6 步检查触发条件按 token 估算或消息条数超过阈值动态模式下阈值 模型上下文窗口 − 2 万预留模型不报告窗口时兜底 16 万 token 或 50 条消息取先到者确定切割点从后往前找到让尾部保留区落在预算内的最早索引且绝不把一条工具调用和它的工具结果切开保证消息结构完整记忆冲刷可选默认开启压缩前先从即将被替换的旧消息中提取长期记忆消息卸载可选默认开启把全量原始消息追加写入会话 JSONL 文件原文永不丢失LLM 摘要一次模型调用把前缀提炼成结构化摘要默认模板要求输出SESSION INTENT用户目标/ SUMMARY关键决策/ ARTIFACTS动过的文件/ NEXT STEPS待办四段摘要配置见 CompactionConfig.java重建上下文返回[摘要消息] 保留尾部替换掉原来的长历史。几个值得注意的工程细节摘要可以叠摘要下一次压缩时上一轮的摘要会参与输入新摘要建立在旧摘要之上信息逐轮浓缩而不消失。零 LLM 的轻量预剪枝正式摘要前先对老消息里超长的工具参数做字符串截断、对老旧工具结果做聚合修剪默认保护最近 4 万 token能在不花一次模型调用的情况下先瘦一圈。溢出自动兜底万一模型真的返回context_length_exceededHarnessAgent会强制压缩一轮再重试而不是直接把错误抛给用户。四、第 2 层会话流水归档——原文永不丢失压缩是有损的所以 AgentScope Java 在压缩前会把完整原始对话追加写到工作区的sessions/会话ID.log.jsonloffload。这带来两个好处可审计、可回放任何时候都能找回当时到底说了什么摘要失真也不怕跨重启恢复智能体状态含上下文缓冲与摘要本身可持久化。会话的状态容器 AgentState.java 同时携带context对话缓冲与summary滚动摘要两个字段配合 AgentStateStore.java 的多种存储实现内存、JSON 文件等进程重启后 Agent 能接着上次聊。这一层相当于黑匣子平时不被推理循环读取但它是所有恢复与审计操作的底气。五、第 3 层长期记忆——每日流水账 策划式 MEMORY.md跨会话的记住靠的是工作区里的两个文件由 MemoryFlushManager.java 和 MemoryConsolidator.java 分工维护第一小层每日流水账memory/YYYY-MM-DD.md。每次压缩/冲刷时LLM 对比现有记忆只提取新增的重要事实用户偏好、项目约定等以 bullet 形式追加。它只追加、不去重是高频低成本的原始记录。第二小层策划式长期记忆MEMORY.md。后台调度器定期默认最小间隔 30 分钟维护轮默认每 6 小时读取新增的每日笔记 当前MEMORY.md让 LLM 做合并、去重、裁剪在 token 预算默认 4000内整体重写MEMORY.md。每次推理前MEMORY.md内容会被注入 system prompt成为 Agent 的人格背景板。这种高频低质量流水账 → 低频高质量策划记忆的二级结构兼顾了写入的廉价追加即可与注入的高效只注入精炼后的内容是整篇设计里最巧妙的部分。六、关键源码与文档导航想深入源码从这几个入口读起即可均在仓库内压缩算法主体ConversationCompactor.java压缩参数配置CompactionConfig.java记忆冲刷提取到每日笔记MemoryFlushManager.java记忆合并生成 MEMORY.mdMemoryConsolidator.java记忆统一配置MemoryConfig.java会话状态容器AgentState.java官方中文文档含触发时机表与双层记忆模型图memory.md七、总结为什么是 3 层而不是 1 层单独看每一层都不起眼压缩省 token、归档留原文、长期记忆存事实。但组合起来正好覆盖了长对话智能体的全部诉求——当下够用窗口永远在预算内、过程可查原文在流水里、跨会话记得住MEMORY.md 每次推理注入。对新手来说理解这三层的分工与数据流向基本就掌握了 AgentScope Java 记忆体系的设计原理而所有默认值触发阈值、保留预算、合并间隔都开放在CompactionConfig与MemoryConfig中可按场景调整。长对话不丢记忆靠的不是更大的模型而是更聪明的记忆分层。✨【免费下载链接】agentscope-javaBuild distributed, production-grade, long-running agents.项目地址: https://gitcode.com/gh_mirrors/ag/agentscope-java创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考