github上关于节省token的项目一览，上下文压缩，节省token,agent优化skill,热门项目

2026年5月至8月GitHub上涌现了大量以“省Token”为核心卖点的开源项目形成了本轮技术浪潮的最高峰。与此前学术研究和CaaS服务的本质区别在于这些项目不再只是提供算法实现而是围绕AI Agent的实际工作流进行了深度产品化设计——它们提供了代理模式、钩子注入、知识图谱等工程能力让压缩技术能够以近乎零成本的方式融入现有开发流程。这些项目的技术路线并非凭空产生而是对前述历史方法的继承、组合与工程化突破。根据技术思路的不同可归纳为六个流派逐一阐述。流派一智能中间件压缩 —— Headroom仓库headroom-ai/headroom | Star 50k截至2026年6月 | 发布时间2026年5月核心定位在 AI Agent 和 LLM 之间插入一个透明的“无损压缩层”。Headroom 是这波浪潮中 Star 数最高、影响力最大的项目截至 2026 年 6 月已获 50,000 Star。它的核心思想很简单不动语义只压缩表示层。模型拿到的信息是等价的只是用更少的 Token 表达了同样的含义。技术架构Headroom 内部是一个六层处理管道其中最核心的是四台专用压缩引擎实测数据显示一个 SRE 调试场景从 65,694 Token 压缩到 5,118省了 92%。关键设计CCR 可逆压缩。Headroom 不是简单地丢弃信息。它采用 CCRContext Compression with Retrieval机制压缩后的内容发给 LLM原始内容缓存在本地。如果模型发现信息不足可以通过检索工具 headroom_retrieve 取回原文。这意味着压缩是可逆的——信息“无损失”。接入方式支持三种模式Library 模式在 Python/TypeScript 代码中直接调用 compress()Proxy 模式启动本地代理修改 BASE_URL 即可接入Wrap 模式一行命令包装 claude、cursor 等 CLI 工具与历史方法的关系继承了LLMLingua的“内容筛选”思想但用类型感知引擎替代单一小模型精准度更高借鉴了KV Cache优化中的“对齐”思想CacheAligner但实现在模型外部无需修改模型首次将“可逆”概念工程化解决了有损压缩的核心痛点Ponytail顾问让Agent少做无用功Ponytail不直接处理数据而是通过改变Agent的行为模式来间接省Token。它是一个Agent插件或技能其核心是YAGNI原则You Aren’t Gonna Need It。它通过一个“决策梯”强制Agent在动手前思考这真的有必要做吗能不能用更简单的方式实现从而在源头上减少Agent生成不必要的代码和决策最终达到减少Token消耗的目的。RTK (Rust Token Killer)过滤器净化命令行输出RTK专注于解决一个具体痛点AI编程工具执行命令时返回的冗长输出如git diff会消耗大量Token。它是一个命令行代理CLI Proxy位于Shell和Agent之间。它会拦截命令执行结果针对不同命令如git status, pytest采用不同的压缩策略。例如它可能会精简git diff的输出只保留变更信息。简单、专注、高效RTK只做一件事但做得很好。context-guru核心库提供灵活的可逆压缩context-guru是一个用Go编写的核心库或代理。它更像一个工具箱提供高度灵活的压缩能力。它的核心特点是“无损或可逆压缩”。与Headroom类似它也支持在压缩时留下标记以便恢复。但它更强调作为可嵌入的组件其核心可以作为一个HTTP代理运行也可以作为插件集成到其他系统中。在基准测试中它在SWE-bench上实现了13.2%的总账单成本降低并且解决了最多的任务88%。流派二输出风格精简 —— caveman仓库caveman-ai/caveman | Star~87k截至2026年7月 | 发布时间2026年5月核心定位改变 AI 的“说话方式”让回复极度简洁。如果说 Headroom 压缩的是“输入”那 caveman 压缩的就是“输出”。它是一个 Claude Code 的 Skill/插件强制 AI Agent 像“穴居人”caveman一样说话。实现方式通过一个 Skill 文件或插件砍掉所有礼貌用语、填充词和不必要的解释只保留最核心的技术信息。对比一下正常 Claude69 tokens “The reason your React component is re-rendering is likely because you’re creating a new object reference on each render cycle…”Caveman Claude19 tokens “New object ref each render. Inline object prop new ref re-render. Wrap in useMemo.”同样是 69 Tokens 的回复被压缩到了 19 Tokens省了约 75% 。多档位控制caveman 提供了 Lite、Full、Ultra 等多个压缩级别甚至还有好玩的文言文模式。此外它还能压缩常驻上下文的记忆文件平均省 46% 的输入 Token。争议与局限不过caveman 的效果存在争议。JetBrains 使用开源评估框架测试后发现其实际输出 Token 减少量约为 8.5%远低于宣称的 65%。此外它只节省输出 Token不影响思考/推理 Token。与历史方法的关系属于规则控制的“硬提示”压缩无学术论文支撑但创意新颖、实现简单superpowers优化Agent的“技能包”superpowers是一个Agent技能框架它通过优化技能本身的描述来省Token。工作机制该框架包含了上百个由社区打磨的Agent技能。这些技能描述被特意写成极度精炼的Markdown格式去除了所有冗余说明只保留最核心的指令和参数。效果当Agent调用这些精炼的技能时每次调用所消耗的提示词Token会平均减少约40%。对比cavemancaveman是事后压缩AI的回复而superpowers是在事前优化你让AI做事的“指令”本身。 everything-claude汇集人类的“优化智慧”everything-claude严格来说不是一个自动化工具而是一个知识库Knowledge Base。工作机制它是一个由社区共同维护的、庞大的、结构化的知识集合里面汇集了无数让Claude“少说废话”、高效工作的技巧、提示词Prompts和工作流。效果它的“间接节省”体现在你需要主动去学习这些技巧然后将其应用到自己的工作流程中从而实现省Token的目的。它不提供一键式解决方案而是提供知识。 总结caveman是强制执行者。它不讲道理直接在你和AI之间插一脚强制AI换个“短平快”的风格说话简单粗暴。superpowers是流程优化者。它从源头入手把你给AI的“工作手册”技能描述改得更加精炼让AI用更少的Token读明白指令。everything-claude是智慧搬运工。它把你带到一座“宝藏山”前里面都是别人挖到的省Token技巧能挖到多少、怎么用完全看你自己的行动力。流派三视觉通道“偷渡”—— pxpipe仓库pxpipe/pxpipe | Star~6.7k截至2026年7月 | 发布时间2026年6月核心定位把文字“画”进图片利用多模态模型的计费漏洞。pxpipe 的思路堪称“反常识”不删减内容而是把大量文本先渲染成 PNG 图片再交给具备视觉读取能力的多模态模型。核心原理主流多模态模型如 Claude对图像 Token 的计费取决于图片的像素尺寸而非其中包含的信息量。一张清晰的 1080p 图片无论上面写满代码还是只画了一只猫在模型眼中都只值几千个图像 Token。实测效果一个约 25,000 个文本 Token 的典型上下文经 pxpipe 渲染后仅消耗约 2,700 个图像 Token端到端成本下降 59%-70%。在 SWE-bench Lite 测试中平均单次请求成本从 5.4 美元压至 2.7 美元。诚实面对的局限项目文档坦率承认——这是有损压缩。精确的 ID、哈希值、密钥等字节级精确的信息必须保持为文本。在 Fable 5 模型上密集图片中精确 12 字符十六进制字符串的识别率仅 13/15。因此它最适合那些“容错率高”的场景——理解代码结构和逻辑而非逐字抄写。与历史方法的关系与学术方法无关属于计费策略层面的“漏洞利用”但创意独特。流派四上游预处理与智能路由 —— OmniRoute 9Router核心定位在请求到达模型之前通过预处理和智能路由来省钱。OmniRouteomniroute/omnirouteStar ~15k聚合了290家AI供应商、500种模型在请求发出前运行一个模块化的提示词压缩管道集成了RTK47个过滤器、Caveman、LLMLingua-2等10种压缩引擎对符合条件的上下文可节省15%-95%的Token。更值得注意的是它的Combo路由系统——一条预配置的模型链如Claude → GPT-4o → Gemini → DeepSeek当某个模型配额用尽或服务宕机时自动切换应用层完全无感知。9Router9router/9router更聚焦于AI编程工具场景自带RTK Token节省器自动压缩终端输出、代码差异等冗余内容每次请求节省20%-40%的Token。配合三级降级机制订阅层→低价层→免费层确保开发流程永不中断。与历史方法的关系两者都是“工程集成”的集大成者——将LLMLingua等学术算法打包为易用的路由服务并叠加了供应商调度能力形成了“省钱全家桶”。流派五源头减负 —— CodeGraph仓库codegraph/codegraph | 发布时间2026年5月核心定位与其压缩 AI 的输出不如减少 AI 的无效输入。CodeGraph 的思路是提前给 AI 画好一张代码地图让它不用自己在文件海里慢慢爬。问题场景AI 编程 Agent 理解代码库的典型方式是grep 找关键词 → 发现候选文件 → 逐个 Read → 再 grep → 再 Read……这个过程消耗大量 Token 在“发现结构”上。解决方案CodeGraph 提前把代码库解析成知识图谱包含每个符号、调用边、依赖关系。Agent 直接查询这张图一次返回相关源码和调用链。解析引擎用 Rust 编写支持 20 种编程语言。实测数据在 7 个真实开源仓库上的测试中有 CodeGraph 比没有时工具调用少 89% Token 消耗少 69% 成本低 60% 。在 VS Code 仓库~10k 文件上有图时 41 秒 / 2 次调用 / 265k Token无图时 3 分 24 秒 / 40 次调用 / 1.5M Token。与历史方法的关系本质上是“RAG”思想在代码场景的深度优化但对程序分析AST的结合超越了传统RAG实现了结构化的精准查询。流派六综合优化工具包 —— squeez tok核心定位提供可集成的 Token 优化能力。squeez 是一个端到端的 Token 优化工具专为 AI CLI 界面设计。它通过 PreToolUse 钩子拦截每条命令应用智能过滤、去重、分组和截断最高可将 Bash 输出压缩 95%。当同一个文件在一次会话中被读取 5 次时后续每次读取仅消耗 13 个 Token。它同样支持可逆压缩——原始内容存储在内容寻址的 blob 中。tok 则是一个 Go 语言库提供了提示词压缩、输出过滤、Token 估算、密钥扫描等全套能力。它的输出过滤管道有 31 层熵剪枝、困惑度过滤、AST 感知压缩等提示词压缩可削减 20%-70%。整体可降低 LLM Token 成本 60%-90%。与历史方法的关系综合了摘要、截断、LLMLingua等公开方法属于“底层工具箱”式集成适合开发者嵌入自己的Agent框架。总结1. 工作流环节Where在AI Agent的完整请求链路中插在哪一环节2. 技术核心How我区分了不同项目的底层技术手段智能中间件透明代理拦截请求内容感知压缩强调“无损/可逆”。输出风格精简通过提示词工程或规则约束AI的表达方式。知识图谱用结构化查询替代文本搜索从源头减少Token。路由预处理整合多个压缩引擎叠加供应商调度形成“省钱全家桶”。综合工具包提供可编程的、多场景覆盖的压缩能力。视觉通道偷渡利用多模态模型对图像Token的计费规则差异。可视化监控不做压缩而是让Token消耗“可见”。3. 目标对象What我区分了它们主要压缩的是哪种Token