首页/新闻资讯/正文详情

Agent 的账被小米算明白了:HySparse2 把百万上下文成本砍到 1/5

发布时间:2026/9/27 6:45:32 来源:云帆数科 栏目:资讯中心
Agent 的账被小米算明白了:HySparse2 把百万上下文成本砍到 1/5
做 Agent 应用的人最近应该都有同一个感受模型不贵上下文贵。一个 Agent 跑复杂任务每调一次工具可能就带回来一整页网页、一份文件、一长串执行日志。这些新内容要重新做预填充历史记录还越攒越长。跑一个像样的深度研究任务上下文轻松冲到几十万 Token。钱不是花在模型思考上是花在模型反复读材料上。9 月 24 日小米 MiMo 负责人罗福莉公布了 MiMo-V3 的核心架构 HySparse2就是冲着这个痛点来的。官方数据很直接在 100 万 Token 长度下预填充计算量降低 5.02 倍KV 缓存缩小 4.5 倍。换成具体数字80B-A3B 的 MoE 模型跑百万上下文KV Cache 从大约 12GB 压到 2.7GB。为什么 Agent 的负载和普通聊天完全是两回事普通对话场景里上下文是线性增长的你一句我一句长度可控。Agent 不一样。它每往前走一步都要处理一大段新输入同时还要从不断变长的历史里捞出下一步真正需要的信息。这就把三个问题同时顶到了关键路径上预填充成本、KV 缓存容量、长上下文检索准确率。只优化其中一个没用三个得一起解。罗福莉的判断是智能体推理是一种截然不同的工作负载值得为它单独设计架构而不是在聊天架构上打补丁。这个判断我是认同的。今年各家都在卷 Agent但底层架构大多还是为对话优化的那套。小米这次算是把话挑明了。HySparse2 做了什么架构上把模型切成前后两半。前半部分叫 Self-Decoder用全注意力加滑动窗口注意力的混合结构后半部分叫 Cross-Decoder用全注意力加稀疏注意力的混合结构。在这个骨架上做了三件事。第一件KV 桥接。借鉴 YOCO 的思路Cross-Decoder 里的全注意力层不自己算 KV直接用 Self-Decoder 的隐藏状态构建。所有 Cross-Decoder 的 KV 缓存都来自 Self-Decoder意味着预填充在 Self-Decoder 跑完时就能收工后面不用再算。第二件KV 重用。每个混合块内部所有稀疏层直接复用前一层全注意力层的 KV 缓存和 Token 选择索引。一份缓存大家用不重复开房间。第三件两个精度升级。用 Token 级选择替代块级选择长文本里捞关键信息更灵活用近期 Token 的强制窗口替代独立的滑动窗口分支让局部和全局 Token 共享同一份 KV 缓存缓存管理逻辑更简单。效果方面除了成本数字长上下文评测 MRCRv2 和 RULER-v2 得分更高衡量 Agent 推理流畅度的 AgentPPL 和长文本稳定性的 LongPPL 也更低。也就是说省钱的同时没有牺牲准头这一点比单纯的压缩技巧重要。对做应用的人意味着什么我的看法是这类架构创新比榜单刷分实在得多。Agent 应用能不能跑通商业模式核心就是成本结构。一个任务烧掉几毛钱的上下文费和烧掉几分钱决定了这个产品是玩具还是生意。HySparse2 这类把预填充和缓存成本压一个数量级的方案等于把 Agent 应用的毛利空间直接撑开了。另外一个信号值得注意国内大模型的竞争重心正在从堆参数、刷榜单转向抠效率、抠场景适配。小米从 V2 的混合滑动窗口架构到 V2.6 用强化学习拉能力再到 V3 直接为 Agent 负载重做架构路线很清楚就是奔着让 Agent 跑得起去的。罗福莉从 DeepSeek 带着光环加入小米之后这是交出的第一份架构级答卷成色不错。当然架构公布和模型落地是两回事。MiMo-V3 什么时候发、开不开源、实际推理价格能不能同步降下来才是开发者最后真正关心的。在那之前先记住这个方向为 Agent 负载专门设计的稀疏架构大概率是接下来一年各家基础模型团队的标配动作。参考资料罗福莉官宣 MiMo-V3 架构凤凰网科技https://tech.ifeng.com/c/8wfBW2vRWW1IT 之家附 HySparse2 官方详解https://baijiahao.baidu.com/s?id1877201109580693963Agent 开始啃长任务小米把大模型架构改了智源社区https://baijiahao.baidu.com/s?id1877231510076848722我平时追踪这类 AI 模型和工具动态会用 ai345https://www.ai345.info/?refcsdnAI 工具导航加中文 AI 资讯日报找工具和追新动态都不用翻墙

相关推荐

Kudu隐私清理深度指南:清除20+应用隐私痕迹,全面守护你的上网数据安全
Kudu隐私清理深度指南:清除20+应用隐私痕迹,全面守护你的上网数据安全

Kudu隐私清理深度指南:清除20应用隐私痕迹,全面守护你的上网数据安全 【免费下载链接】kudu Free Windows, Mac and Linux cleaner, scanner, and more. 项目地址: https://gitcode.com/gh_mirrors/kudu1/kudu Kudu 是一款免费、开源的跨平台清理… · 2026/9/27 6:45:32

5个免费工具搞定站长工具seo源码 新手避坑指南
5个免费工具搞定站长工具seo源码 新手避坑指南

5个免费工具搞定站长工具seo源码 新手避坑指南 刚接第一个企业站单子,卡在ICP备案流程上整整三天,看着管局后台那些晦涩的条款,脑子一团浆糊。这时候别急着去搜“建站教程”,先找对 免费工具… · 2026/9/27 6:45:26

信创适配目录定期更新指南:从查询到跟踪的完整实践
信创适配目录定期更新指南:从查询到跟踪的完整实践

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/27 6:45:14

AI 编程工具的 Git 仓库被加密传走了?用 marimo + cpolar 做一次本地可核验的代码快照审计
AI 编程工具的 Git 仓库被加密传走了?用 marimo + cpolar 做一次本地可核验的代码快照审计

AI 编程工具的 Git 仓库被加密传走了?用 marimo cpolar 做一次本地可核验的代码快照审计上周在掘金榜上刷到一篇复盘,标题很扎眼:《ZCode 把整个 Git 仓库加密上传到了阿里云 OSS》。作者把客户端扒开看了看,发现它把整个工作区打… · 2026/9/27 7:29:06

Amethyst 瓦片地图(Tile Map)开发指南:从 RenderTiles2D 渲染通道到自定义 Tile 实现
Amethyst 瓦片地图(Tile Map)开发指南:从 RenderTiles2D 渲染通道到自定义 Tile 实现

【免费下载链接】amethyst Data-oriented and data-driven game engine written in Rust 项目地址: https://gitcode.com/gh_mirrors/ame/amethyst 点击查看 免费下载 瓦片地图是 2D 游戏中最常见的地图组织方式。在 Rust 数据驱动游戏引擎 Amethyst 中&#xff0c… · 2026/9/27 7:29:00

Dillinger 中的 `/status` 命令:基于 Antigravity Kit 工作流的项目与 Agent 状态面板解析
Dillinger 中的 `/status` 命令:基于 Antigravity Kit 工作流的项目与 Agent 状态面板解析

前端开发工具 【免费下载链接】dillinger The last Markdown editor, ever. 项目地址: https://gitcode.com/gh_mirrors/di/dillinger 点击查看 免费下载 导读 /status 是 Antigravity Kit(本仓库 .agent/ 目录内嵌的 AI Agent 能力扩展工具包&#xf… · 2026/9/27 7:29:00

蛋白互作经典技术|核酵母双杂交原理与实验要点
蛋白互作经典技术|核酵母双杂交原理与实验要点

一、技术原理酵母双杂交(核系统)是经典的胞内蛋白 - 蛋白相互作用筛选验证技术,核心依托酵母转录因子 GAL4 的结构特点:GAL4 包含两个独立功能结构域 ——DNA 结合域 BD(DNA-binding domain) 和转录激活域 … · 2026/9/27 7:29:00

Tuta 项目 Android SQLCipher 构建全流程指南:用容器化工具链从源码编译 sqlcipher-android.aar
Tuta 项目 Android SQLCipher 构建全流程指南:用容器化工具链从源码编译 sqlcipher-android.aar

协同办公密码学 【免费下载链接】tutanota Tuta is an email service with a strong focus on security and privacy that lets you encrypt emails, contacts and calendar entries on all your devices. 项目地址: https://gitcode.com/gh_mirrors/tu/tutanota 点… · 2026/9/27 7:29:00

Brave browser-laptop 贡献指南:从 Issue 分诊到 Pull Request 合并的完整实战手册
Brave browser-laptop 贡献指南:从 Issue 分诊到 Pull Request 合并的完整实战手册

桌面应用 【免费下载链接】browser-laptop [DEPRECATED] Please see https://github.com/brave/brave-browser for the current version of Brave 项目地址: https://gitcode.com/gh_mirrors/br/browser-laptop 点击查看 免费下载 本篇技术指南基于 Brave&#xff… · 2026/9/27 7:28:54

MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现
MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现

简介:这套Matlab仿真工具完整呈现雷达信号脉冲压缩过程,从线性调频(LFM)信号生成、目标回波仿真到匹配滤波压缩处理均有可运行代码支撑,面向电子信息工程、计算机、数学等专业学生,适用于课程设计、期末大作… · 2026/9/27 0:00:01

汕头网站建设制作厂家避坑指南:5大注意事项救急
汕头网站建设制作厂家避坑指南:5大注意事项救急

汕头网站建设制作厂家避坑指南:5大注意事项救急 改个需求建站公司拖一周,这种憋屈事我见得太多了。 很多汕头老板找本地建站团队,签合同前看着方案挺美,一上线就变脸。 今天不聊虚的,直接拆解找 汕头网站建设制作厂家 时的5个核心 注意事项… · 2026/9/27 0:00:01

多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习
多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习

简介:基于PyTorch的多模态虚假新闻检测项目完整代码包,面向自然语言处理与计算机视觉交叉方向的开发者、科研人员及毕业设计选题者,解决社交媒体中文本与图像联合识别虚假新闻的问题。系统以BERT预训练模型提取文本语义特征,以Res… · 2026/9/27 0:00:01

MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现
MATLAB雷达信号脉冲压缩仿真:LFM线性调频、匹配滤波与距离分辨率实现

简介:这套Matlab仿真工具完整呈现雷达信号脉冲压缩过程,从线性调频(LFM)信号生成、目标回波仿真到匹配滤波压缩处理均有可运行代码支撑,面向电子信息工程、计算机、数学等专业学生,适用于课程设计、期末大作… · 2026/9/27 0:00:01

汕头网站建设制作厂家避坑指南:5大注意事项救急
汕头网站建设制作厂家避坑指南:5大注意事项救急

汕头网站建设制作厂家避坑指南:5大注意事项救急 改个需求建站公司拖一周,这种憋屈事我见得太多了。 很多汕头老板找本地建站团队,签合同前看着方案挺美,一上线就变脸。 今天不聊虚的,直接拆解找 汕头网站建设制作厂家 时的5个核心 注意事项… · 2026/9/27 0:00:01

多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习
多模态虚假新闻检测实战:BERT+ResNet双塔与对比学习

简介:基于PyTorch的多模态虚假新闻检测项目完整代码包,面向自然语言处理与计算机视觉交叉方向的开发者、科研人员及毕业设计选题者,解决社交媒体中文本与图像联合识别虚假新闻的问题。系统以BERT预训练模型提取文本语义特征,以Res… · 2026/9/27 0:00:01

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码