国产开源端侧四强横评：Yi-3、MiniCPM5、Spark-X2.5、M3-mini 谁该塞进你的手机？

一、为什么写这篇横评从 09-08 的Spark-X2.5-4B把 1M 上下文做进 4B 稠密到 09-10 的MiniCPM5-2B1.56GB 极致小再到 10-09 的Yi-3 9B-A1.5B9B 容量 1.5B 激活 手机 NPU和 10-18 的MiniMax M3-mini端侧 512K lightning 线性注意力——国产开源在端侧 / 边缘这一栏已经凑齐四种打法。参评模型发布方一句话定位Yi-3 9B-A1.5B零一万物9B/1.5B MoEApache-2.0 最松 中文母语级 手机 NPU 常驻MiniCPM5-2B面壁 OpenBMB2.52B 稠密1.56GB 极致小 工具调用在小模型里出挑Spark-X2.5-4B词元星火讯飞4.112B 稠密端侧原生 1M 信创国产算力适配MiniMax M3-miniMiniMax8B/1.5B MoE端侧 512K lightning 线性注意力下放长上下文读者问得最多的是我手机/笔记本该装哪款。这篇就回答这个问题。二、参评模型速览总表模型总参·激活架构上下文许可最低可跑GGUF/量化招牌能力Yi-3 9B-A1.5B9B / 1.5BMoE256K 原生Apache-2.0Q4_0 ~5GB手机 NPU ~4.5GB国产合规最干净 中文强MiniCPM5-2B2.52B denseDense128KApache-2.0Q4_K_M 1.56GB16GB 内存可跑极致小 工具调用强Spark-X2.5-4B4.112B denseDense1M 原生Apache-2.0BF16 7.7GB12GB 显卡端侧原生 1M 信创MiniMax M3-mini8B / 1.5BMoE512KYaRN 1M 外推minimax-communityQ4_0 ~4GB单卡/手机端侧 512K lightning体量口径均为 GGUF/量化权重估算不含 KV Cache / 激活 / 框架开销端侧激活小不等于权重大小——Yi-3 的 9B 权重全量需载入必须量化才能上手机。三、四栏横评3.1 体量 / 显存栏谁最省、谁吃资源最省显存MiniCPM5-2B——Q4_K_M 仅 1.56GB16GB 内存笔记本/手机即可常驻是四款里唯一纯内存就能跑的。次省MiniMax M3-mini——Q4_0 ~4GB单卡 4090 或旗舰手机 NPU 都能装。中等Yi-3 9B-A1.5B——Q4_0 ~5GB、手机 NPU ~4.5GBBF16 18GB 需单卡 24GB端侧务必量化。偏重Spark-X2.5-4B——BF16 7.7GB 一张 12GB 显卡放得下但 1M 上下文的 KV Cache 会随长度数倍膨胀现实区间 32K–128K。选型口诀要极致小选 MiniCPM5要单卡/手机轻装选 M3-mini要 9B 容量选 Yi-3要原生 1M 再上 Spark。3.2 上下文与长链栏256K / 512K / 1M 谁是真香端侧原生 1M 只有 Spark-X2.5-4B但它是容量上限——KV Cache 在端侧不现实官方与社区都建议 32K–128K 现实运行。端侧原生 512KMiniMax M3-mini——靠 lightning 线性注意力把 KV 压到不随长度平方爆炸是四款里长上下文真能跑的唯一 512K。原生 256KYi-3 与 MiniCPM5——端侧可依赖配合 4-bit KV 压缩--cache-type-k q8_0更稳。选型口诀真要端侧 256K 选 M3-mini512K真要冲 1M 且能接受现实 32–128K 选 Spark256K 够用选 Yi-3 / MiniCPM5。3.3 能力 / 基准栏谁更会干、谁知识更全维度Yi-3 9B-A1.5BMiniCPM5-2BSpark-X2.5-4BM3-miniMMLU-Pro72.070.8~60社区口径73.0GPQA Diamond50.0—67.456.0SWE-bench Verified35.046.441.642.0工具调用PinchBench 80.0BFCL 66.6 / τ² 97.1BFCL 65.1 / τ³ 30.4PinchBench 80.0长上下文256K 原生128K1M 原生512K 原生中文综合C-Eval/CMMLU 90.0—200 语言—AA端侧档—144B 第一—41同尺寸领先工具调用 / 代码小模型最强MiniCPM5-2B——BFCL 66.6、τ²-Bench 97.1、SWE-bench V 46.4 在 2B 档出挑但长程 Agent 软肋Terminal-Bench 8.6。中文母语 9B 容量上限Yi-3——C-Eval/CMMLU 90.0、PinchBench 80.0日常轻量 Agent 够用SWE-bench 仅 35.0复杂代码回集群。Agent 域 RL 加过、端侧 1M 招牌Spark-X2.5-4B——τ³-bench 30.4 是 Qwen3.5-9B9.3的 3.3 倍但通用知识GPQA 67.4、HLE 12.3平庸且需自编译 runtime。端侧长上下文长板M3-mini——512K 原生 lightningLongBench 约 90SWE-bench 42.0、PinchBench 80.0 均衡。3.4 许可与合规栏谁最省心、谁能过信创Apache-2.0最松无附加条款Yi-3零一万物无政策附件最接近纯 Apache、MiniCPM5、Spark-X2.5——法务最易过闭源再分发无负担。minimax-community商用需署名仅M3-mini——比 MIT 多一条署名义务但比 Mistral MRL 的月活门槛宽松得多。信创适配Spark-X2.5 覆盖昇腾/海光/后摩四类国产芯片对政企私有化最实际其余三款走标准运行时vLLM/Ollama/MLX/llama.cpp也基本可迁移。提醒四款都能离线私有化若产品要闭源嵌入且规避专利风险Yi-3 / MiniCPM5 / Spark 的 Apache-2.0 是双保险M3-mini 记得署名。四、场景→模型 决策卡一页选型你的约束 / 需求直接选备注单卡/手机要最省显存 强工具调用MiniCPM5-2B1.56GB标准 Llama 架构免改直读要最松许可 中文母语 国产合规Yi-3 9B-A1.5BApache-2.0手机 NPU ~4.5GBC-Eval 90要端侧原生 1M 信创国产算力Spark-X2.5-4B需自编译 runtime现实 32–128K要端侧 512K 长上下文 lightningMiniMax M3-mini单卡/手机可跑署名义务海外端侧对照非国产Gemma 4 4B256K Apache-2.0英文基准标杆一句话极致小 工具调用选 MiniCPM5纯中文合规选 Yi-3要端侧 1M 选 Spark要端侧 512K 选 M3-mini。五、共性避坑四张卡都踩的坑量化是端侧命门别硬上 BF16——Yi-3/M3-mini 用 Q4_0MiniCPM5 用 Q4_K_M低于 Q4 精度掉得狠长上下文检索尤甚。KV Cache 是隐形大山Yi-3 开--cache-type-k q8_0M3-mini 的 lightning 仍吃 512K 显存Spark 的 1M KV 是权重数倍先从 32K 起步压测。1M / 512K 是上限不是免费实际端侧 32K–128K 才是现实区间别默认拉满。架构支持坑Spark 的spark2_5架构需自编译 llama.cpp/Ollama 或装 Spark-plugin不能直接ollama run其余三款标准架构免改。许可差异要进合规M3-mini 的 minimax-community 需署名其余 Apache-2.0 零负担。基准多为厂商自测MMLU-Pro/GPQA/SWE-bench 等多为官方发布值部分社区口径第三方独立复测有限选型前拿自己任务复测。四款都把 Agent 压到了手机Yi-3 / MiniCPM5 / Spark 停在 256K–1MM3-mini 用 lightning 顶到 512K。在你眼里端侧长上下文是刚需手机上真要读长文档还是参数焦虑其实 256K 够用你手头设备手机 / MacBook / 开发板上跑 Q4 实测 tok/s 大概多少数据来源说明本文为系列横向比较四款参评模型均来自本系列独立实测文——Yi-3 9B-A1.5B2026-10-09、MiniCPM5-2B2026-09-10、Spark-X2.5-4B2026-09-08、MiniMax M3-mini2026-10-18AA 端侧指数来自 Artificial Analysis第三方锚点MMLU-Pro/GPQA/SWE-bench/PinchBench/τ³-bench/AIME/LongBench 等基准为各模型官方/社区口径Spark 的 MMLU-Pro 为社区估算标注待独立复测。所有数值非同一评测集直接可比本文未做本机实测实际部署请以你的硬件与业务数据为准。