国产模型周用量破 10 万亿 tokens：Nex 这类开源新军正挤进 DeepSeek 与混元的牌桌

国产模型周用量破 10 万亿 tokensNex 这类开源新军正挤进 DeepSeek 与混元的牌桌【免费下载链接】Nex-N2.5-Pro项目地址: https://ai.gitcode.com/hf_mirrors/nex-agi/Nex-N2.5-Pro如果说前两年国产大模型的竞争还是参数发布会那么现在牌桌已经换了一种计分方式。据观察者网报道四款国产模型单周 API 调用量已突破 10 万亿 tokens其中 DeepSeek 与混元两家合计占比近半。这个数字本身并不算惊人——真正的信号在于tokens 正在成为 AI 行业最真实的商品计价单位训练是成本推理才是收入谁被调用得多谁就掌握了商业化的话语权。但在 DeepSeek、混元把持头部流量的同时一股来自开源社区的力量正在悄悄改写格局Nex-N2.5 系列——以 Apache 2.0 协议开源、从 mini 到 Max 覆盖不同算力档位的智能体Agentic模型家族——正以可自部署、可量化、可嵌入端侧的方式挤进这张牌桌。本文结合社区舆情与仓库源码拆解 10 万亿 tokens 大盘的结构以及 Nex 这类开源新军如何通过工程化能力切入个人与轻量部署的生态位。周用量破 10 万亿 tokens推理正在取代训练成为国产 AI 的主战场10 万亿 tokens 周用量意味着什么以单 token 约 3 字节估算一周就要生成约 30 TB 的文本输出换算成收入口径即便按国产模型普遍低于国际头部厂商的 API 单价这一数字对应的也是数千万元级的周流水。tokens 调用量因此成为比融资额、参数规模更硬核的商业化指标——它不是能不能做出来的能力证明而是有没有人在用的需求证明。这一轮数据的结构性看点在于占比近半。DeepSeek 与混元合占近半份额说明国产大模型的商业化已经完成第一轮集中头部玩家凭借底座模型质量与价格战吃下了大部分通用对话流量。但近半的另一层含义是——剩下的一半市场并非铁板一块。这半壁江山由无数长尾场景构成垂直行业的私有化部署、边缘设备的端侧推理、开发者自建的智能体工作流、以及数据合规要求下的本地化运行。而这些场景恰恰是大厂 API 服务覆盖成本最高、而开源模型最擅长的领域。开源新军的入场逻辑因此变得清晰大厂靠每 token 计价赢下通用流量开源模型则通过权重免费 自部署省钱俘获长尾需求。Token 大盘的增长本质上是在同时喂养这两条路径。挤进牌桌的资格证Nex-N2.5-Pro 的工程解剖要挤进这张牌桌光有开源的标签远远不够。社区情报中30B 级别模型也这么强免费大模型新王炸等话题之所以能形成传播是因为 Nex-N2.5 在模型架构与工程落地两端都拿出了真东西。以本文仓库中的 Nex-N2.5-Pro 为例其 config.json 是一份极具信息量的技术简历稀疏 MoE 与注意力混合架构num_experts: 512、num_experts_per_tok: 10即 512 个专家每 token 仅激活 10 个配合full_attention_interval: 4的线性注意力/全注意力交替层设计60 层网络中有 15 层全注意力在保持 262K 超长上下文max_position_embeddings: 262144的同时把推理时的显存与算力开销压到可接受范围原生 FP8 量化quantization_config采用 compressed-tensors 格式的FP8_BLOCK分组量化权重按 128×128 block 做 8bit 量化同时将嵌入层、视觉塔等敏感模块排除在量化之外这是发布即带量化的工程化成熟度体现多模态输入链路视觉塔patch_size 16、27 层、hidden_size 1152与视频处理器2fps 采样、最大 768 帧并列存在于配置中image_token_id与video_token_id均已定义意味着它天然支持看图操作电脑看视频理解界面这类智能体任务。真正的差异化在智能体能力上。chat_template.jinja 完整定义了模型的工具调用协议tool_call包裹function...与parameter...的 XML 结构、多轮工具结果的tool_response回填机制以及think思考标签与reasoning_effortnone/medium/high三档思考模式的映射——这套模板让模型先想再做、做错再看反馈重试的 Agentic 循环成为可能。部署侧同样给出了硬指标README.md 中 Nex-N2.5-Pro 的推荐方案是单节点 8×H100使用官方定制的 SGLang 分支nexagi/sglang:v0.5.18-nex-patch搭配--reasoning-parser qwen3与--tool-call-parser qwen3_coder实现思考轨迹与函数调用的结构化解析。性能上Pro 档在 Terminal-Bench 2.1 拿到 82.7、OSWorld-G 87.4、BrowseComp 89.7、GDPval-AA 1628 分——这些数字未必全胜头部闭源模型但已经足以证明开源智能体模型在电脑操作与网页浏览这类前沿基准上具备了同场竞技的资格。生态位个人与轻量部署开源新军的真实切入面8×H100 的 Pro 档解决的是企业级稳态平衡点但 Nex 家族的聪明之处在于用三档产品覆盖了算力光谱的两端mini 档仅需 2×H100 即可部署Max 档则上探到 1.6 万亿参数的纯文本 MoE需 32 卡 H200 级别的多节点集群。这种下探个人、上探旗舰的梯度设计恰好与 token 大盘中长尾需求的分布吻合。更值得注意的是社区围绕 Nex 形成的二次工程生态它们共同把模型的落地门槛从机房级拉低到个人级端侧推理有开发者将 Nex-N2.5-mini 以 GGUF 格式落地到安卓端走通 MNN 框架适配、JNI 封装与 Q4_K_M 量化验证在 APK 体积与功耗约束下实现端侧运行低内存量化社区基于 mlx-optiq 对 Nex-N235B 档做静态混合 3/6bit 量化将 70.2GB 原始权重压缩至 17.8GBApple Silicon 上峰值内存约 17.9GB、推理速度约 50 tokens/s——这意味着一台 Mac 就能跑起原本需要服务器集群的模型编排层接入WorkBuddy 等工具通过 Ollama 将 Nex N2.5 Pro 挂载为本地 OpenAI 兼容后端实现编排层与推理层分离把应用对云端 API 的 token 依赖替换为本地计算推理框架适配Xinference、SGLang 均有对应的部署教程与后端适配如Qwen3_5MoeForConditionalGeneration类注册开源权重因此能以极低的迁移成本接入既有推理基础设施。这一生态位与大厂的逻辑形成鲜明对比DeepSeek 与混元的近半份额靠的是云端按 token 收费的规模效应而 Nex 类开源新军则把模型做成可搬运的资产——训练成果以 Apache 2.0 权重形式发布用户为硬件付费而非为 token 付费。当 token 单价被价格战压低到接近成本线时开源路线反而在数据主权、隐私合规、离线运行等场景中获得了不可替代的价值锚点。从用量看国产模型的商业化拐点10 万亿 tokens 周用量加上 DeepSeek/混元近半的结构至少可以读出三个拐点信号第一国产模型已经完成从能力竞赛到用量竞赛的切换。当周用量以万亿 tokens 计市场讨论的焦点就从谁的参数大变成谁被用得勤。这对开源新军是结构性利好——用量是需求侧投票而开源模型恰恰能在 API 触达不到的长尾场景里制造新的用量。第二商业化呈现云端计价 本地自持的双轨形态。头部厂商守住云端按量计费的现金流开源新军则通过本地部署把推理成本沉没到用户侧。一个值得注意的例证是仪电智算云这样的国资算力平台已在其Token 工厂上线 Nex-N2.5 Max——开源新军的旗舰模型正在被云厂商当作算力变现的载体反向进入token 经济体系。开源与商用之间的边界正在被这类合作重新定义。第三国产模型的竞争力已经外溢到全球市场。老外们正用得不亦乐乎这类观察背后是开源权重 相对低价的双重吸引力海外开发者可以绕过闭源 API 的区域与合规限制直接自托管一套高性能国产模型。这与巴西黑马大模型被扒出套壳国产模型的插曲相互印证——国产模型的技术底座已经成为全球开源生态绕不开的供给源。当然拐点不等于终点。周用量 10 万亿 tokens 的账面上DeepSeek 与混元仍然坐拥近半江山Nex 这类开源新军要真正挤进牌桌还需要在长上下文服务的稳定性、多模态 agent 的端到端可靠性以及开源社区的长期投入上持续证明自己。但从 config.json 里 512 专家/10 激活的稀疏设计到 chat_template.jinja 里成体系的多步工具调用协议再到 README.md 中可复现的 8×H100 一键部署命令——这一代开源模型已经不是在追赶而是在用工程化能力重新划分市场云端巨头赢下规模开源新军赢下生态。10 万亿 tokens 只是这场重新划分的开始。【免费下载链接】Nex-N2.5-Pro项目地址: https://ai.gitcode.com/hf_mirrors/nex-agi/Nex-N2.5-Pro创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考