首页/新闻资讯/正文详情

沐曦股份携手众智FlagOS完成 Qwen3.8-2.4T-A95B Day 0 适配

发布时间:2026/11/20 10:16:07 来源:云帆数科 栏目:资讯中心
沐曦股份携手众智FlagOS完成 Qwen3.8-2.4T-A95B Day 0 适配
阿里千问开源超大规模 MoE 模型 Qwen3.8-2.4T-A95B沐曦股份与众智FlagOS合作率先完成对该模型的Day 0 适配实现基于沐曦GPU硬件环境下的推理部署验证。这充分展示出了沐曦股份软硬件协同的兼容优势与生态合作的协同作用。本次发布的 Qwen3.8-2.4T-A95B 是阿里千问开源模型系列中规模最大、能力最强的一代首次将 Qwen-Max 级别的模型开放出来。主要特性超大规模 MoE 架构总参数 2.4T激活参数 95B纯文本模型编程、专业工作、科研、长程智能体任务显著提升支持 reasoning_effort 调节推理深度preserve_thinking 保留历史推理原生 262,144 tokens可扩展至 1,010,000提供 BF16 / FP8 权重兼容 vLLM、SGLang、TokenSpeed等在 Coding Agent 相关基准测试中Qwen3.8-Max 相比 Qwen3.7-Max 有明显提升Terminal Bench 2.1 从 74.5 升至 86.6SWE-bench Pro 从 60.6 升至 67.7接近 Opus 4.869.2PaperBench 从 64.8 升至 93.0并超过 Opus 4.880.3。MXMACA软件栈是沐曦GPU从“可用” 进阶为 “好用、易用”的核心基石。作为连接硬件算力与上层应用生态的核心枢纽MXMACA软件栈全链路覆盖底层驱动、用户态接口、MXCC编译器、算子深度适配及主流训练/推理框架对接原生兼容国际主流生态适配 PyTorch、TensorFlow、vLLM与SGLang等 40 余种主流 AI 框架支持 500 AI 模型稳定运行大幅缩短传统模型适配周期。目前FlagOS已经完成针对Qwen3.8-2.4T-A95B开源模型的精度对齐与部署验证开发者可直接获取开箱即用方案。未来沐曦股份将持续推进GPU硬件与全栈软件技术的迭代升级深化与FlagOS等人工智能企业的生态协作以Day 0适配为标准持续完善“国产芯片-国产大模型-产业落地”的完整技术链条。共同打造从底层算力到上层应用的无缝衔接生态为人工智能技术在各行各业的规模化落地提供坚实支撑。开发者速用指南FlagOS 为 Qwen3.8-2.4T 提供了沐曦GPU的推理插件包括 vLLM-plugin-FL 和 SGLang-plugin-FL 两种推理框架插件。目前在 FlagOS 推理插件的支持下沐曦股份完成 Qwen3.8-2.4T 的推理部署及评测验证业务代码与标准调用接口无需修改。使用源码安装部署可参考以下官方文档1、vLLM-plugin-FLGitHubhttps://github.com/flagos-ai/vllm-plugin-FL/blob/main/README.mdGitCodehttps://gitcode.com/flagos-ai/vllm-plugin-FL/blob/main/README.md2、SGLang-plugin-FLGitHubhttps://github.com/flagos-ai/sglang-plugin-FL/blob/main/README.mdGitCodehttps://gitcode.com/flagos-ai/sglang-plugin-FL/blob/main/README.mdFlagOS 安装部署快速安装以 vLLM 为例安装步骤如下Shell # 1. 安装 vLLM git clone gitgithub.com:vllm-project/vllm.git cd vllm git checkout v0.24.0 VLLM_TARGET_DEVICEempty pip install -v --no-build-isolation --no-deps # 2. 安装 vllm-plugin-FL git clone https://github.com/flagos-ai/vllm-plugin-FL cd vllm-plugin-FL git checkout v0.3.0-dev pip install --no-build-isolation -e . # 3. 安装 FlagGems 算子库 git clone https://github.com/flagos-ai/FlagGems cd FlagGems git checkout v5.3.0 pip install --no-build-isolation -e . # 4. (可选) 安装 FlagTree 跨芯编译器 # 5. (可选) 安装 FlagCX 跨芯通信库 # 详见 https://github.com/flagos-ai/FlagCX运行推理以下为沐曦平台 INT8 版本的示例模型路径、tensor_parallel_size、max_num_batched_tokens、max_num_seqs 等参数需按卡数与服务配置调整Python from vllm import LLM, SamplingParams prompts [请介绍下阿里巴巴开源最新模型QWen3.8] sampling_params SamplingParams(max_tokens10, temperature0.0) llm LLM( modelFlagRelease/Qwen3.8-2.4T-A95B-INT8-metax-FlagOS, max_num_batched_tokens8192, max_num_seqs32, tensor_parallel_size16, pipeline_parallel_size2) outputs llm.generate(prompts, sampling_params) for output in outputs: print(fPrompt: {output.prompt!r}) print(fGenerated: {output.outputs[0].text!r})双方合作的模型适配版本链接见下欢迎体验魔搭平台https://modelscope.cn/models/FlagRelease/Qwen3.8-2.4T-A95B-INT8-metax-FlagOSHuggingFacehttps://huggingface.co/FlagRelease/Qwen3.8-2.4T-A95B-INT8-metax-FlagOS

相关推荐

Macro 的 browser-verifier 子代理:用无头浏览器验证 Web 改动的完整指南
Macro 的 browser-verifier 子代理:用无头浏览器验证 Web 改动的完整指南

后端前端协同办公即时通讯企业应用CRMAI Agent人工智能 【免费下载链接】macro Macro is a unified workspace for teams: email, chat, docs, tasks, agents, calls, and CRM — -linked together with shared AI memory. 项目地址: https://gitcode.com/GitHub_Tr… · 2026/11/4 16:35:05

拆解RedTiger-Tools项目架构:渗透测试OSINT工具的JSON配置、双模式CLI解析与插件注入机制深度解析
拆解RedTiger-Tools项目架构:渗透测试OSINT工具的JSON配置、双模式CLI解析与插件注入机制深度解析

【免费下载链接】RedTiger-Tools RedTiger-Tools is a multifunction automation tool dedicated to pentesting and OSINT. The project is open source and designed to be fully configurable according to user needs. It also includes a plugin system that allows users… · 2026/11/3 16:18:47

5 秒参考音频出中文 TTS:GPT-SoVITS 少样本语音克隆实操指南
5 秒参考音频出中文 TTS:GPT-SoVITS 少样本语音克隆实操指南

5 秒参考音频出中文 TTS:GPT-SoVITS 少样本语音克隆实操指南 【免费下载链接】GPT-SoVITS 1 min voice data can also be used to train a good TTS model! (few shot voice cloning) 项目地址: https://gitcode.com/GitHub_Trending/gp/GPT-SoVITS GPT-SoVI… · 2026/11/9 3:31:23

延安电工证复审机构怎么选?官方报名入口在哪?别再交冤枉钱了
延安电工证复审机构怎么选?官方报名入口在哪?别再交冤枉钱了

延安电工证复审机构怎么选?官方报名入口在哪?别再交冤枉钱了 你是不是正愁找不到工作?有没有想过, 急需特种作业证才能上岗找工作… · 2026/11/21 8:25:05

电工证科2最难的接线怎么过?电子证书转省指南来了
电工证科2最难的接线怎么过?电子证书转省指南来了

电工证科2最难的接线怎么过?电子证书转省指南来了 之前考的证在外省能不能转过来?这个问题困扰了太多人,尤其是像你这样在驻马店项目现场当管理员的。很多人在考电工证的时候,科2那场接线实操题总是让人头疼,尤其是“最难的接线”这部分,稍有不慎就可… · 2026/11/21 8:25:05

电工证考证宝典怎么选?2026河南最新政策下这些细节必须知道
电工证考证宝典怎么选?2026河南最新政策下这些细节必须知道

电工证考证宝典怎么选?2026河南最新政策下这些细节必须知道 急需特种作业证才能上岗找工作,很多求职者在南阳卧龙区等地打拼时,都面临这样的现实:没有电工证,很多岗位根本进不去。2026河南最新政策对特种作业证的要求更加严格,特别是电工证的报… · 2026/11/21 8:25:05

延安电工证复审机构多久拿证 低学历也能考电工证
延安电工证复审机构多久拿证 低学历也能考电工证

延安电工证复审机构多久拿证 低学历也能考电工证 你是不是担心学历不高,怕报不了名,电工证根本没戏?别慌!延安电工证复审机构的流程和门槛其实没你想得那么高,尤其是 多久拿证 的问题,很多人其实根本不用太担心。… · 2026/11/21 8:25:05

临沂考高压电工证通过率揭秘:证书过期了不知道怎么复审延期怎么办
临沂考高压电工证通过率揭秘:证书过期了不知道怎么复审延期怎么办

临沂考高压电工证通过率揭秘:证书过期了不知道怎么复审延期怎么办 证书过期了不知道怎么复审延期,是很多高压电工持证人遇到的难题。尤其是在临沂地区,高压电工证的复审流程、时间要求、通过率等信息并不透明,很多人在临近到期时才发现问题。其实,通过率… · 2026/11/21 8:25:05

工地太忙根本没时间复习考试?二级电工证怎么报考多久拿证全攻略
工地太忙根本没时间复习考试?二级电工证怎么报考多久拿证全攻略

工地太忙根本没时间复习考试?二级电工证怎么报考多久拿证全攻略 工地太忙根本没时间复习考试,这几乎是所有建筑工人的真实写照。特别是在南阳这样的建筑大市,工地上每天都有大量的作业任务,很多人连吃饭的时间都紧张,更别提抽空复习二级电工证考试内容了… · 2026/11/21 8:24:05

长春初级电工证怎么考?通过率揭秘全在这里
长春初级电工证怎么考?通过率揭秘全在这里

长春初级电工证怎么考?通过率揭秘全在这里 之前考的证在外省能不能转过来?这几乎是每个想从事电工工作的人都会问的问题。特别是那些在外地打拼多年、手里握着一张“外地电工证”的人,到了长春想继续干这一行,第一反应就是“我的证能用吗?”。今天我们就… · 2026/11/20 16:18:19

国内电工证报考条件与考试时间
国内电工证报考条件与考试时间

低压电工证怎么考?学历不高也能报名,官方报名入口全在这 你是不是经常听说“电工证是入行门槛”,但又担心自己学历不够、经验不足,根本报不了名?别急,今天就带你从零了解【国内电工证】的报考流程、考试内容,还有怎么在 官方报名入口… · 2026/11/20 18:25:07

电工作业时如何断电?电子证书到底能不能全国通用?
电工作业时如何断电?电子证书到底能不能全国通用?

电工作业时如何断电?电子证书到底能不能全国通用? 实操考试心里没底怕挂科,特别是电工作业时如何断电这一操作,不仅关系到你能不能拿到证书,更关系到以后能不能顺利上岗。很多人觉得这不过就是“断个电”,但其实这里面的门道可不少,稍有不慎就可能出错… · 2026/11/20 17:56:32

电工证征求意见2026河南最新政策怎么应对?学历不高也能考!
电工证征求意见2026河南最新政策怎么应对?学历不高也能考!

电工证征求意见2026河南最新政策怎么应对?学历不高也能考! 你是不是也担心自己学历不高, 怕报不上名 ?尤其是像焦作水利工程这样的从业者,常年在一线作业,但证书却成了晋升、转岗、接项目的关键门槛。 2026河南最新政策… · 2026/11/21 0:00:17

电工证征求意见怎么填?含金量高不高?济源电工朋友看过来
电工证征求意见怎么填?含金量高不高?济源电工朋友看过来

电工证征求意见怎么填?含金量高不高?济源电工朋友看过来 不知道去哪报名怕被中介坑,电工证征求意见填错了不仅白费钱,还可能影响后续考试和工作。最近很多济源的电工朋友都在问: 电工证征求意见怎么填… · 2026/11/21 0:00:17

房建企业特种工考前押题怎么找?别让培训费打了水漂
房建企业特种工考前押题怎么找?别让培训费打了水漂

房建企业特种工考前押题怎么找?别让培训费打了水漂 怕考不过白交培训费?房建企业特种工考试难度高、题型多,很多人报名后才发现没有合适的复习资料,最终考试落榜,白白浪费了时间和金钱。别担心,掌握【考前押题】的技巧,能让你事半功倍,顺利通过考试。… · 2026/11/21 0:00:17

双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/20 10:25:45

STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/20 10:25:54

DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/20 10:26:03

了解更多?预约专属演示

我们的顾问将为您一对一讲解产品与方案

企业微信二维码