MindSpeed LLM确定性计算：如何在昇腾上保证大模型结果可复现-云帆数科

MindSpeed LLM确定性计算如何在昇腾上保证大模型结果可复现【免费下载链接】MindSpeed-LLM昇腾LLM分布式训练框架项目地址: https://gitcode.com/Ascend/MindSpeed-LLM做昇腾大模型训练时你有没有发现同样的配置跑两次loss曲线却对不上这正是大模型可复现性问题的痛点。MindSpeed-LLM 是昇腾AscendLLM分布式训练框架内置的确定性计算Deterministic Computation功能只需两步配置就能保证多次训练结果完全一致让对照实验和性能调优有据可依。同一模型不同框架训练的 loss 曲线——没有受控的随机因素时曲线会出现难以归因的差异一、为什么两次训练结果会不一样大模型训练中随机因素来自多个层面任何一个不固定loss 曲线、性能曲线就无法重合随机来源具体表现随机数生成初始化、Dropout、数据 shuffle 依赖各进程随机种子非确定性算子部分算子不同运行下归约顺序不同浮点结果产生微小偏差集合通信多卡/多机通信中 all-reduce 等操作的归约顺序可能变化这些差异单看微不足道但在数千步、数千卡的训练中会被不断放大。于是你需要一个开关把这一切锁死。二、两步开启确定性计算最快配置方法官方文档 deterministic_computation.md 给出的用法非常直接训练脚本中加入参数--npu-deterministic设置环境变量export HCCL_DETERMINISTICtrue锁定 HCCL 集合通信的确定性行为seed默认为1234也可以自行指定保证两次实验使用同一随机序列。这样配置后同参数下多次实验即可获得相同的实验结果loss 曲线可以逐点重合。三、框架在内部到底做了什么 --npu-deterministic触发后框架会调用统一的随机种子设置函数 seed_all一次性锁死所有随机源random.seed(seed)PYTHONHASHSEEDPython 层随机与哈希np.random.seed(seed)NumPy 随机数torch.manual_seed(seed)torch.use_deterministic_algorithms(True)PyTorch 算子确定性torch_npu.npu.manual_seed(seed)/manual_seed_all(seed)昇腾 NPU 设备侧随机数初始化入口见 initialize.pyRLHF 训练入口 rlhf_gpt.py 中同样接入了该能力。启用成功时日志会打印deterministic computing is applied for npu.例如 running_log.png 这类训练迭代日志⚠️ 旧参数--use-deter-comp已废弃请在 deprecated_args.py 的提示下改用--npu-deterministic。四、注意事项 ⚠️如果配置了HCCL_LOGIC_SUPERPOD_ID集群通过RoCE通信时集群拓扑关系变化会导致集合通信行为差异两种确定性方案不统一。因此做严格对照实验时建议固定集群拓扑或直接不配置该变量。五、相关资料入口内容路径确定性计算官方文档docs/zh/pytorch/tools/deterministic_computation.md随机种子设置源码mindspeed_llm/training/utils.py初始化触发点mindspeed_llm/training/initialize.py项目 READMEREADME.md一句话总结在昇腾上做严肃的大模型实验加一个--npu-deterministic参数、设一个环境变量就能让每次训练可复现、可对比、可追溯。【免费下载链接】MindSpeed-LLM昇腾LLM分布式训练框架项目地址: https://gitcode.com/Ascend/MindSpeed-LLM创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考

企业数字化 ERP 产品动态

相关推荐

番茄目标检测数据集：YOLO农业标注与训练实战

简介：番茄目标检测数据集是一套面向农业场景的YOLO格式标注数据，主要服务于计算机视觉研究人员、农业自动化工程师以及相关专业学生，数据集中包含训练集、验证集和测试集，数量分别为六百二十六张、一百七十九张和九十张&#xff0… · 2026/9/26 2:52:05

Zenbot 的 sar 策略：基于抛物线 SAR 指标的趋势反转交易实现、参数调优与实战指南

金融科技后端【免费下载链接】zenbot Zenbot is a command-line cryptocurrency trading bot using Node.js and MongoDB. 项目地址： https://gitcode.com/gh_mirrors/ze/zenbot 点击查看免费下载导读 sar 是 Zenbot（基于 Node.js 与 MongoDB 的命令… · 2026/9/26 2:51:59

Apereo CAS 嵌入式 Tomcat 容器 HTTP Basic 认证（Basic Authentication）配置指南

后端认证鉴权单点登录【免费下载链接】cas Apereo CAS - Identity & Single Sign On for all earthlings and beyond. 项目地址： https://gitcode.com/gh_mirrors/ca/cas 点击查看免费下载本指南聚焦 Apereo CAS 内嵌 Apache Tomcat Servlet 容器提供的 HTT… · 2026/9/26 2:51:59

Lostlife 2.0升级指南：EmotiVoice引擎整合与数据迁移

/* MD / 富文本中的 .toc（含博客园搬家等嵌套结构）；.toc-box 在侧栏，不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p（:empty 仍占 20px），一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/26 3:26:00