minimax-h3-nvfp4-convrot核心原理：逐层量化配置如何把33B模型压进20GB（NVFP4+FP8+BF16混合深度解析）

minimax-h3-nvfp4-convrot核心原理逐层量化配置如何把33B模型压进20GBNVFP4FP8BF16混合深度解析minimax-h3-nvfp4-convrot 是一套面向 MiniMax H333B 参数全能视频音频生成模型的NVFP4 / INT4 量化 ComfyUI 单文件检查点。它通过「逐层量化配置 AdaLN 剪枝 INT8 ConvRot」三步组合拳把原本约 66GB 的 BF16 模型压缩到20GB让 RTX 50 系消费级显卡也能本地跑 768p、24fps、4–15 秒的音视频联合生成。本文将这套 33B 模型压缩的核心原理拆解给你看不需要你预先掌握量化理论。一、先认识这个项目7 个量化文件各管一摊文件名遵循minimax_h3_fl2va|ref2va_variant.safetensors的命名规则fl2va首尾帧模式不传图 文生视频传 1–2 张图 帧条件生成ref2va全能参考模式最多支持 9 张图 / 3 个视频片段 / 3 个音频片段变体大小显卡要求定位pruned_nvfp4_convrot_int820 GB仅 Blackwell✅ 官方推荐已实测pruned_nvfp4_fp820 GB仅 BlackwellFP8 速度对照组pruned_nvfp420 GB仅 Blackwell同尺寸但更慢nvfp4未剪枝34 GB仅 Blackwell无法用剪枝路径时的保底pruned_mixed_int4_int8_convrot_simple20 GB任意显卡⚠️ 实验性质量未评估pruned_int4_convrot_simple17 GB任意显卡⚠️ 实验性int4_convrot_simple25 GB任意显卡⚠️ 实验性未剪枝注三个 INT4 变体只有fl2va版本。完整说明见 README.md。二、核心原理 1逐层量化配置——为什么混合格式胜过一刀切问题的本质如果把 33B 参数全部压成 4-bit看似最省实际上会出问题模型里不同层对精度的敏感度天差地别。一刀切量化等于用同一把钥匙开所有的锁。minimax-h3-nvfp4-convrot 的做法是给每一类层分配最合适的数值格式——这就是逐层量化配置per-layer quantization profile。三档格式分布层格式层数选择理由blocks.2–46的 MLPmlp.fc1/mlp.fc2NVFP44-bit 浮点90参数量大头压缩收益最高Blackwell 原生支持blocks.2–46的attn.qkv_proj、adaln_proj.linearFP88-bit 浮点tensor-wise scale90注意力投影存在离群值能量需要更宽的动态范围前 2 块 后 3 块blocks.0,1,47,48,49、attn.out_proj、全部输入/输出投影BF16 原样保留86边界层与 I/O 投影对精度高度敏感其中有一个很巧妙的判断依据原始检查点里这批敏感层本来就是以 F32 存储的——模型作者用高精度存它们本身就是这里不能压的信号。读懂配置文件整套逐层规则写在 minimax_h3_layer_config.json 中核心就是正则表达式 → 格式 的映射{ blocks\\.0\\.|blocks\\.1\\.|blocks\\.47\\.|blocks\\.48\\.|blocks\\.49\\.: {skip: true}, time_embedder: {skip: true}, attn\\.out_proj: {skip: true}, adaln_proj\\.linear: {format: float8_e4m3fn, scaling_mode: tensor}, attn\\.qkv_proj: {format: float8_e4m3fn, scaling_mode: tensor} }规则很直观skip: true表示原样保留BF16匹配到的层转 FP8没被任何规则匹配到的层即 MLP 的 fc1/fc2走默认的 NVFP4。量化由convert-to-quant简称ctqCLI 执行ctq -i minimax_h3_fl2va_bf16.safetensors \ -o minimax_h3_fl2va_nvfp4.safetensors \ --nvfp4 --custom-type fp8 \ --layer-config minimax_h3_layer_config.json \ --comfy_quant --save-quant-metadata产物共 985 个张量其中 180 层被量化90 NVFP4 90 FP8并通过_quantization_metadata元数据校验。这一步完成后模型从 ~66GBBF16降到34GB——但离 20GB 还差一截。三、核心原理 2AdaLN 剪枝——34GB 变 20GB 的关键一个被发现的冗余H3 的 AdaLN自适应层归一化调制网络占了13.1B / 33.1B 参数接近 40%。但 Comfy-Org 的分析发现这部分权重的输出只取决于扩散时间步timestep与生成内容无关——那么在一组固定的推理时间步上它可以整体坍缩成一张小小的查找表且输出质量无损失。剪枝具体做了什么在 NVFP4/FP8 检查点基础上做张量移植删掉time_embedder.*和每个 block 的*.adaln_proj.linear.{weight,bias}每块[96768, 2688]就是那 13.1B 参数加入adaln_t_table[1025, 8]F32 查找表 坍缩后的adaln_proj.linear[96768, 8]F16其余张量一律不动结果34 GB →20 GB张量数从 985 减到 892。ComfyUI 的MiniMaxH3Model会通过adaln_t_table.shape[1]自动识别这是剪枝架构并正确加载。⚠️ 一个隐蔽的坑剪枝文件里不能携带config元数据块。否则父文件遗留的time_embed_dim: 2688会覆盖基于形状检测得到的正确值导致加载失败。四、核心原理 3INT8 ConvRot——同尺寸下让注意力更快推荐版pruned_nvfp4_convrot_int8在 20GB 基础上还有一招加速ConvRot分组 Hadamard 旋转。原理一句话INT8 的动态范围很窄容易装不下离群值能量ConvRot 在量化前按固定分组对权重做 Hadamard 预旋转把离群能量摊平让 INT8 能稳稳住下——逼近 FP8 的精度同时 INT8 张量核心吞吐量通常高于 FP8算得更快。关键工程细节从原始 BF16 权重量化而不是从 FP8 张量转——二次转换会叠加量化误差采用抽取 → 独立量化 → 拼回的三步管线而不是整体重量化旋转分组大小 25645 个attn.qkv_proj层的in_features5376可被 256 整除--dynamic-convrot自动选取每个层最大的兼容组大小ctq -i extracted.safetensors -o convrot_out.safetensors \ --int8 --scaling-mode row --dynamic-convrot --convrot-group-size 256 \ --comfy_quant --save-quant-metadata张量总数保持 892 不变只是这 45 个层从 FP8 tensor-scale 换成了 INT8 row-scale ConvRot 元数据。文件同尺寸推理更快。而adaln_proj.linear特意不享受同样待遇——剪枝已把它坍缩成[* , 8]的 F16 查找表没什么可压的了。同尺寸的pruned_nvfp4_fp8文件则保留 FP8 版attn.qkv_proj专门用来和 ConvRot 版做 A/B 速度对比。五、非 Blackwell 显卡的逃生通道INT4 W4A4 ConvRot如果你的显卡不是 RTX 50 系 / B100 / B200NVFP4 硬性要求 Blackwell 架构SM ≥ 10.0没有旧卡回退方案仓库提供了三个 INT4 变体作为实验性选项W4A4对激活和权重都做分组 Hadamard 旋转后再做 4-bit 量化免重训练即可运行采用--simple模式RTN 圆整无学习型圆整质量未评估——目前只确认能端到端加载并生成配套配置见 minimax_h3_layer_config_int4_convrot.json其中mlp.fc1/mlp.fc2/attn.qkv_proj/adaln_proj.linear全部标记为int4_convrot_w4a4混合精度变体pruned_mixed_int4_int8_convrot_simple20GB则参考 ConvRot 论文的思路全 W4A4 会在平滑、低频区域因 INT4 表达力不足而明显掉质量论文实测 FID 从 10.07 恶化到 12.32解法是把约20% 的层这里是 48 个层提升为真正的 INT8 ConvRot。该提升清单直接取自社区混合量化方案的元数据作为起点而非针对 H3 精调的结果。 结论先行NVFP4 系列之所以被推荐是因为它用的是保守、成熟的格式且已确认工作而不是因为跑过质量基准——仓库中所有变体的质量都没有实测数据。六、快速选型指南你的情况选哪个文件RTX 50 系 / B100 / B200文生或图生视频minimax_h3_fl2va_pruned_nvfp4_convrot_int8.safetensors20GB推荐多参考素材图/视频/音频混合minimax_h3_ref2va_pruned_nvfp4_convrot_int8.safetensors非 Blackwell 显卡内存 ≥24GBminimax_h3_fl2va_pruned_mixed_int4_int8_convrot_simple.safetensors20GB实验性非 Blackwell内存紧张minimax_h3_fl2va_pruned_int4_convrot_simple.safetensors17GB实验性不在 ComfyUI 中使用求稳未剪枝的nvfp4版34GB七、使用前提与已知限制硬件所有nvfp4文件包括convrot_int8系列都需要 BlackwellINT4 变体可跑在任意显卡但comfy-kitchen的 W4A4 内核只在 Ampere/AdaSM major 8上使用原生 INT4 张量核心 MMABlackwell 上会走 INT8 激活路径速度上没有优势配套模型还需从 Comfy-Org 的 H3 仓库下载文本编码器Qwen3-VL 32B体积不小其nvfp4_awq版本与这些文件在 Blackwell 上搭配良好和 VAE分别放入 ComfyUI 的models/text_encoders和models/vae目录剪枝版依赖剪枝文件依赖 ComfyUI 基于张量形状的架构检测在 ComfyUI 之外使用时未剪枝版本更稳授权MiniMax H3 Community License Agreement全文收录于 LICENSE八、仓库文件一览文件说明minimax_h3_fl2va_pruned_nvfp4_convrot_int8.safetensors20GB推荐版首尾帧模式minimax_h3_ref2va_pruned_nvfp4_convrot_int8.safetensors20GB推荐版全能参考模式minimax_h3_fl2va_nvfp4.safetensors34GB未剪枝 NVFP4 基准minimax_h3_layer_config.jsonNVFP4FP8BF16 逐层量化配置核心资产minimax_h3_layer_config_int4_convrot.jsonINT4 W4A4 ConvRot 逐层配置README.md完整文档变体对比、量化方法、剪枝与 ConvRot 细节LICENSEMiniMax H3 社区授权协议总结三步压出 20GB回顾这套 minimax-h3-nvfp4-convrot 的 33B 模型压缩方法论本质是三个正交手法的叠加逐层量化配置90 层 MLP 压 NVFP4、90 层注意力/调制投影压 FP8、86 层敏感层保留 BF16——用 minimax_h3_layer_config.json 一个文件精确指挥66GB → 34GBAdaLN 剪枝删掉只依赖时间步的 13.1B 调制参数换一张 8 列查找表——34GB → 20GBINT8 ConvRot把注意力 QKV 换成旋转后的 INT8体积不变、算力路径更快——同尺寸下的纯加速收益对新手来说最有价值的启示是量化不是选个 4-bit 跑一遍而是按层的角色分配精度的工程决策——这份逐层配置文件才是本项目真正的方法论核心。创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考