34GB砍到20GB且零质量损失：minimax-h3-nvfp4-convrot的AdaLN剪枝查找表技术深度剖析

34GB砍到20GB且零质量损失minimax-h3-nvfp4-convrot的AdaLN剪枝查找表技术深度剖析minimax-h3-nvfp4-convrot是专为 ComfyUI 打造的MiniMax H3 视频生成模型量化权重库。MiniMax H3 是一个 33B 参数的全模态「视频同步音频」生成模型原版权重对显存要求极高。本仓库通过 NVFP4 混合量化、AdaLN 剪枝查找表和 INT8 ConvRot 旋转量化三大技术把 34GB 的模型砍到 20GB——且官方报告输出质量零损失让本地部署 768p 24fps 带音效的视频生成成为可能。 项目速览这个仓库能帮你做什么MiniMax H3 的生成规格为768p / 24fps / 4~15 秒视频附带 32kHz 立体声同步音频2K 输出需要单独的 H3-Regenerate-2K 模块不在本仓库范围内。所有文件都是 ComfyUI 单文件 checkpoint即下即用。文件名遵循minimax_h3_fl2va|ref2va_variant.safetensors规则两种前缀对应两种工作流模式含义fl2va首尾帧模式0 张图 文生视频1~2 张图 帧条件生成ref2va全参考模式最多 9 张图 / 3 段视频 / 3 段音频参考完整说明见 README.md。✂️ 核心技术一AdaLN 剪枝——131亿参数坍缩成一张小表这是「34GB 砍到 20GB」的关键。原理AdaLN 权重其实只依赖时间步Comfy-Org 在官方优化时发现一个惊人的事实H3 的AdaLN 调制网络占总参数的 39%33.1B 中的 13.1B但这些权重只依赖扩散时间步timestep与视频内容无关。既然推理时使用的是一组固定的时间步那这一大堆参数在运行时等价于一张小小的查找表lookup table。剪枝文件里具体做了什么删除time_embedder.*和所有*.adaln_proj.linear权重每个 block 一张[96768, 2688]的大矩阵植入从 Comfy-Org 剪枝版原样拷贝的adaln_t_table[1025, 8]F32以及坍缩后的*.adaln_proj.linear[96768, 8]F16其余层一字未动最终结果892 个张量20GBComfyUI 官方确认无质量损失。⚠️必须知道的坑ComfyUI 的MiniMaxH3Model是通过adaln_t_table.shape[1]的形状来检测剪枝架构的。剪枝文件不能携带config元数据块——因为model_detection.py会在形状检测之后再应用 config一个残留的time_embed_dim: 2688会静默覆盖正确值导致加载失败。这是手工制作此类文件时最容易踩的雷。⚡ 核心技术二NVFP4 FP8 BF16 三层混合量化剪枝之外的体积压缩来自按层定制的混合量化配置通过convert-to-quantctqCLI 加手工构建的逐层配置完成层范围格式数量blocks.{2..46}.mlp.fc1/mlp.fc2NVFP4主力压缩90 层blocks.{2..46}.attn.qkv_proj、.adaln_proj.linearFP8tensor-wise scale90 层前 2 后 3 个 block、attn.out_proj、全部输入/输出投影等BF16精确保留86 层其中「前 2 层 后 3 层 输出投影保留高精度」是很讲究的经验法则这些层在原 checkpoint 中就以 F32 存储本身就是敏感性信号。完整规则可对照仓库内的配置文件基础 NVFP4/FP8 配置minimax_h3_layer_config.jsonINT4 ConvRot 配置minimax_h3_layer_config_int4_convrot.json⚠️NVFP4 文件只支持 Blackwell 架构SM ≥ 10.0/12.0即 RTX 50 系、B100/B200旧卡无回退方案。 核心技术三INT8 ConvRot 让注意力层「同体积、更快」pruned_nvfp4_convrot_int8是作者推荐的旗舰文件20GB已在 ComfyUI 实测。它在 NVFP4 剪枝版之上把 45 个attn.qkv_proj层换成了INT8 ConvRot量化ConvRot 的思路用分组 Hadamard 旋转预先旋转权重把离群值的能量「摊平」让 INT8 的狭窄动态范围装得下——量化差距大幅缩小到接近 FP8而 INT8 tensor-core 的吞吐又普遍高于 FP8同体积下计算更快。工程上有两个细节值得学习从原始 BF16 权重量化而不是从 FP8 张量转——否则会叠加双重量化误差。整条流水线是「抽取 → 单独量化 → 拼回」extract → quantize → splice而非整体重新量化45 个张量in_features均为 5376能被 256 整除--dynamic-convrot自动选定最大的兼容 4 的幂分组大小量化干净利落。另外仓库里还有一个A/B 测速对照组pruned_nvfp4_fp8把同样位置保持 FP8两者体积相同专门用于对比 ConvRot 与 FP8 的推理速度——这是「不赌质量、只比速度」的科学对照组设计。 非 Blackwell 用户的逃生舱INT4 W4A4 ConvRot实验性如果你的显卡跑不了 NVFP4还有三个fl2va 专用的 INT4 变体基于 ConvRot 论文权重激活双旋转无需重训练即可 W4A4文件体积说明minimax_h3_fl2va_int4_convrot_simple.safetensors25GB未剪枝版minimax_h3_fl2va_pruned_int4_convrot_simple.safetensors17GB剪枝版最省minimax_h3_fl2va_pruned_mixed_int4_int8_convrot_simple.safetensors20GBINT4 基础 48 层升回 INT8 保质量混合版的设计有论文依据纯 W4A4 在平滑低频区域会因 INT4 表达能力不足而掉质量FLUX 上 FID 10.07→12.32论文的解法是把约 20% 的层升回 INT8int8_ratio: 0.2本文件升回 48 层41 个mlp.fc1 4 个mlp.fc2 3 个attn.qkv_proj。⚠️ 三个 INT4 文件均用--simpleRTN 取整量化质量尚未评测只确认能端到端加载出图请谨慎使用另外 Ampere/Ada 上才有原生 INT4 MMA 加速Blackwell 上反而回退 INT8 路径无速度优势。 快速上手三步在 ComfyUI 跑起来第 1 步获取权重文件git clone https://gitcode.com/hf_mirrors/rockerBOO/minimax-h3-nvfp4-convrot第 2 步下载配套的文本编码器与 VAE从 Comfy-Org 的 MiniMax-H3 仓库获取文本编码器是 Qwen3-VL 32B体积也不小Blackwell 用户可搭配其官方nvfp4_awq版本分别放入 ComfyUI 的对应目录扩散模型 →models/diffusion_models文本编码器 →models/text_encodersVAE →models/vae第 3 步选用官方 I2V / T2V / R2V 工作流模板加载对应模式的文件首尾帧工作流选fl2va参考图工作流选ref2va生成 768p 视频。 高频问题 FAQQ1旧显卡非 Blackwell能用吗NVFP4 全系文件不行。非 Blackwell 用户只能选 INT4 / 混合 INT4-INT8 的实验性文件需 ComfyUI 编译支持comfy-kitchen的TensorCoreConvRotW4A4Layout。Q2剪枝文件能在 ComfyUI 之外用吗不建议。剪枝架构的识别依赖 ComfyUI 的形状检测在其它框架中未剪枝文件更稳妥。Q3质量到底有没有损失剪枝的 AdaLN 部分 Comfy-Org 官方报告零损失NVFP4 系列之所以被推荐是因为采用保守成熟的格式且确认可用INT4 系列质量尚无评测结论。Q4授权要注意什么本仓库继承 MiniMax H3 社区许可证文本副本见 LICENSE。注意该协议存在地域限制欧盟、英国、韩国、美国为排除区域与年度营收阈值条款商用前请仔细阅读。 总结minimax-h3-nvfp4-convrot 展示了大模型本地化的三个经典手段如何组合发力结构剪枝利用 AdaLN 只依赖时间步的特性坍缩成查找表砍掉 39% 参数、混合位宽量化NVFP4 主力 FP8 注意力 BF16 敏感层保底、旋转量化ConvRot 让 INT8 逼近 FP8 质量又更快计算。对想在消费级 Blackwell 显卡上本地生成带音效视频的创作者pruned_nvfp4_convrot_int820GB是当前最稳的选择。创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考