为什么 24.8GB 是 LTX-2.5 的隐形内存门槛ltx-2.5-mlx-q8 的 int8 编码器破局实录跑过本地视频生成模型的同学可能都遇到过这种情况显存统一内存明明还有一截没满程序却直接报内存不足。ltx-2.5-mlx-q8 这个项目就是冲着这个痛点来的——它是 LTX-2.5 文生视频text-to-video模型的完整 MLX 组件树与官方基础版唯一的区别是把 Gemma-4 文本编码器量化成了int813.6 GB 对比 bf16 的 23.8 GB从而把整机峰值内存从 24.8 GB 一路拉到 14.6 GB 左右。这篇实录就来拆解那个 24.8 GB 的隐形门槛到底是怎么形成的int8 编码器又如何把它撬开的。LTX-2.5 的内存由谁决定先看组件结构LTX-2.5 是一个音视频生成模型见 config.json 中的model_type: AudioVideo48 层 Transformer一次完整推理涉及多个大部件部件文件大小作用文本编码器int8 版gemma4-12b-ltx-v1/≈13.6 GB把提示词编码成视频生成的条件信号Connector 模块connector.safetensors≈6.3 GB文本条件到 Transformer 的衔接空间上采样器spatial_upscaler_x2_v1_1.safetensors≈0.93 GB分辨率 2 倍上采样VAE 扩散解码器vae_diffusion_decoder.safetensors≈0.78 GB潜空间解码为画面VAE 解码器vae_decoder.safetensors≈0.76 GB标准解码器Pruna 精简解码器vae_decoder_pruna.safetensors≈0.64 GB可选解码约 2 倍速时间上采样器temporal_upscaler_x2_v1_0.safetensors≈0.24 GB时长 2 倍上采样音频 VAE / 声码器audio_vae.safetensors、vocoder.safetensors≈0.35 GB生成同步音频时长预测头duration_head.safetensors≈4 MB预估片段时长模型架构细节如AVTransformer3DModel、音视频交叉注意力、RectifiedFlow 调度器定义在 embedded_config.json 中。需要特别说明⚠️本仓库不包含量化版 DiT扩散 Transformer 主干。DiT 是独立的量化轴另有ltx-2.5-mlx-ditq8项目int8 编码器可以与 bf16 或 int8 的 DiT 自由组合。24.8 GB 隐形门槛一个与分辨率无关的内存地板在开启 DiT 流式加载streaming之后LTX-2.5 的峰值内存本该由解码阶段决定——而解码开销理应随分辨率增长。但实测结果反常生成256×256×9的小片段峰值 ≈24.8 GB生成512×288×121的大片段峰值依然在 0.01 GB 之内贴着 24.8 GB如果是解码瓶颈峰值必然随几何尺寸分辨率×帧数放大而它纹丝不动说明峰值被一个与画面无关的固定开销钉死了——正是那块 bf16 文本编码器23.8 GB。加上少量激活开销24.8 GB 就成了地板价。这个数字的残酷之处在于它同时超出了 24 GB 和 32 GB 机器的安全预算。24 GB 的 Mac 直接被拒之门外32 GB 的机器也只能贴着悬崖跳舞。int8 编码器配方group 64 量化但故意保留一个模块破局方案就是把这块地板换薄。查看 gemma4-12b-ltx-v1/config.json 的量化配置quantization: { group_size: 64, bits: 8, mode: affine }关键细节int8 group 64 affine 仿射量化编码器从 23.8 GB 压到13.6 GB瘦身超过一半embed_tokens词嵌入层被刻意排除在量化之外保留 bf16。原因很微妙第 00 号隐状态本身就是embedTokens(ids) · embedScale它既是 49 个状态中 connector 直接消费的一个也是全部 48 层网络的输入。量化它会单独扰动这个状态——量化组正是用state 00 1.000000精确相等作为它没被量化的指纹来验证的。这是典型的量化不是无脑全量案例省内存和省内存的代价要逐层权衡。破局效果峰值降到 14.6 GB但两个杠杆必须同时拉换上 int8 编码器后两种规格片段的整机峰值分别降到14.6 GB / 15.4 GB——24 GB 机器正式入场。但这里有一个容易被忽略的结论官方文档特别强调两个杠杆单独使用都无效⚠️组合结果只用 int8 编码器DiT 常驻峰值由 DiT 主导编码器瘦身完全不可见只做 DiT 流式加载编码器仍 bf1624.8 GB 地板原封不动int8 编码器 DiT 流式加载✅ 峰值 14.6 GB / 15.4 GB也就是说常驻内存时瓶颈是 DiT编码器怎么瘦都没用流式加载后瓶颈才轮到位地板才暴露出来。优化内存这件事永远是木桶最短的那块板在说话。量化后画质掉了多少看对指标别看整段余弦对文本编码器这种条件信号发生器官方给出的保真度指标是connector 输出在有效 token 位置上的余弦相似度int8 版本0.999820bf16 的理论下限0.999879差距几乎可以忽略。这里还埋了一个避坑点不要拿整段数组的余弦相似度来评判文本编码器量化。因为短提示词时1024 个位置中绝大多数是各版本完全相同的learned registers会把真实差异稀释 330 倍——一次故意注入错误的对照组整段余弦高达 0.994316但有效 token 上只有 0.829329。用错指标可能把被污染的编码器当成合格品。️另一个诚实的声明输出视频确实变了均值/标准差从 −0.1274/0.4222 变为 −0.1421/0.4253。编码器一变条件信号就变生成轨迹自然不同——它是另一段同样有效的视频而不是 bf16 的近似拷贝。团队在 704×512 与 512×288 两档几何下做了盲测 4 组 A/B 对比含人脸特写判定可接受也因此用 SSIM/PSNR 逐像素对比两个版本是范畴错误。可选加码Pruna 精简 VAE 解码器再省 6.6 GB仓库还带了一份 vae_decoder_pruna.safetensors——PrunaAI 的剪枝蒸馏版视频 VAE 解码器690,025,680 字节SHA-256891ec5f0680acea9acbdd651c9756a26c5d3298480224356cf5ea86071846f79可校验完整性。它的收益在解码是瓶颈的高分辨率场景最明显解码速度约2 倍单片段墙钟时间 −15.9%在 704×512×121 这种解码受限的规格下峰值从21.1 GB 压到 14.5 GB把一次超预算触发换页的运行变成预算内的运行Swift 端可通过LTX2Configuration.vaeDecoderPath或环境变量LTX_VAE_DECODERpruna选用在 low tierscompact24、balanced32下已是默认解码器。由于 int8 编码器是出厂低配档的默认选择这个文件才同时托管在本仓库保证组件树可以独立解析。上手路径24 GB 机器跑 LTX-2.5 的正确姿势获取仓库只读使用git clone https://gitcode.com/hf_mirrors/mlx-community/ltx-2.5-mlx-q8用 int8 编码器 DiT 流式加载的组合前面说过缺一不可低内存档位如 compact24下Pruna 解码器默认启用无需额外配置若还想再压 DiT可单独搭配ltx-2.5-mlx-ditq8的 int8 DiT——两条轴互相独立随意组合。许可提醒本项目基于 Lightricks LTX-2.5 衍化采用 LTX-2 Community License见 LICENSE.md 及可接受使用政策快照 ltx-acceptable-use-policy-snapshot-2026-08-12.pdf包含附件 A 的收入门槛与竞业条款分发时需原样传递这些条款。商用前请务必细读。小结LTX-2.5 的 24.8 GB 内存门槛本质是bf16 文本编码器这块与分辨率无关的固定地板——它让 24 GB/32 GB 机器在流式加载后依然无路可走。ltx-2.5-mlx-q8 的答案是int8group 64、affine量化编码器并精确保护embed_tokens配合 DiT 流式加载把峰值压到 14.6 GB且保真度贴近 bf16 理论下限。对想在 Mac 上本地跑音视频生成的朋友这大概是目前最完整的低内存破局参考样本。创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考
企业数字化 ERP 产品动态
相关推荐
gh-ost 与 pt-online-schema-change 选型:在线改表的工程决策 个人主页:> for_ever_love__ <(欢迎各位大佬莅临😊) 其他栏目: > 大模型开发从0到1 < 其他栏目: > iOS项目总结大全 < 其他栏目: > 我想学python了 < 其他栏目: > iOS UI < 文章目录gh-ost 与 pt-o… · 2026/11/5 19:04:35
Folia 全屏歌词动画播放器从下载到跑通第一首歌的完整安装指南 Folia 全屏歌词动画播放器从下载到跑通第一首歌的完整安装指南 【免费下载链接】folia-major 专注于绚丽的歌词动画效果的本地音乐/navidrome/第三方多平台在线音乐播放器 项目地址: https://gitcode.com/GitHub_Trending/fo/folia-major
Folia 是一款把歌词做成全屏动画… · 2026/11/2 22:34:59
Expo MCP Server 服务说明文档 1. 服务概述一句话简介:提供Expo开发服务器管理的MCP服务器,支持React Native应用的文件操作、服务器监控和日志管理服务名称:Expo MCP Server版本号:最新版本开发者/提供方:mattlemmone协议类型:MCP (Mode… · 2026/11/16 11:58:28
赤峰电工证办理流程含金量高吗?学历不高也能报上名 赤峰电工证办理流程含金量高吗?学历不高也能报上名 你是不是也这样想: 学历不高怕报不上名 ?别急,我来告诉你赤峰电工证办理流程到底怎么样,含金量到底高不高,还有你关心的报名条件、考试内容、电子证书怎么查,全在这里,一点不藏。… · 2026/11/20 2:52:03
广东电工证哪里拿千万别踩坑,应届生怎么选培训机构 广东电工证哪里拿千万别踩坑,应届生怎么选培训机构 你正愁找不到电工证,担心拿不到证就找不到工作,对吧?别急,先搞清楚【广东电工证哪里拿】才是关键, 千万别踩坑 ,选错了培训机构,不仅浪费钱,还可能耽误你入职的机会。 广东电工证报考人群现状… · 2026/11/20 2:52:03
海城电工证培训机构在哪考?别被中介坑了,这几点必须知道 海城电工证培训机构在哪考?别被中介坑了,这几点必须知道 不知道去哪报名怕被中介坑?你不是一个人。很多想考电工证的朋友,第一步就卡在“ 在哪考 ”这个问题上,结果被各种培训机构、中介套路,花冤枉钱还拿不到证。别急, 海城电工证培训机构… · 2026/11/20 2:52:03
几种电工证可以通用 全流程办理指南 上岗必备实操经验 几种电工证可以通用 全流程办理指南 上岗必备实操经验 实操考试心里没底怕挂科?别担心,这是大多数初次报考特种作业证的学员都会遇到的问题。尤其是像低压电工、高压电工这类 上岗必备… · 2026/11/20 2:52:03
岳阳湘阴考电工证官方回应实操考试心里没底怕挂科怎么办 岳阳湘阴考电工证官方回应实操考试心里没底怕挂科怎么办 实操考试心里没底怕挂科,岳阳湘阴考电工证的小伙伴,别急,官方回应来了,咱们一步步来,别让怕挂科的情绪毁了你的机会。 案例背景:一个普通电工的实操考试… · 2026/11/20 2:50:55
长春初级电工证怎么考?通过率揭秘全在这里 长春初级电工证怎么考?通过率揭秘全在这里 之前考的证在外省能不能转过来?这几乎是每个想从事电工工作的人都会问的问题。特别是那些在外地打拼多年、手里握着一张“外地电工证”的人,到了长春想继续干这一行,第一反应就是“我的证能用吗?”。今天我们就… · 2026/11/19 16:06:02
国内电工证报考条件与考试时间 低压电工证怎么考?学历不高也能报名,官方报名入口全在这 你是不是经常听说“电工证是入行门槛”,但又担心自己学历不够、经验不足,根本报不了名?别急,今天就带你从零了解【国内电工证】的报考流程、考试内容,还有怎么在 官方报名入口… · 2026/11/19 17:40:37
电工作业时如何断电?电子证书到底能不能全国通用? 电工作业时如何断电?电子证书到底能不能全国通用? 实操考试心里没底怕挂科,特别是电工作业时如何断电这一操作,不仅关系到你能不能拿到证书,更关系到以后能不能顺利上岗。很多人觉得这不过就是“断个电”,但其实这里面的门道可不少,稍有不慎就可能出错… · 2026/11/19 17:50:07
建设厅特种工周三报名怎么弄?上岗必备别被中介坑 建设厅特种工周三报名怎么弄?上岗必备别被中介坑 不知道去哪报名怕被中介坑?作为商丘某高校工程类应届毕业生,小李最近就遇到了这样的困扰。他刚毕业,正在找实习岗位,发现很多工地都要求持有特种作业操作证,尤其是【建设厅特种工周三报名】这个时间点,… · 2026/11/20 0:00:54
中专考的中级电工证内部消息全攻略 中专考的中级电工证内部消息全攻略 你中专毕业,手头有中级电工证,但不知道从哪开始报名,怕被中介坑?别急,这篇文章就是为你量身定制的“内部消息”,帮你避开报名陷阱,稳稳拿到证书。… · 2026/11/20 0:00:54
外省电工证能转过来吗?电子证书怎么查电工作业教学效果评价 外省电工证能转过来吗?电子证书怎么查电工作业教学效果评价 之前考的证在外省能不能转过来?这几乎是所有在外地打拼的电工从业者最关心的问题。特别是像洛阳这样的工业城市,很多电工证是在外地考的,现在想在当地用,流程是不是很复杂?其实,只要搞清楚… · 2026/11/20 0:00:54
双极步进电机控制实战:DRV8818PWPR与PIC18F86K22驱动调试 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/19 6:33:25
STM32F207ZG + DRV8818PWPR 步进电机驱动实战解析 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/19 6:33:32
DRV8818PWPR+dsPIC30F4013工业级双极步进电机控制方案 /* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/11/19 0:22:38