【免费下载链接】Model-OptimizerA unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.项目地址https://gitcode.com/GitHub_Trending/te/Model-Optimizer点击查看免费下载本文以 NVIDIA Model Optimizer 仓库中的.agents/README.md为骨架系统讲解该仓库如何将 PTQ 量化、蒸馏、部署评估等 AI Agent 技能SKILL.md通过.agents/这一兼容层统一暴露给 Claude Code、Codex 以及仓库内嵌 Agent并深度结合仓库源码、插件清单与脚本实现。读完本文你将掌握.agents/的目录布局、各 Agent 发现技能的先后顺序与底层机制、技能与子代理的归属编辑规则、远程集群配置clusters.yaml的查找顺序与完整字段以及上游技能同步脚本的固定 SHA 工作流可直接用于理解或在本地搭建类似的 Agent 技能分发体系。为什么需要一层统一的 Agent 兼容层Model Optimizer 不仅是一个覆盖量化quantization、蒸馏distillation、剪枝pruning、NAS、投机解码speculative decoding等技术的模型优化库还在仓库中内置了一套可安装的 AI Agent 技能集README.md 的 AI Agents 一节说明了安装方式。这些技能以SKILL.md的规范形式组织覆盖 PTQ 量化、QAT、部署、评估、监控、调试、发布等完整工作流。但不同 Agent 工具的自动发现机制各不相同Claude Code 只会在.claude/skills/目录下自动发现技能Codex 的项目角色custom roles需要放在.codex/agents/下插件plugin则可以直接从任意路径加载技能树。如果每个目录都保存一份技能副本维护时就会面临改一处、漏三处的同步灾难。因此仓库引入.agents/作为规范源canonical source的兼容枢纽真实内容全部收拢在plugins/modelopt/下的单一技能树.agents/、.claude/、.codex/等目录只通过相对符号链接暴露入口绝不复制内容。正如.agents/README.md反复强调的原则每个 Agent 通过自身支持的机制指向.agents/——never a copy。.agents/目录布局.agents/README.md给出的标准布局如下文字块按原文整理.agents/ ├── skills → ../plugins/modelopt/skills ├── plugins/ │ └── marketplace.json # Codex marketplace ├── scripts/ # shared helper scripts (sync-upstream-skills.sh, …) └── clusters.yaml.example # remote-cluster config template .codex/ └── agents/ # Codex project role definitions plugins/modelopt/ ├── .claude-plugin/ ├── .codex-plugin/ ├── agents/ # Claude Code subagent definitions └── skills/ # canonical SKILL.md files ├── common/ # shared skill support files └── skill-name/SKILL.md对照当前仓库实际内容逐一印证.agents/skills/按文档说明是指向plugins/modelopt/skills的相对符号链接供仓库内嵌 Agentrepository agents使用.agents/plugins/marketplace.jsonCodex 插件市场清单声明插件名modelopt、显示名 NVIDIA Model Optimizer插件源为本地路径./plugins/modelopt安装策略AVAILABLE、认证方式ON_INSTALL、分类Productivity.agents/scripts/sync-upstream-skills.sh共享辅助脚本用于从上游重新 vendored 两个逐字技能.agents/clusters.yaml.example远程集群配置模板.codex/agents/Codex 项目角色定义目录.claude/agents/通过相对符号链接暴露的 Claude Code 子代理入口真实定义在plugins/modelopt/agents/。plugins/modelopt/规范的技能树与子代理整个兼容层的唯一真实内容源是.claude-plugin/对应的插件技能树plugins/modelopt/它同时携带.claude-plugin/、.codex-plugin/两个插件外壳目录说明同一套技能既被打包为 Claude Code 插件也可作为 Codex 插件安装。技能树的组织方式plugins/modelopt/skills/下遵循两种目录约定common/存放所有技能共享的支持文件。从仓库列表可见common/中包含环境搭建environment-setup.md、远程执行remote-execution.md、remote_exec.sh、SLURM 配置slurm-setup.md、凭证credentials.md、工作区管理workspace-management.md以及入口SKILL.mdskill-name/SKILL.md每个技能一个目录以SKILL.md作为规范入口frontmatter 中的name与description用于 Agent 路由判断。从仓库实际目录可以确认当前共有 14 个技能均以SKILL.md为入口ptq后训练量化、qad量化感知蒸馏、quant-recipe-search量化配方检索、deployment、evaluation、benchmark-model-kernels、speculative-decoding、compare-results、day0-release、debug、monitor、release-cherry-pick、launching-evals、accessing-mlflow。其中部分技能还自带scripts/如deployment/scripts/deploy.sh、day0-release/scripts/gate_ptq.py等与tests/如benchmark-model-kernels/tests/test_benchmark_model.py与仓库tests/下的单元测试体系形成呼应。以 ptq 技能 为例其 frontmatter 明确了触发场景quantize a model、run PTQ、NVFP4 quantization、FP8 quantization 等正文给出五步工作流环境准备依赖common技能的environment-setup.md→ 查examples/hf_ptq/README.md支持矩阵 → 按 GPU 选量化格式Blackwell 用 nvfp4Hopper 用 fp8/int4_awq→ 运行hf_ptq.py→ 校验 checkpoint。这说明.agents/兼容层背后是有完整业务技能的而非空壳目录。Claude Code 子代理定义plugins/modelopt/agents/与.claude/agents/中一致地存在 6 个模型优化专用子代理subagent定义modelopt-model-quantizer.md量化modelopt-model-quantize-recipe-searcher.md量化配方检索modelopt-model-deployer.md部署modelopt-model-evaluator.md评估modelopt-model-performance-benchmarker.md性能基准modelopt-model-downloader.md模型下载这些子代理通过插件向 Claude Code 暴露同时.claude/agents/*.md的相对符号链接让仓库内用户也能直接使用。每个 Agent 如何发现这些内容.agents/README.md用一张查找机制对照完整回答了同一套技能如何被不同 Agent 找到这个核心问题消费方入口位置机制说明Claude Code.claude/skills/仅自动发现该目录下的技能目录内为指向.agents/skills/的相对符号链接仓库内嵌 Agent.agents/skills指向插件技能树的相对符号链接Claude Code / Codex 插件plugins/modelopt/skills插件直接加载规范技能树Claude Code 子代理plugins/modelopt/agents/通过插件加载.claude/agents/*.md符号链接暴露给仓库用户Codex 项目角色.codex/agents/Codex 直接发现注意 Codex 插件当前无法安装自定义角色关键结论有三点单一事实源所有入口最终都指向plugins/modelopt/skills/没有任何副本改动只需发生在规范树上Claude Code 的路径限制因其只扫描.claude/skills/所以必须在该处布置符号链接这是整个兼容层存在的前提Codex 的能力边界插件体系不能注入自定义角色因此 Codex 侧的角色必须走.codex/agents/目录。编辑与维护规则技能归属的唯一入口为了保证多入口一致.agents/README.md明确了严格的编辑规则仓库维护者应遵守技能修改永远发生在plugins/modelopt/skills/这是唯一可编辑的技能源common/下的共享支持文件同样只能在此维护Claude Code 子代理归属plugins/modelopt/agents/而不是.claude/agents/后者只是符号链接Codex 自定义角色归属.codex/agents/逐字 vendored 技能不可手改launching-evals与accessing-mlflow由.agents/scripts/sync-upstream-skills.sh统一管理本地手改会在下次同步时被覆盖这是预期行为新增技能放入plugins/modelopt/skills/skill-name/SKILL.md共享支持文件放入plugins/modelopt/skills/common/。这些规则与 AGENTS.md 中的约定互相印证仓库级 Agent 指令指向 Agent skills live underplugins/modelopt/skills/并明确.agents/skills与.claude/skills是通过相对符号链接暴露该技能树。项目级 cluster 配置clusters.yaml的查找顺序与字段.agents/还承载了远程执行类技能的集群配置。远程执行技能remote-execution skills见common/remote-execution.md按如下三级顺序查找clusters.yaml~/.config/modelopt/clusters.yaml—— 用户级配置推荐位置repo-root/.agents/clusters.yaml—— 项目级配置规范位置可提交进仓库repo-root/.claude/clusters.yaml—— 项目级配置向后兼容位置。[.agents/clusters.yaml.example](https://link.gitcode.com/i/d276509aa713f6cbee7af61bacbf5cdd)提供了完整 schema。以 GPU 工作站或 SLURM 登录节点为例clusters: # GPU workstation or SLURM login node my-cluster: login_node: cluster-login.example.com user: myusername ssh_key: ~/.ssh/id_rsa # ssh_proxy: socat - PROXY:localhost:%h:%p,proxyport3128 # optional workspace: /path/to/remote/workdir gpu_type: H100 # used for quantization format recommendation # slurm: # default_account: my_account # default_partition: batch_short default_cluster: my-cluster各字段的实际作用login_node远程登录节点地址GPU 工作站或 SLURM 登录节点user/ssh_keySSH 登录身份与私钥路径ssh_proxy可选SSH 代理命令用于需要跳板的环境workspace远程工作目录gpu_typeGPU 类型用于量化格式推荐——例如按 BlackwellB100/B200/GB200选 nvfp4、按 HopperH100/H200选 fp8 或 int4_awq与plugins/modelopt/skills/ptq/SKILL.md第 3 步的选型逻辑一致slurm可选默认账户与分区供 SLURM 任务调度使用default_cluster默认集群名供技能在未显式指定时回退。上游技能同步机制sync-upstream-skills.sh.agents/scripts/sync-upstream-skills.sh承担逐字技能再 vendored任务从上游 NVIDIA-NeMo/Evaluator 仓库按固定 SHA拉取技能固定 SHA 默认值为8fa16b237d11e213ea665d5bad6b44d393762317脚本头部DEFAULT_SHA可通过UPSTREAM_SHAsha环境变量临时提升上游技能路径为packages/nemo-evaluator-launcher/.claude/skills目标落点.agents/skills经兼容符号链接同时写穿到plugins/modelopt/skills/管理范围仅限逐字 vendored 的两个技能launching-evals与accessing-mlflow脚本会用 awk 向每个SKILL.md的 frontmatter 注入 provenance 行license: Apache-2.0、上游 commit、重新同步命令且该注入是幂等的需要gh、base64、awk并从仓库根目录运行。需要特别注意的是evaluation技能虽然源自上游 nel-assistant但属于修改后的 fork不在该脚本管理范围内上游有更新时需手动合并。这一设计把逐字照搬与本地定制两类技能清晰区分开避免了脚本覆盖定制内容。仓库中配套的 Agent 设施围绕.agents/兼容层仓库还提供了若干配套约定可作为理解整体设计的补充AGENTS.md仓库级 Agent 指令仓库根目录的CLAUDE.md是指向它的符号链接因此对 Codex 与 Claude Code 同时生效.agents/TOOLING.md面向维护者的工具说明定义了本地覆盖规则——Claude Code 的CLAUDE.local.md是追加式在CLAUDE.md之后读取而 Codex 的AGENTS.override.md是替换式同目录下会覆盖AGENTS.md需自行复述共享指令.agents/review-guidelines/technical-blog.md技术博客/公告评审准则规定对docs/source/announcements/的评审要点事实依据、引用完整性、技术精度、图片出处、公开发布合规性与读者清晰度安装方式README.md 的 AI Agents 一节给出了将本仓库注册为插件市场并安装modelopt插件的命令Claude Code 与 Codex 各一条plugin marketplace add命令将市场指向本仓库的 git 地址即可Codex 安装后需打开/plugins选择modelopt市场并安装。结语Model Optimizer 的.agents/兼容层用一份规范技能树 多处相对符号链接 明确的查找顺序解决了多 Agent 工具的发现机制差异Claude Code 走.claude/skills/符号链接、仓库 Agent 走.agents/skills、插件直接加载plugins/modelopt/skills、Codex 角色走.codex/agents/同时用clusters.yaml三级查找和固定 SHA 的上游同步脚本把技能维护与远程执行配置两条运维链路收拢到单一位置。对于任何希望在代码仓库中内置可分发、可复用 AI Agent 技能的项目这一目录设计都是值得参考的工程范式。赞分享【免费下载链接】Model-OptimizerA unified library of SOTA model optimization techniques like quantization, distillation, pruning, neural architecture search, speculative decoding, etc. It compresses deep learning models for downstream deployment frameworks like TensorRT-LLM, TensorRT, vLLM, etc. to optimize inference speed.项目地址https://gitcode.com/GitHub_Trending/te/Model-Optimizer点击查看免费下载相关推荐Model-Optimizer Agent 工具链配置指南共享指令、可安装 Skills 与本地覆盖机制Model Optimizer Agent 工具链配置指南共享指令、可安装 Skills 与本地覆盖机制 Model Optimizer 不仅是一个面向 LLUFO 框架中的 Agent Blackboard全 Agent 共享记忆的设计与实现深度解析UFO 框架中的 Agent Blackboard全 Agent 共享记忆的设计与实现深度解析 UFOUI Focused Agent框架通过 Black人工智能AI Agent自主智能体GUI 自动化Agent 编排多智能体RAGCrewAI 多 Agent Crew 共享 Hindsight 记忆共享 Bank 与按 Agent 隔离的作用域设计实战指南CrewAI 多 Agent Crew 共享 Hindsight 记忆共享 Bank 与按 Agent 隔离的作用域设计实战指南 本篇技术指南聚焦于一个具体的人工智能AI AgentAgent 记忆MCP 服务创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
相关推荐
Linux死机排查实战：分层定位、SysRq救援与kdump崩溃分析
简介：这是一份面向Linux运维工程师与系统管理员的故障排查参考资料，聚焦系统死机或崩溃后如何有效采集与分析现场信息，帮助判断问题源于硬件故障还是应用程序缺陷。资源以doc文档形式交付，压缩包内共1个文件，体积约47K… · 2026/9/25 23:46:05
Linux死机别急着重启：SysRq与kdump现场取证指南
简介：这是一份面向Linux运维工程师与系统管理员的故障排查参考资料，聚焦系统死机或崩溃后如何有效采集与分析现场信息，帮助判断问题源于硬件故障还是应用程序缺陷。资源以doc文档形式交付，压缩包内共1个文件，体积约47K… · 2026/9/25 23:45:52
Linux死机处理全指南：从分类、取证到恢复的实战流程
简介：这是一份面向Linux运维工程师与系统管理员的故障排查参考资料，聚焦系统死机或崩溃后如何有效采集与分析现场信息，帮助判断问题源于硬件故障还是应用程序缺陷。文档围绕Core dump、Diskdump、Netdump三种机制展开，分别覆盖应用… · 2026/9/25 23:45:52
用Harness构建投研智能体：做交易领域的Claude Code
1. 从投研痛点出发：为什么交易场景需要智能体工程先聊一个很多量化团队都绕不开的困境：投研流程看似自动化程度很高，但真正跑起来全是手工作业。数据抓取、研报摘要、策略回测、因子筛选、风险归因……每一步都有现成的工具，但步骤… · 2026/9/26 0:22:40
JSP+MySQL教学成果申报系统搭建指南：从环境配置到部署避坑
简介：jsp823科研项目教学成果申报管理系统是一套基于MySQL的JSP课程设计资源包，面向高校科研管理人员、教师及学生，覆盖项目申报、审核管理、动态查询与教学成果展示等核心环节，有助于提升科研教学管理效率。压缩包共464个文件&am… · 2026/9/26 0:22:33
高并发零售系统骨架：Java三端协同与分布式事务实践
简介：这是一套面向Java全栈开发者与移动应用学习者的成人健康电商零售系统源码，涵盖安卓、iOS双端原生APP及微信小程序三端完整实现，解决两性健康产品线上销售场景中的多端协同、分类展示、轻量下单与订单管理等核心需求。资源包共2021个文件… · 2026/9/26 0:22:33
昇腾Atlas 300V 24G推理卡部署YOLO实战：从环境搭建到性能调优
兄弟们，最近在搞边缘AI推理这块的朋友，肯定绕不开“atlas”这个词。尤其是昇腾的Atlas 300V/300I系列推理卡，在安防、工业质检、智慧交通场景里出镜率极高。我后台也收到不少私信，问“atlas 300V 24G是运算加速卡吗”、“到底怎么… · 2026/9/26 0:22:33
Atlas 300V跑YOLO全指南：从环境搭建到性能调优
最近在技术群里被问得最多的两个问题，一个是“Atlas 300V 24G是不是运算加速卡”，另一个是“能不能在Atlas上部署YOLO”。会这么问的朋友，多半是手里已经有了一块华为Atlas推理卡，或者正在做AI服务器选型，想把已经训练… · 2026/9/26 0:22:33
Windows上用Podman替代Docker Desktop的实战指南
1. 为什么在 Windows 上认真考虑 Podman 而不是 Docker Desktop？ Podman 这个词最近半年在 Windows 开发者圈子里出现频率明显变高，尤其当你搜“windows docker 替代方案”“docker desktop 替代”“windows 容器无后台服务”时，几乎每页结果… · 2026/9/26 0:22:19
数据库课后习题答案别硬背：当测试用例集刷，效率翻倍
简介：万常选版《数据库原理与设计》课后习题答案资源，覆盖第2至6章及第9章，适合正在学习关系模型、数据库建模、关系数据理论与模式求精的本科生、自学者作为复习与自测材料。压缩包共7个文件，含3个doc参考答案、2个sql示例脚本、… · 2026/9/26 0:00:21
OpenClaw 替代品？Hermes Agent 踩坑实录：macOS 飞书接入 TaoToken 配置
/* MD / 富文本中的 .toc（含博客园搬家等嵌套结构）；.toc-box 在侧栏，不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p（:empty 仍占 20px），一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views … · 2026/9/26 0:00:40
向下兼容与向上兼容：接口设计中的兼容性策略与工程实践
一次版本升级事故，是很多团队绕不过去的坎。线上环境里，服务端明明已经上线了新版接口，老的移动端还在照着旧文档传参数。请求一到网关，校验直接拒绝，用户操作失败，客服群炸了锅，开发群里开始互… · 2026/9/26 0:00:46