Apple LLM自蒸馏新论文Simple Self-Distillation：从SSD到TaoToken配置的落地实践

1. 从 Apple SSD 论文到可跑通的最小实验Apple 团队最近放出的 Simple Self-DistillationSSD论文核心结论一句话就能说清不用教师模型、不用沙盒执行反馈、不用强化学习只靠模型自己高温采样出来的原始输出做一次 SFT就能把 Qwen3-30B-Instruct 在 LiveCodeBench v6 上的 pass1 从 42.4% 拉到 55.3%。这个数字对做代码生成的人来说相当扎眼因为它意味着你不需要 GPT 级别的外部数据合成管线也不需要搭一套 Docker 判题沙盒只要有一份 prompt 集合和模型自身的推理算力就能复现出可观的增益。SSD 适合谁适合手上有 4B 到 30B 级别开源模型、想快速验证「自蒸馏到底有没有用」的开发者。它不要求你从头训一个基座也不要求你写复杂的 RL 训练循环本质上就是「高温采样 → 语法过滤 → 标准 SFT → 换一组解码参数推理」这四步。但真正动手时很多人会卡在第一步模型怎么调、Key 怎么配、Cline 或 CC Switch 里怎么把请求发出去。这篇就把这条链路补全给出一套可复制的 TaoToken 统一 Key/API 通道配置骨架让你先把一次自蒸馏推理跑通再谈规模化。我试过把 SSD 的数据合成阶段拆成「先跑通单条 prompt 的采样」和「再批量生成训练集」两段前者用 Cline 做交互验证最省事后者用脚本走 API 批量拉。下面按这个顺序展开。2. TaoToken 前置统一 Key 与通道准备TaoToken 在这里扮演的角色是「统一 API 通道」你不需要为每个模型单独维护一套 base_url 和 key而是用同一个入口去请求不同模型。对 SSD 实验来说这一点很关键因为你要对比 base 模型和 SSD 微调后模型的输出分布如果两边的接入方式不一致采样参数很容易被中间层悄悄改掉。先到官网 https://taotoken.net/?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 注册并进入控制台在 API Keys 页面生成一个 key。这个 key 后面会同时用在 Cline 的 settings.json 和脚本的 config.toml 里。注意 API 入口是 https://taotoken.net/api不带 UTM 参数配置时别把营销链接填进去。模型对话入口在 https://taotoken.net/models?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 你可以先在这里手动发一条 prompt确认通道通不通。Coding Plan 入口在 https://taotoken.net/coding-plan?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 如果你打算长期跑 Agent 式的批量采样用这个套餐比按量计费更稳。接入文档在 https://taotoken.net/doc?utm_sourcetaotoken_aicg_blog_endutm_mediumcsdnutm_campaignrewriteutm_content 里面写了 OpenAI 兼容格式的请求体结构SSD 的采样参数就是往这个结构里塞。注意SSD 论文里训练期温度 T_train 用的是 1.6评估期 T_eval 用 0.9。这个「训练高温、推理降温」的组合是 SSD 生效的关键配置时不要把两边搞成同一个值。3. 可复制配置settings.json 与 config.toml3.1 Cline 的 settings.jsonCline 是 VS Code 里的编码 Agent 插件用它来验证 SSD 采样最直观因为你能直接看到模型返回的代码块。在 Cline 的设置里选择 OpenAI Compatible 模式然后填入下面这份配置。把YOUR_TAOTOKEN_KEY换成你刚才生成的 key。{ cline.apiProvider: openai, cline.openAiBaseUrl: https://taotoken.net/api, cline.openAiApiKey: YOUR_TAOTOKEN_KEY, cline.openAiModelId: qwen3-30b-instruct, cline.openAiModelInfo: { maxTokens: 4096, contextWindow: 32768, supportsImages: false, supportsPromptCache: false }, cline.temperature: 1.6, cline.topK: 20, cline.topP: 0.8 }这里 temperature 设成 1.6 是刻意为之对应 SSD 数据合成阶段的 T_train。top_k20、top_p0.8 也是论文里给的截断组合。你可能会觉得 1.6 太高正常对话早就胡言乱语了但这正是 SSD 想要的让模型在「叉」的位置充分发散采样出多样化的解法路径哪怕其中一部分语法上不完整。3.2 脚本侧的 config.toml批量采样用 Python 脚本更合适配置文件用 TOML 写方便和训练脚本共用。下面这份 config.toml 把通道、采样参数、输出路径都拆开了。[api] base_url https://taotoken.net/api api_key YOUR_TAOTOKEN_KEY model qwen3-30b-instruct timeout 120 [sampling_train] temperature 1.6 top_k 20 top_p 0.8 max_tokens 2048 n 1 [sampling_eval] temperature 0.9 top_k 20 top_p 0.8 max_tokens 2048 n 1 [data] prompt_file prompts/competitive_programming.jsonl output_dir data/ssd_raw syntax_filter true对应的采样脚本核心逻辑如下用的是 OpenAI 兼容的 chat completions 接口import json import tomllib from openai import OpenAI with open(config.toml, rb) as f: cfg tomllib.load(f) client OpenAI( base_urlcfg[api][base_url], api_keycfg[api][api_key], ) def sample(prompt, modetrain): s cfg[fsampling_{mode}] resp client.chat.completions.create( modelcfg[api][model], messages[{role: user, content: prompt}], temperatures[temperature], top_ps[top_p], max_tokenss[max_tokens], ns[n], ) return resp.choices[0].message.content def syntax_ok(code): if not code or len(code.strip()) 20: return False try: compile(code, ssd, exec) return True except SyntaxError: return False prompts [json.loads(line) for line in open(cfg[data][prompt_file])] results [] for p in prompts: raw sample(p[question], modetrain) if not cfg[data][syntax_filter] or syntax_ok(raw): results.append({prompt: p[question], response: raw}) with open(f{cfg[data][output_dir]}/train.jsonl, w) as f: for r in results: f.write(json.dumps(r, ensure_asciiFalse) \n)注意syntax_filter只做最低限度的语法检查不执行代码、不看测试用例这和论文里「无验证」的设定一致。如果你在这里加了执行验证那就变成 STaR 或拒绝采样了不是 SSD。3.3 CC Switch 的接入CC Switch 用来在多个模型配置之间切换适合你同时对比 base 模型和 SSD 微调后模型的场景。在 CC Switch 里新增一个 providerbase_url 填https://taotoken.net/apikey 填同一个 TaoToken key模型名分别填qwen3-30b-instruct和你的微调模型名。切换时只改模型名采样参数保持不变这样对比出来的差异才干净。4. 验证请求跑通一次自蒸馏推理配置写完后先别急着批量跑。用一条竞技编程题做单次验证确认通道、参数、返回格式都对。在 Cline 里新建一个对话输入下面这条 prompt请用 Python 实现一个函数输入一个整数数组返回其中所有和为 0 的三元组要求结果不重复。只输出代码不要解释。因为 temperature 设成了 1.6你大概率会看到模型给出一个语法基本正确、但解法路径比较「野」的版本比如用了三重循环加 set 去重而不是最优的双指针。这正是 SSD 数据合成阶段想要的状态不追求单次最优追求分布覆盖。接着用脚本验证 API 通道python -c from openai import OpenAI c OpenAI(base_urlhttps://taotoken.net/api, api_keyYOUR_TAOTOKEN_KEY) r c.chat.completions.create( modelqwen3-30b-instruct, messages[{role:user,content:写一个快速排序函数}], temperature1.6, top_p0.8, max_tokens512 ) print(r.choices[0].message.content[:200]) 如果返回了代码片段说明通道通了。这时候你可以把 temperature 改成 0.9 再跑一次对比两次输出的差异高温那次分支更多、变量命名更随意低温那次更收敛。这个对比就是 SSD 论文里「锁与叉」的直观体现。成功跑通的标志有三个Cline 里能看到完整代码块、脚本返回非空内容、切换 temperature 后输出分布有明显变化。三个都满足就可以进入批量采样阶段。5. 本篇常见错排查5.1 返回 401 或 invalid api key最常见的原因是 key 复制时带了空格或者把官网链接误填进了 base_url。base_url 必须是https://taotoken.net/api结尾不要加/v1也不要带 UTM 参数。key 重新生成一次复制时注意首尾。5.2 temperature 设 1.6 后返回乱码这是预期行为不是 bug。SSD 论文里明确说T_train2.0 时 62% 的输出是乱码但训练依然有效。你要做的是在syntax_filter里过滤掉无法 compile 的样本而不是把温度降下来。如果你把温度降到 0.7采样出来的数据多样性不足SSD 的「支持集内重塑」就无从发挥。5.3 top_k 和 top_p 同时设置时行为不符合预期不同推理引擎对 top_k 和 top_p 的执行顺序不一样。vLLM 的顺序是 temperature → top_k → top_p → 采样如果你用的通道中间层顺序不同截断结果会有偏差。验证方法固定 prompt只改 top_k看返回的候选词数量是否变化。如果没变化说明中间层忽略了 top_k这时候只保留 top_p 即可。5.4 Cline 里模型名填错导致 404TaoToken 的模型名要和通道侧登记的标识一致不要自己拼qwen3-30b-instruct-v2这种不存在的名字。先在模型对话页面确认可用模型列表再填到 settings.json 里。5.5 批量采样时超时30B 模型在 temperature 1.6 下生成长序列单条请求可能超过 60 秒。把 config.toml 里的 timeout 调到 120 以上并在脚本里加一层重试。如果还是频繁超时检查是不是 max_tokens 设得太大2048 对竞技编程题通常够用。6. 把 SSD 落到你的实验管线跑通单次推理之后下一步是把采样、过滤、SFT、评估串成一条线。采样阶段用上面的 config.tomlSFT 阶段用标准交叉熵加余弦学习率衰减评估阶段把 temperature 切回 0.9。整个流程里最容易被忽略的是「训练期和评估期用不同的解码配置」这一点很多人图省事两边用同一套参数结果 SSD 的增益出不来。如果你打算长期跑这类实验建议把 API Key 和接入文档放在手边API Keys 页面用来轮换 key接入文档用来核对请求体字段。模型对话页面适合快速验证单条 prompt 的返回Coding Plan 适合批量 Agent 式采样。这套组合下来从论文到可运行实验的距离其实就剩你填 key 的那几分钟。