生成式召回实战：从负采样到物品编码的联合调优指南

1. 生成式召回到底在解决什么问题推荐系统里的召回环节过去很多年一直是多路召回打天下协同过滤一路、热度一路、标签一路、向量一路最后把各路结果合并送去粗排。这套架构能跑但问题也很明显——每一路都要单独维护索引、单独调参、单独处理冷启动工程复杂度随着业务增长呈指数级上升。更麻烦的是多路召回之间的分数不可比融合策略往往靠拍脑袋定权重离线指标涨了线上未必涨。生成式召回换了个思路把召回当成一个“生成”任务。用户的历史行为序列作为输入模型直接生成用户可能感兴趣的物品标识。这个标识不是原始item ID而是一串离散的语义token通常叫做SIDSemantic ID。模型学的是“给定用户历史下一个该看的物品的SID是什么”本质上把召回变成了序列到序列的生成问题。这个转变带来的最大好处是统一。一路模型替代多路召回索引只需要维护一套SID到物品的映射冷启动物品只要能被编码成合理的SID就能被召回不需要等它积累足够的交互数据。对于日增百万级新物品的平台来说这个特性几乎是刚需。但统一是有代价的。生成式召回的核心难点从“怎么融合多路”变成了“怎么让模型生成得准”。而生成得准不准取决于两件事物品编码的质量以及训练时负样本的构造方式。这两个问题恰好就是标题里说的“从负采样到物品编码”的主线。适合读这篇内容的人做过推荐系统召回层、对向量检索有基本概念、想了解生成式召回落地细节的工程师。如果你还在纠结多路召回怎么调权重或者正在评估要不要把召回切换到生成式方案下面的内容应该能帮你少走一些弯路。2. 物品编码SID到底该怎么设计2.1 为什么不能直接用原始item ID最直觉的做法是让模型直接生成原始item ID词表几百万softmax输出层巨大训练和推理都吃不消。而且原始ID是随机分配的物品之间的语义关系完全丢失模型很难从“用户看了A”泛化到“用户可能看B”哪怕A和B是同类商品。所以需要一套编码方案把每个物品映射成一个短序列的离散token既压缩了词表规模又保留了语义邻近性。这套编码的质量直接决定了生成式召回的天花板——如果两个语义相似的物品被编成了完全不同的SID模型再怎么训也学不到它们之间的关系。2.2 基于内容向量的层次聚类编码目前工业界比较主流的做法是层次聚类。具体流程分三步第一步用多模态内容特征标题、类目、图像、价格区间等训练一个物品内容向量。这个向量不依赖用户行为所以新物品上架当天就能拿到。第二步对全部物品向量做层次聚类。比如先聚成1000个大簇每个大簇再聚成1000个小簇这样两层下来就是百万级的区分度。每个物品得到一个路径比如“簇A-子簇B”。第三步把路径上的簇ID拼接成SID序列。假设第一层用256个簇、第二层用256个簇那一个物品的SID就是两个token每个token的取值范围是0到255。词表大小从几百万降到了512生成难度大幅降低。这里有个关键参数需要算清楚层数和每层簇数的乘积要略大于物品总数。比如800万物品可以设计成三层每层200个簇200的三次方是800万刚好覆盖。层数太多会让SID序列变长生成时错误累积层数太少则每个簇内物品太多区分度不够。2.3 编码质量的评估标准怎么判断一套SID编码好不好我一般看三个指标簇内语义一致性同一个SID下的物品人工抽查是否属于同一细分类目。如果出现“手机”和“手机壳”被编到同一个叶子簇说明聚类粒度太粗。簇间区分度不同SID之间的物品向量距离是否足够大。可以计算所有叶子簇中心两两之间的平均余弦距离低于0.3就说明区分度不够。SID序列的生成难度用一个小规模语言模型试训一下看预测下一个SID的准确率。如果准确率长期低于随机猜的几倍说明编码方案有问题要么层数太多要么簇的划分不合理。注意层次聚类不是一劳永逸的。物品池在变化新类目在涌现建议每季度重新跑一次聚类同时保证SID映射的稳定性——老物品的SID尽量不变否则已经训练好的模型需要全量重训。2.4 一个容易踩的坑SID冲突不同物品可能被编到完全相同的SID路径上尤其是长尾类目。这时候需要加一个消歧位比如在SID末尾追加一个簇内序号。但这个序号不能太大否则又回到了大词表的老路。我的经验是如果某个叶子簇内物品超过50个就应该考虑增加一层聚类而不是靠序号硬撑。3. 负采样生成式召回的训练引擎3.1 负采样为什么比正样本更重要生成式召回的损失函数通常是交叉熵模型在每个训练步都要从整个SID词表里挑出正确的那个。如果只用正样本模型会学到“所有SID都可能”这种废话。负样本的作用是告诉模型“这些SID是错的”从而把正样本的概率推高。负样本的质量直接决定了模型的判别能力。太简单的负样本比如随机采的完全不相关物品会让模型学不到细粒度区分太难的负样本比如和正样本几乎一样的物品又会让模型困惑训练不稳定。所以负采样的核心是难度控制。3.2 三种负采样策略的对比策略做法优点缺点全局随机采样从全量SID里均匀随机抽实现简单覆盖广难度太低模型学不到细节批内负采样用同一个batch里其他样本的正样本当负样本计算零成本难度适中受batch size影响大热门物品被过度惩罚难负样本挖掘用当前模型对候选池打分取高分但非正样本的难度高判别力强需要额外推理训练慢容易过拟合实际落地时我一般用批内负采样打底再叠加一定比例的难负样本。比例控制在3:1到5:1之间也就是每4到6个负样本里有一个是难负样本。这个比例需要根据线上效果微调难负样本太多会导致训练loss震荡。3.3 批内负采样的一个隐藏问题批内负采样有个容易被忽略的偏差热门物品因为出现频率高被当成负样本的次数也多模型会过度压低热门物品的分数。但热门物品恰恰是用户最可能点击的。这个偏差在离线评估时看不出来因为离线也是同样的分布但上线后会发现热门物品的召回率明显下降。解决办法是给负样本加权热门物品当负样本时权重调低。具体权重可以按物品出现频率的倒数来算再开个根号平滑一下。这个操作在PyTorch里几行代码就能实现但对线上效果的提升非常明显。3.4 负采样与SID编码的联动负采样的难度和SID编码的粒度是耦合的。如果SID编码很粗同一个叶子簇里有几百个物品那批内负采样很容易采到和正样本同簇的物品难度天然就高。反过来如果SID编码很细每个叶子簇只有几个物品那批内负采样采到的负样本可能和正样本语义差距很大难度偏低。所以调参的时候不能把编码和负采样分开看。我的做法是先固定编码方案然后调负采样比例等负采样稳定了再回头微调编码的层数和簇数。这是一个交替优化的过程一般迭代两到三轮就能找到比较好的组合。4. 从零搭建生成式召回的实操流程4.1 数据准备与特征工程先明确输入输出。输入是用户最近N条行为序列每条行为包含物品SID和停留时长、点击位置等辅助特征。输出是下一个物品的SID序列。用户行为序列的长度建议截断到50到200之间。太短捕捉不到长期兴趣太长则训练和推理都慢。我实测下来100左右是个比较平衡的点。截断时保留最近的行为但可以按时间衰减给老行为降权。辅助特征的处理有个细节停留时长要做对数平滑因为长尾分布太严重直接归一化会被极端值带偏。点击位置同理排在第一位的点击和排在第十位的点击信息量完全不同但原始值只差9需要做非线性变换。4.2 模型结构选型生成式召回的主干网络通常用Transformer的decoder结构。层数不用太深4到6层足够因为输入序列本身就不长。注意力头数8到16隐藏维度256到512这些参数根据数据量调整。输出层就是SID词表大小的softmax。如果SID是两层、每层256个簇那输出层就是两个256分类的头分别预测第一层SID和第二层SID。两个头的loss相加作为总loss。这种设计比直接预测拼接后的SID序列要稳定因为每个头的词表小梯度更集中。提示如果SID层数超过两层建议用自回归方式逐层预测而不是并行预测所有层。并行预测在层数多的时候错误累积严重自回归虽然慢一点但准确率明显更高。4.3 训练技巧与参数设置学习率用warmup加余弦退火warmup步数设总步数的5%左右。batch size在显存允许的前提下尽量大因为批内负采样需要足够的batch size才能采到有意义的负样本。我一般用1024到4096。Dropout在输入层和注意力层都加比例0.1到0.3。生成式召回容易过拟合因为SID词表相对较小模型很容易记住训练集里的SID共现模式。Dropout是最简单有效的正则化手段。评估指标用RecallK和NDCGKK取10、50、100。离线评估时要注意验证集的时间窗口必须晚于训练集否则会有时间泄漏离线指标虚高。我见过不少团队在这个点上翻车离线Recall100冲到0.6上线后实际召回率不到0.2。4.4 推理与索引构建推理阶段模型对用户历史编码后逐层生成SID。第一层生成一个簇ID第二层在该簇下生成子簇ID以此类推。最终得到一个完整的SID路径通过映射表找到对应的物品集合。如果某个SID路径下对应多个物品这在叶子簇粒度较粗时很常见需要用一个轻量级打分模型对这些物品排序取TopK返回。这个打分模型可以用双塔结构用户侧和物品侧分别编码后算内积速度快适合在线服务。索引方面SID到物品的映射表用Redis存储key是SID字符串value是物品ID列表。更新频率不高的话全量刷新即可如果物品池变化快可以增量更新但要注意SID映射的稳定性。5. 常见问题与排查技巧实录5.1 训练loss不下降或震荡严重先检查负采样比例。难负样本太多是loss震荡最常见的原因把难负样本比例降到1:10试试。如果还不行检查SID编码是否有大量冲突冲突率高会导致模型学到一个SID对应多个物品loss自然下不去。另一个可能的原因是学习率太大。生成式召回的输出层是softmax对学习率比较敏感。把学习率降一个数量级配合warmup通常能稳定下来。5.2 离线指标好但线上效果差时间泄漏是第一嫌疑人。确保验证集的时间戳严格晚于训练集并且用户行为序列的截断也按时间顺序来。第二嫌疑人是热门物品偏差检查负采样是否过度压低了热门物品的分数。第三嫌疑人是SID映射不一致离线用的映射表和线上不一致导致生成的SID找不到对应物品。5.3 新物品冷启动召回率低新物品没有用户行为只能靠内容向量编码SID。如果内容向量质量差新物品会被编到不合适的簇里自然召不回来。解决办法是加强内容特征的覆盖度尤其是图像和标题特征这两个对冷启动物品的语义表达贡献最大。另外可以给新物品一个探索期在召回结果里强制插入一定比例的新物品SID收集反馈后再调整编码。这个探索比例一般设5%到10%太高会影响用户体验太低则收集不到足够反馈。5.4 常见问题速查表问题现象可能原因排查动作loss震荡难负样本过多降低难负样本比例至1:10离线涨线上跌时间泄漏检查验证集时间戳热门物品召回下降负采样偏差给热门负样本降权新物品召回低内容向量质量差加强图像和标题特征推理速度慢SID层数过多减少层数或改用并行预测SID冲突率高聚类粒度过粗增加聚类层数或簇数5.5 一个容易被忽略的细节SID序列的合法性生成式模型可能会生成不合法的SID路径比如第一层簇ID存在但第二层子簇ID在该簇下不存在。这时候需要做合法性校验非法路径直接丢弃或回退到父簇。这个校验逻辑要在推理服务里实现不能指望模型永远生成合法路径。我在实际项目中遇到过模型生成非法SID的情况比例大概在0.5%左右。虽然不高但如果不处理这些请求会直接报错影响服务稳定性。加一个简单的校验和回退逻辑几行代码就能解决。6. 物品编码与负采样的联合调优经验6.1 先粗后细的调优节奏不要一上来就同时调编码和负采样两个变量一起动出了问题根本不知道是哪个引起的。我的节奏是第一轮固定一个中等粒度的编码方案比如两层、每层256簇只调负采样比例找到loss稳定且离线指标最好的点。第二轮固定负采样方案调编码的层数和簇数。重点看叶子簇内的物品数量分布如果超过一半的叶子簇内物品数超过100说明粒度太粗需要加层。第三轮微调负采样的难负样本比例同时观察编码是否需要微调。这一轮通常能把离线指标再提升3到5个百分点。6.2 监控指标的设计除了常规的loss和Recall建议加两个监控指标SID预测准确率每一层SID的预测准确率分别统计。如果第一层准确率很高但第二层很低说明第一层聚类合理但第二层粒度过细。负样本难度分布统计负样本与正样本的向量距离分布。如果大部分负样本距离都很远说明负采样太简单需要增加难负样本。这两个指标在训练过程中实时打印能帮你快速定位问题。6.3 线上A/B实验的注意事项生成式召回上线一定要做A/B实验而且实验周期不能太短。因为生成式召回的收益往往体现在长尾物品的召回上而长尾物品的反馈稀疏需要更长时间才能积累到统计显著。实验组和对照组的流量要随机分配但要注意用户维度的一致性——同一个用户不能同时出现在实验组和对照组否则行为序列会互相干扰。按用户ID哈希分流是最稳妥的做法。注意A/B实验期间不要同时调整SID编码方案否则实验结论无法归因。编码方案的变更应该作为独立的实验变量单独评估。7. 生成式召回的边界与适用场景7.1 什么情况下不适合用生成式召回物品池很小比如少于10万的时候生成式召回的优势不明显传统多路召回加向量检索足够用而且工程复杂度低得多。物品更新极快且内容特征稀疏的场景也不适合因为SID编码质量上不去生成式召回的召回率会很难看。另外如果业务对召回的可解释性要求很高比如需要明确告诉用户“因为你看了A所以推荐B”生成式召回的黑盒特性会比较麻烦。虽然可以通过注意力权重做一定程度的解释但不如多路召回直观。7.2 与向量检索召回的配合生成式召回和向量检索召回不是互斥的可以互补。生成式召回擅长捕捉序列化的兴趣转移向量检索擅长捕捉静态的语义相似。实际落地时我一般把生成式召回作为主路向量检索作为补充路两路结果合并后去重。合并时的分数融合可以用简单的加权权重通过线上实验调。也可以训练一个浅层模型做融合输入是两路的分数和物品特征输出是最终排序分。后者效果更好但工程复杂度更高看团队资源决定。7.3 后续扩展方向SID编码可以引入更多模态信息比如视频帧、音频特征让编码的语义表达更丰富。负采样可以结合强化学习让模型自己学习采什么样的负样本最有利于提升召回率。推理阶段可以引入约束解码保证生成的SID路径一定合法减少后处理逻辑。这些方向我都在小规模实验里试过效果有正有负但整体趋势是生成式召回的天花板还远没到。随着物品编码质量和训练效率的提升它在召回层的占比会越来越高。我个人在实际操作中的体会是生成式召回最难的不是模型结构而是数据管道的搭建和编码方案的迭代。模型结构可以抄但编码方案必须根据自己业务的物品分布来定制。我见过直接套用开源编码方案的团队上线后召回率还不如原来的多路召回。花时间理解自己业务的物品语义结构比调模型参数重要得多。