Bid2X：用基础模型视角破解广告竞价环境建模难题

做竞价广告的算法同学应该都遇到过这种时刻账户的出价策略没动预算、定向、素材也没动但某一天开始实际成交成本突然走高想加大投放却发现跑量怎么都追不回来。这种“环境变了”的失控感正是KDD 2025上的Bid2X想要正面回答的问题。论文标题写得很直白基于基础模型视角的广告竞价环境建模。一句话里有两个重点竞价环境建模是任务基础模型视角是解题角度。前者在计算广告里是个老问题后者是这个方向以前少有人认真尝试的新变量。很多同学一听到“基础模型”就以为是什么神奇的大模型炼丹然后把论文放到一边。我建议先别急着划走。这篇文章值得关注恰恰是因为它把广告竞价这个工业场景和基础模型能力做了一个务实的结合不是用大模型去生成文案而是用大模型的表征、先验和条件生成能力去刻画一个随时在变的竞争环境。下面我会从问题本身说起再拆Bid2X的建模思路、落地工作流、评估方法和容易踩的坑最后聊聊我自己的实战体会。不管你是做DSP出价策略的还是研究竞价博弈、智能拍卖机制的这篇解读应该都能给你一些启发。1. 先厘清竞价“环境”是什么为什么它决定了你的出价能不能赢1.1 一次实时竞价里环境由哪些成分组成先回到最基础的场景。以程序化广告为例一次广告展示机会到达时需求方平台DSP需要在几十毫秒内决定“出多少钱”。这个过程的对手不是系统而是其他参与这场拍卖的买家。每位买家都有自己的估值和出价策略大家在同一时间对同一个用户、同一个媒体位置、同一个上下文窗口里争抢流量。你愿意出的钱、别人愿意出的钱、以及市场整体愿意出的钱共同构成了这场拍卖的“环境”。从工程角度看这个环境可以被拆成三个层面。第一层是流量上下文也就是用户、媒体、时段、地理位置、设备信息这些描述“这次机会长什么样”的特征第二层是竞争格局即当前有多少活跃买家、大家大概的出价区间、市场的价格水平在什么位置第三层是外部市场变量比如大促周期、行业预算调整、新广告主入场等这些信息往往不直接在特征里却会剧烈改变竞争烈度。竞价环境建模要做的就是把这三个层面综合起来的“状态”刻画出来尤其是对出价决策最关键的竞价分布。1.2 出价策略对“环境模型”的依赖度为什么不直接按自己对流量价值的估价来出价因为拍卖里的胜负不是看你出多少而是看你相对别人出多少。如果出价过高你可能为价值很低的流量付了过高的价格利润被消耗掉如果出价过低流量拿不到再好的模型也没有用武之地。这里存在一个“胜者诅咒”问题你都赢了往往意味着在这一轮里没有任何一个对手比你更看好这个流量你要防止自己因为信息不对称而支付过多。于是最优出价本质上是在“赢的概率”和“赢下后的利润”之间取平衡。要做这个平衡至少需要知道在某个出价水平下赢得竞价的概率是多少赢下来时通常要付出什么成本。这两件事本质上都来源于竞价分布和胜出价格分布。换句话说整个出价策略的质量被捆绑在环境建模的精度上。Bid2X把这个环节做扎实了我后面展开它在工程上意味着什么。1.3 环境建模的“三座大山”非平稳、不对称观测、跨流量泛化为什么竞价的“环境”建模这么难难在三个地方。第一个是非平稳。竞价环境不是静止的竞争对手的策略会动态调整新买家会进入旧买家会退出平台方的竞价机制也可能调整。你今天拟合出来的分布可能明天就完全不适用。这种时间上的漂移让所有基于历史经验的方法都面临“过期”的风险。第二个是不对称观测。回看数据你会发现赢下的拍卖能拿到真实成交价而输掉的拍卖只有一个信息——你的出价没有过线至于赢家出了多少你永远不知道。所以观测数据不是完整样本而是被右截断的样本。如果直接把赢单价格当作总体分布来拟合估计出来的价格水平会有系统性偏差。第三个是跨流量泛化。不同流量之间的竞争格局差异很大。头部媒体、高价值用户、特定时段的流量可能竞争激烈而长尾流量竞争很小。对新流量来说历史样本几乎为零怎么估计它的竞价环境是一个冷启动问题。这三个问题叠加起来正是传统方法力不从心的核心原因。把这三座大山放在脑子里再去看Bid2X提出的“基础模型视角”会发现它针对的恰恰就是这些痛点。2. 传统竞价环境建模的三条路线和它们共同的天花板2.1 参数化分布把世界压进一个公式代价是猜错形状最早、也最直观的做法是假定竞价环境中胜出价格服从某种已知分布最常见的是对数正态分布然后用历史成交价去拟合均值与方差。这样做的好处是简单高效占用资源少可解释性也强线上服务能扛得住很大的请求量。而且在对数正态假设成立的时候拟合出来的竞价分布会有稳定漂亮的形态出价策略也能直接解出闭式结果。但问题恰恰出在“假设成立”这四个字上。真实竞价市场并不是稳定的对数正态过程。竞争对手的策略切换可能让价格分布从单峰变成多峰尾部的厚度也会变化。我见过的一个案例是某个媒体侧突然引入了一种新的竞价策略原本分散的出价快速向几个离散价位集中对数正态假设直接失效基于它计算的出价整周都在亏损事后复盘才发现根因在分布假设上。参数化方法最大的隐患是它把真实世界压进一个公式一旦公式的形状不对后面的所有优化都建立在沙地上。2.2 非参数经验分布不做形状假设却被数据稀疏按在地上既然参数形态容易被猜错一个自然的思路是“我干脆不猜了直接按历史样本构建经验分布”。具体做法是按流量维度做聚合把同类型流量在某个时间窗内的成交价格累积成一条经验累计分布曲线在线查询时直接查这条曲线。这条路线避免了参数形态错误在小而稳定的流量池里也非常有效实现起来也简单。但它有两个硬伤。第一经验分布需要大量样本做支撑长尾流量和全新流量根本凑不齐足够的成交记录估计出的曲线全是锯齿状第二经验分布天然“重过去、轻现在”如果靠滑动窗口来解决非平稳问题又会面临窗口长了不灵敏、窗口短了样本不够的矛盾。我在实际项目里把窗口调到过小时级结果白天流量大时还能用凌晨低峰期的长尾流量直接失效。非参数方法就像一个记忆力很好的人但这个人只记得昨天而且面对没见过的场景毫无办法。2.3 深度回归与逐点预测模型能把特征用起来但容易“平均化”深度学习出现后行业里开始用神经网络把“报价-胜率”关系学成一个条件概率曲线。模型输入是请求特征、媒体、用户、时段的embedding输出是对某个出价水平的胜率估计或者直接输出赢单价格的条件分布。相比前两条路线深度模型最大的进步是特征泛化有相似特征的流量即使没有历史成交也能通过特征空间插值得到环境信息冷启动问题得到一定缓解。但这条路也有明显局限。它本质上学习的还是一个“平均水平上的竞争烈度”缺少一个显式的环境状态表示难以及时反映竞争格局的突变因为特征空间是静态的同时它难以引入文本、图像等非结构化信息比如一条素材的样式、一个行业活动的热度、一条外部市场资讯这些信息在统计上可能不会立刻体现在特征均值里但确实影响竞价行为。用一个不算严谨的比喻前两类方法是在“背历史”深度模型是在“算平均”而真正想让环境建模往前走一步需要的是“理解市场”。3. “基础模型视角”到底新在哪里Bid2X的动机拆解3.1 基础模型能带给竞价建模的三样东西基础模型这几年在语言、视觉、代码等领域的能力大家都有目共睹。它能做的事本质上可以归纳为三种能力一是大规模预训练带来的先验知识二是对异构信息形成统一表征的能力三是条件生成与上下文推理能力。这三样恰好每一样都能回应竞价环境建模的一个痛点。先验知识对应的是冷启动。基础模型在预训练阶段消费了大量广告生态相关的数据对“什么类型流量竞争激烈”“什么品类广告主的出价更高”“什么时段的CPM更高”这类规律已经有了隐含理解。哪怕某个新流量一条历史样本都没有模型也能从上下文特征出发给出一个比“默认常量”靠谱得多的先验估计。统一表征对应的是异构信息融合。竞价环境不只有数值特征还有媒体类型、行业类目、地理信息甚至创意描述、素材内容。基础模型擅长把这些异构信号投射到同一个语义空间里再通过条件生成来描述市场的当前状态。这为“环境”赋予了一个更丰富的输入集合。条件生成对应的是输出表达。传统模型通常输出一个数值或一条曲线基础模型范式更容易输出一个条件分布、一组分位数甚至模拟多轮竞价过程。这种输出形式和出价决策所需的“竞价分布”天然匹配。3.2 从“拟合分布”到“理解市场状态”Bid2X的范式迁移理解Bid2X我觉得关键不在于它用了多大的模型而在于它改变了我们看待竞价环境的方式。传统方法把环境当成一个待拟合的量比如“今天这个广告位的成交价服从对数正态分布参数是mu和sigma”Bid2X所代表的“基础模型视角”把环境当成一个有上下文、有演化过程的市场状态模型要学习的是“在给定的上下文背景下市场竞争状态是什么”以及“这个状态接下来会怎么演化”。这种视角变化看起来有点抽象但对建模设计的影响是具体的。如果你把环境当成一个静态分布来拟合所有工作都围绕曲线拟合展开如果你把环境当成一个可理解、可编码的状态你就会去设计环境表示让它能编码历史竞价序列、能接受当前请求上下文、能在线上被更新和刷新。后者显然更接近一个智能出价Agent正常运行所需的内部表征。这也是我把Bid2X里的X理解为环境状态或者未知环境向量的原因。3.3 为什么叫Bid2X一个命名里的建模姿态再回到标题本身。“Bid2X”这个写法我第一反应是“Bid to eXchange”或者“Bid to eXternal state”后来按论文里“环境建模”的定位去理解更倾向于把它读作“出价到环境”或者说“从出价行为学到环境表示”。X在这里有点像数学里的未知数它是需要在竞价过程中被推断出来的环境变量也是出价Agent决策所依赖的状态。这个命名的姿态很有意思。它意味着模型不再满足于“给定特征预测一个胜率”而是试图回答“一场拍卖的环境变量是什么以及我的出价如何影响它”。从“赢单概率预测器”变成“环境建模器”这是Bid2X在思维方式上最明显的一次转向。4. 按工业落地惯例推演的Bid2X工作流从环境编码到出价衔接4.1 核心模块一环境编码器把一个“市场状态”压缩成向量先说句实话Bid2X的完整论文细节我目前没有拿到的信息就不逐字复述了这篇解读里我对工作流的拆解是基于该领域主流研究框架加上我做类似项目时的工程经验做的合理推演。如果你的目标是复现建议以正式论文的公开代码为准如果你的目标是理解设计思路可以把下面这套模块框架作为参考。任何基础模型视角的竞价环境建模第一步都是把杂乱的环境信息变成模型能处理的向量。输入来自几部分当前请求的上下文特征用户、媒体、时段等、一段时间内的历史竞价记录win/loss序列、赢得时的成交价、以及可选的文本/类目等描述信息。环境编码器的输出是一个环境表示向量它要能概括“当前这个市场的竞争状态是什么样的”。这个向量很关键因为它同时承担两个职责一是成为出价策略的状态输入二是被在线更新的轻量模块持续调整。从结构上来说用Transformer风格的时间序列编码器比较常见因为竞价记录天然是一条有先后顺序的序列注意力机制能捕捉不同时间点竞争强度的变化关系。时间戳一定要作为特征明确输入否则模型很难区分“昨天的状态”和“今晚的状态”。4.2 核心模块二分布生成头把环境向量落成出价可用的竞价分布有了环境向量下一步是把它转换成出价决策能用的东西。最常见的输出有几种一是分位数回归直接输出竞价分布的若干分位点比如10%、50%、90%分位价格二是混合密度网络用一个可学习的混合分布去逼近真实竞价分布三是离散化分布把价格区间切成若干桶输出每个桶的概率。三种方式各有优劣分位数回归简单稳定混合密度表达力更强但训练也更容易不稳定。我自己做类似模型的时候比较偏好先输出关键分位数因为它在工程上容易布线离线上排错也直观。分位数输出来之后可以再拼接一个轻量网络把环境向量和出价水平映射成胜率估计这样出价策略只要查询“在出价b下的获胜概率”就能走经典的需求方出价框架。4.3 核心模块三在线适配让基础模型跟得上环境漂移这是基础模型落地竞价场景最需谨慎的一环。竞价环境的小时级漂移意味着模型必须要更新但一个参数量很大的基础模型不可能每条请求都做梯度更新也不适合频繁全量微调。常用的折衷方案是给基础模型加一个轻量adapter线上只更新adapter层底层的通用表征保持稳定。这样模型既能保留预训练阶段的先验知识又能通过adapter快速吸收最近几分钟的市场变化。另一个务实的选择是双编码器架构一个慢编码器更新周期较长负责稳定的大盘特征一个快编码器更新周期短负责捕捉近期的剧烈波动。在实际项目中这种“快慢结合”的设计往往比单纯追求模型参数新鲜度更有效因为既不会因为一次异常流量导致全模型震荡也不会因为更新过慢而错过市场拐点。4.4 部署与推理延迟基础模型不是说上就上的广告出价链路对延迟极其敏感尤其在程序化广告中决策通常要求在几十毫秒内完成留给环境建模模型的预算通常只有个位数到十几毫秒。一个完整的基础模型推理很难塞进这个预算所以工业落地上需要做一些结构上的妥协。我见过比较合理的做法是分层部署离线用大规模基础模型做高精度环境编码把每种典型上下文对应的环境表示预计算好或蒸馏到一个轻量在线模型中在线只跑轻量模型和一个很小的adapter更新模块。这样既享受了基础模型的表达力又不会把线上延迟拖垮。核心原则是基础模型负责“教”和“蒸馏”轻量模型负责“跑”和“守”。5. 评估竞价环境建模建议分三层来看指标5.1 第一层分布拟合质量检验模型“看得准不准”最自然的评估是看模型输出的竞价分布和真实成交价格是否吻合。常用的指标包括样本外负对数似然NLL、分位数覆盖率、KS检验距离、分位点误差等。做这一步时要注意一个细节由于输单样本没有成交价格你只能拿赢单样本去计算指标而赢单样本天然偏向下端或上端取决于你的出价策略。为了尽量公平可以在固定出价策略下生成评测集或者在评估时考虑截断似然。这一层的指标是基础但别盲目追求极致。我见过模型分位数拟合得异常漂亮一到线上却完全不动的情况原因在于拟合的是“历史平均”而不是“当下状态”。所以拟合指标只能证明模型“会看”不能证明模型“会决策”。5.2 第二层决策质量用离线竞价模拟器跑一遍端到端效果比分布指标更接近业务的是决策质量。常规做法是搭一个离线竞价模拟器给定一批流量日志和市场竞价记录让预算控制、出价策略、环境模型共同参与回放对比不同环境模型下的预算消耗率、eCPC、ROI、胜率等指标。离线模拟的好处是可以反复重放同一批流量消除一部分随机波动快速筛出候选方案。需要提醒的是离线模拟环境与真实在线环境总有一定差距。比如模拟器中的竞争对手出价是固定的而真实对手会根据你的出价行为做出反馈。因此离线模拟指标在多数情况下只能作为淘汰性筛选不能作为上线决策的唯一依据。我一般把它当作“安全护栏”离线端到端效果差的方案绝不上线离线效果好的方案才进入A/B测试池。5.3 第三层在线A/B准备好和波动做长期斗争最后才是真刀真枪的线上A/B。竞价广告的线上指标方差很大流量分桶也不一定完全均匀再加上市场环境的宏观波动稍微不给实验留足时间就会出现“假阴性”或“假阳性”。做这类实验我比较强调三点第一实验周期要覆盖至少一个完整天级周期避免只跑晚高峰第二不要只盯均值还要看分位数和稳定性比如日内成本变异系数第三准备好回滚机制一旦环境模型在线上表现异常能立刻切回旧策略。评估这件事本质是在回答三个递进的问题模型看得准不准用起来好不好上线稳不稳三层都通过了一个竞价环境建模方案才算是真正达到了可落地的标准。6. 落地阶段最容易翻车的四个坑6.1 坑一拿赢单价格当真实分布来训练这是所有靠成交日志做竞价建模的项目最容易犯的错。赢单价格只是真实竞价分布的一个截断子集——你只有出价足够高时才观察得到价格输单只能知道自己没赢。如果直接把这些赢单记录当成完整数据去训练分布模型模型会系统性低估高价位竞争的情况导致出价偏保守跑量起不来。处理方式一般有两类一是把“没有赢”也当成一个观测信号让模型学会“给定我的出价b赢/输是一个可观测的二元事件”通过截断似然或加权的训练方式处理二是在离线评估时永远带上决策链路用最终业务指标来对冲分布层面的偏差。我在项目里吃过这个亏第一版模型离线NLL很好看上线后跑量效率低排查了一整天才意识到是训练数据的截断偏差在作祟。6.2 坑二特征里混进了“未来信息”时间泄漏在竞价环境建模里很隐蔽。常见的例子是把“最终成交价”当作特征加进去模型一秒就学会躺赢线下指标全线飘红线上直接失效更隐蔽的是用全天的聚合统计量来预测当天某个时段的竞价分布这类跨时间泄漏在数据集里很难自动发现。对付它的办法很简单也很老土所有特征生成必须严格按时间戳做guard绝不允许使用训练时刻之后产生的信息进入特征同时任何看起来“好得不真实”的离线结果都值得怀疑。6.3 坑三长尾流量被大模型的“平均智能”拖累基础模型在很多任务上靠“泛化”赢下比赛但在竞价环境建模这个任务里泛化过头也会变成缺点。头部流量和长尾流量竞争格局差异很大如果共用一个全局模型长尾流量容易被平均化拟合要么被高估竞争烈度导致出价过高要么被低估导致赢不到量。我在实战中倾向于按流量分层出价头部流量用精细建模长尾流量用一个更保守的粗粒度模型兜底。基础模型在这里更应该承担迁移先验的任务而不是用同一个头去覆盖全市场。6.4 坑四忘了给模型装“保险丝”任何对环境做推断的模型都会遇到分布外场景。基础模型在没见过的新场景上不一定会像传统模型那样“保持沉默”它有概率在没有足够证据时也编造一个看起来合理的结果这对在线竞价来说是要命的。我建议在环境模型输出后接一个置信度判断模块当置信度低于阈值时自动回退到最近可用的历史分布或保守出价策略。宁可少赚也不能让环境模型的幻觉把账户成本直接推爆。说回我自己的一次经历。有一年我们服务的一个账户在某天下午遭遇了竞争对手策略突变我们所有基于历史拟合的分布模型在那两天里集体失效账户成本翻了将近一倍。当时没有环境模型能在小时级感知这种变化团队只能临时手动调低出价配合保守策略硬扛了两天直到市场重新稳定。事后复盘我一直在想如果当时有一个能在线更新、能感知环境状态变化的模型我们至少不用那么被动。这也是我看好Bid2X这个方向背后的原因它把竞价环境建模从“统计拟合”推到“可理解、可更新、可推理”的层面这是很多出价系统走到一定阶段都会遇到的硬需求。不过最后想给读者一句冷静的话基础模型是放大器不是保险柜。它可以把更好的特征和更强的先验带进系统但也带来了延迟、成本和不确定性的新问题。论文读下来思路很好真正落地时还是要结合自己的流量结构、链路延迟和预算体量一层层做设计和验证。如果你也在做类似的事情欢迎在评论区聊聊你遇到的坑。