信用风险预测模型实战：从WOE编码到评分卡落地

简介这份PDF文献面向金融风控从业者、数据科学学习者及商业银行风险管理研究人员聚焦机器学习算法在信用风险预测中的建模实践属于专业参考文献类资料。资源包共1个PDF文件约1.5MB内容完整呈现一篇正式发表的学术论文便于直接阅读与引用。文中以西南财经大学“新网银行杯”竞赛脱敏数据为样本系统梳理了高维稀疏、无标签样本、多产品客群及好坏样本不平衡等真实业务难点并对比Logistic回归、决策树、Adaboost、GradientBoosting与LGB等模型的预测表现最终得出LGB模型AUC指标最优的结论。读者可从中获取完整的建模流程、缺失值处理与特征选取思路、模型评估方法及文献综述脉络对理解信用风险二分类问题与提升风控建模能力具有参考价值。目前已有538人学习。1. 信用风险预测模型从一份 PDF 标题到能跑通的评分卡银行信贷部门最怕的不是坏账本身而是坏账来得毫无征兆。一份名为「基于机器学习算法的信用风险预测模型研究.pdf」的材料核心要解决的就是这件事用历史借贷数据训练一个分类器在放款前判断这笔业务会不会违约。它适合三类人——做风控策略但还没上手建模的工程师、想拿金融场景练手的机器学习入门者、以及需要向业务方解释模型逻辑的数据分析师。信用风险预测和常见的图像分类不一样它的正负样本极度不平衡违约率往往只有个位数百分比而且模型的可解释性直接关系到业务能不能过审。所以这篇不聊虚的从数据长什么样、特征怎么造、模型怎么选一路讲到评分卡怎么落地、阈值怎么定、翻车点在哪。读完你至少能自己搭一版可复现的基线模型知道每个参数动了之后会发生什么。2. 信用风险预测的数据底座特征工程与样本处理2.1 信贷数据长什么样为什么不能直接丢进模型信用风险预测的原始数据通常来自三张表申请信息表、借贷行为表、还款记录表。申请信息表里有年龄、收入、职业、婚姻状况这类静态字段借贷行为表记录每笔贷款的金额、期限、利率、用途还款记录表则是时间序列包含每期应还、实还、逾期天数。很多人拿到数据第一反应是直接 merge 成一张宽表然后 fit这一步就埋了雷。第一个问题是时间维度。信用风险预测必须按时间切分训练集和测试集不能随机切。随机切会让同一用户的不同贷款同时出现在训练和测试里模型等于抄答案线下 AUC 冲到 0.9上线直接腰斩。常见做法是取某个时间点之前的所有样本做训练之后的做测试模拟真实放款场景。第二个问题是标签定义。什么叫「违约」逾期 30 天、60 天还是 90 天不同定义下正样本比例能差一倍。行业里常用的是「观察期内出现 90 天以上逾期」作为坏样本表现期通常取 12 个月。这个口径必须在建模前和业务方对齐否则模型再好也没法用。第三个问题是样本不平衡。违约样本可能只占 3% 到 8%直接训练会让模型倾向于全部预测为「好客户」准确率看着有 95%但召回率接近零。处理方式有三类调整类别权重、过采样少数类、欠采样多数类。我一般先用class_weightbalanced试一版效果不够再上 SMOTE但 SMOTE 要在训练集内部做绝不能碰测试集。2.2 用 Python 做特征衍生与 WOE 编码的完整流程信用风险预测里最核心的特征工程手段是 WOEWeight of Evidence编码和 IVInformation Value筛选。WOE 把每个分箱的违约概率和正常概率做对数比IV 衡量这个特征的区分能力。下面是一段可复现的代码从原始字段到 WOE 编码一次走完。import pandas as pd import numpy as np from sklearn.model_selection import train_test_split # 假设 df 已包含特征列和标签列 target1违约0正常 # 按时间切分这里用索引模拟时间顺序 split_idx int(len(df) * 0.7) train_df df.iloc[:split_idx].copy() test_df df.iloc[split_idx:].copy() def calc_woe_iv(data, feature, target, bins5): 对连续变量分箱后计算 WOE 和 IV # 等频分箱处理重复边界 data[bin] pd.qcut(data[feature], qbins, duplicatesdrop) grouped data.groupby(bin)[target].agg([count, sum]) grouped.columns [total, bad] grouped[good] grouped[total] - grouped[bad] # 防止除零加平滑 grouped[bad_rate] (grouped[bad] 0.5) / (grouped[bad].sum() 0.5) grouped[good_rate] (grouped[good] 0.5) / (grouped[good].sum() 0.5) grouped[woe] np.log(grouped[good_rate] / grouped[bad_rate]) grouped[iv] (grouped[good_rate] - grouped[bad_rate]) * grouped[woe] iv_total grouped[iv].sum() return grouped[[woe]], iv_total # 对连续特征逐个计算 IV筛选 IV 0.02 的入模 continuous_features [age, income, loan_amount, interest_rate] iv_dict {} for feat in continuous_features: woe_map, iv_val calc_woe_iv(train_df, feat, target) iv_dict[feat] iv_val # 用训练集的 WOE 映射替换测试集避免数据泄露 train_df[feat _woe] train_df[bin].map(woe_map[woe]) test_df[bin] pd.cut(test_df[feat], binswoe_map.index.categories) test_df[feat _woe] test_df[bin].map(woe_map[woe]) print(IV 值, iv_dict)这段代码的关键点有三个。第一分箱用pd.qcut等频分箱保证每箱样本量接近避免某个箱只有几条记录导致 WOE 波动巨大。第二WOE 映射必须用训练集算出来的表去替换测试集如果测试集自己算一遍等于把测试集的信息泄露进模型线下指标会虚高。第三IV 值筛选阈值一般取 0.02低于这个值的特征区分能力太弱放进去只会增加过拟合风险。IV 大于 0.5 的特征要警惕可能是标签泄露或者分箱过细。对于类别型特征比如职业、婚姻状况处理方式类似只是分箱变成按类别分组。如果某个类别样本量太少要合并到「其他」组。WOE 编码的好处是它把非线性关系线性化了而且每个分箱的 WOE 值可以直接解释为「这个区间的人违约概率是平均水平的多少倍」业务方听得懂。2.3 样本不平衡的处理时机与验证集构造样本不平衡的处理时机很讲究。我的习惯是训练集做采样验证集和测试集保持原始分布。因为验证集和测试集要模拟真实放款场景真实场景里坏客户就是少你采样之后指标好看但和实际业务对不上。具体操作上如果选择过采样用imblearn的SMOTE只在训练集上 fit_resample。如果选择调整权重在模型初始化时设class_weightbalanced它会让损失函数里少数类的权重自动调高。两种方式可以叠加但叠加后要重新调阈值因为预测概率的分布已经变了。验证集的构造还有一个细节如果数据有时间跨度最好做滚动验证。比如用前 6 个月训练、第 7 个月验证再前 7 个月训练、第 8 个月验证这样能看出模型在不同时间段的稳定性。信用风险预测最怕的就是模型在某个时间段突然失效滚动验证能提前发现这个问题。3. 模型选型与训练从逻辑回归到集成树3.1 为什么信用风险预测首选逻辑回归做基线信用风险预测这个场景逻辑回归至今仍是很多银行的主力模型原因不是它准而是它可解释。逻辑回归的每个特征权重可以直接换算成评分卡分数业务方能看到「收入每增加一万分数加 5 分」这种规则。监管也偏好这种透明模型集成树虽然 AUC 高两三个点但解释起来费劲。逻辑回归的另一个好处是它输出的是概率而且概率校准相对自然。信用风险预测需要的是「这个人违约概率是 3% 还是 30%」不是简单的 0/1 分类。逻辑回归的 sigmoid 输出经过 WOE 编码后概率分布比较合理不需要额外做 Platt 校准。但逻辑回归的短板也明显它只能捕捉线性关系特征之间的交互需要手动构造。比如「年龄」和「收入」的交互效应逻辑回归本身学不到得自己造一个age_income_ratio这样的特征。所以实际项目里我一般先用逻辑回归跑一版基线看 IV 和系数符号是否符合业务常识然后再上集成树看能提升多少。3.2 LightGBM 在信用风险预测中的参数配置与早停集成树里我偏好 LightGBM训练快、内存占用低、对类别特征支持好。下面是一段完整的训练代码包含早停和交叉验证。import lightgbm as lgb from sklearn.metrics import roc_auc_score, precision_recall_curve # 准备特征列排除原始字段和标签 feature_cols [c for c in train_df.columns if c.endswith(_woe) or c in [age, income]] X_train train_df[feature_cols] y_train train_df[target] X_test test_df[feature_cols] y_test test_df[target] # 构造 LightGBM 数据集 dtrain lgb.Dataset(X_train, labely_train) dvalid lgb.Dataset(X_test, labely_test, referencedtrain) params { objective: binary, # 二分类任务 metric: auc, # 评估指标用 AUC boosting_type: gbdt, # 梯度提升树 num_leaves: 31, # 叶子数控制模型复杂度 learning_rate: 0.05, # 学习率小一点更稳 feature_fraction: 0.8, # 每棵树随机选 80% 特征 bagging_fraction: 0.8, # 每轮随机选 80% 样本 bagging_freq: 5, # 每 5 轮做一次 bagging min_data_in_leaf: 50, # 叶子最小样本数防止过拟合 scale_pos_weight: 10, # 正样本权重根据不平衡比例调整 verbose: -1 } # 早停验证集 AUC 连续 50 轮不提升就停 model lgb.train( params, dtrain, num_boost_round1000, valid_sets[dvalid], callbacks[lgb.early_stopping(stopping_rounds50), lgb.log_evaluation(100)] ) # 预测概率并计算 AUC y_pred_prob model.predict(X_test, num_iterationmodel.best_iteration) print(f测试集 AUC: {roc_auc_score(y_test, y_pred_prob):.4f})参数说明几个关键项。num_leaves控制树的复杂度信用风险预测样本量通常几万到几十万31 是个稳妥起点调到 63 以上容易过拟合。min_data_in_leaf设 50 是为了保证每个叶子有足够样本金融数据噪声大叶子太细会把噪声学进去。scale_pos_weight设成负样本数除以正样本数比如 10:1 的不平衡就设 10它等价于给正样本加权。early_stopping是防过拟合的后悔药验证集 AUC 不涨了就停别硬跑到 1000 轮。训练完之后要看特征重要性。LightGBM 的model.feature_importance()给出每个特征被用来分裂的次数次数太少的特征可以考虑删掉。但要注意WOE 编码后的特征重要性不能直接和原始特征比因为 WOE 已经把信息压缩了。3.3 模型对比逻辑回归、随机森林、LightGBM 的 AUC 与 KS光看 AUC 不够信用风险预测行业里更看重 KS 值。KS 衡量的是模型把好人和坏人分开的最大距离计算公式是max(TPR - FPR)。下面这段代码一次性算三个模型的 AUC 和 KS。from sklearn.linear_model import LogisticRegression from sklearn.ensemble import RandomForestClassifier from sklearn.metrics import roc_curve def calc_ks(y_true, y_prob): 计算 KS 值 fpr, tpr, _ roc_curve(y_true, y_prob) return max(tpr - fpr) # 逻辑回归 lr LogisticRegression(class_weightbalanced, max_iter1000) lr.fit(X_train, y_train) lr_prob lr.predict_proba(X_test)[:, 1] # 随机森林 rf RandomForestClassifier(n_estimators200, max_depth8, class_weightbalanced, random_state42) rf.fit(X_train, y_train) rf_prob rf.predict_proba(X_test)[:, 1] # 汇总对比 results pd.DataFrame({ 模型: [逻辑回归, 随机森林, LightGBM], AUC: [roc_auc_score(y_test, lr_prob), roc_auc_score(y_test, rf_prob), roc_auc_score(y_test, y_pred_prob)], KS: [calc_ks(y_test, lr_prob), calc_ks(y_test, rf_prob), calc_ks(y_test, y_pred_prob)] }) print(results.round(4))实际项目里我见过的典型结果是逻辑回归 AUC 0.72 左右KS 0.30随机森林 AUC 0.76KS 0.35LightGBM AUC 0.78KS 0.38。差距看着不大但 KS 从 0.30 到 0.38 在业务上意味着能多拦住一批坏客户。不过如果业务方要求模型必须能解释逻辑回归的 0.72 也得接受或者用 LightGBM 加 SHAP 值做解释。注意模型对比必须在同一个测试集上做而且测试集不能参与任何训练过程包括 WOE 编码的映射表。4. 避坑与排查信用风险预测模型翻车的五个现场4.1 线下 AUC 0.85上线一周就失效现象离线评估 AUC 0.85部署到生产环境后一周内 KS 掉到 0.15坏账率没降反升。原因最常见的是时间泄露。训练集和测试集随机切分同一个用户的多笔贷款分散在两边模型记住了这个用户的特征而不是学到了违约规律。另一个可能是特征里混入了「未来信息」比如用了「当前逾期天数」去预测「未来是否违约」这个特征在放款时根本拿不到。解决严格按时间切分训练集时间早于测试集。逐个检查特征的可获取时间点放款时拿不到的特征一律不能用。上线后做前向验证用最近一个月的数据回测看 KS 是否稳定。4.2 WOE 编码后特征全部变成 NaN现象训练时正常预测时新样本的 WOE 全是 NaN模型输出概率全是 0.5。原因新样本的某个特征值落在了训练集分箱的边界之外。比如训练集收入分箱是 [0, 5000, 10000, 20000, 50000]新样本收入是 80000pd.cut找不到对应区间返回 NaN。解决分箱时把边界扩展到无穷用pd.cut(..., bins[-np.inf, 5000, 10000, 20000, np.inf])。或者在映射 WOE 时加一个兜底逻辑找不到对应箱就赋值为 0 或者该特征的均值 WOE。4.3 正负样本比例 1:100 时模型完全不工作现象违约样本只占 1%模型把所有样本都预测为正常AUC 0.5KS 接近 0。原因极端不平衡下损失函数被多数类主导模型学不到少数类的模式。class_weightbalanced在 1:100 时权重差距太大梯度更新不稳定。解决先做欠采样把比例降到 1:10 左右再训练或者用 focal loss 替代交叉熵。LightGBM 里可以调scale_pos_weight到 50 左右同时把min_data_in_leaf调小到 20让树有足够粒度去捕捉少数类。如果还是不行考虑把问题拆成两步先粗筛掉明显的好客户再对剩余样本做精细分类。4.4 特征重要性最高的特征是「用户 ID」现象LightGBM 特征重要性排名第一的是用户 ID 或者申请编号。原因ID 类特征虽然本身没有业务含义但树模型可以通过 ID 的大小或哈希值间接记住每个样本相当于给每个样本打了一个唯一标记。这在训练集上表现完美测试集上完全失效。解决建模前把 ID、申请编号、时间戳这类唯一标识列全部删掉。如果 ID 本身有业务含义比如地区编码要做目标编码或者 WOE 编码不能直接丢进去。4.5 阈值取 0.5 导致通过率暴跌现象模型 AUC 0.78 看着不错但按 0.5 阈值卡通过率从 70% 掉到 30%业务方不接受。原因信用风险预测的预测概率分布和 0.5 没有必然关系。样本不平衡时模型输出的概率整体偏低0.5 可能对应的是「违约概率高于 80% 的样本」卡得太严。解决阈值不能拍脑袋定要结合业务通过率和坏账容忍度来算。画一条 KS 曲线找到 KS 最大点对应的阈值再看这个阈值下的通过率和坏账率是否可接受。如果不可接受调整scale_pos_weight重新训练让概率分布往业务期望的方向偏。5. 评分卡落地把模型概率转成业务能用的分数5.1 从概率到分数的换算公式与参数设定模型输出的是违约概率业务方要的是分数。标准做法是用score offset factor * ln(odds)其中odds (1-p)/pp 是违约概率。factor和offset由两个业务参数决定基准分和 PDOPoints to Double the Odds。假设基准分 600 对应 odds 为 50:1PDO 为 20意思是 odds 每翻一倍分数加 20 分。换算公式如下import numpy as np def prob_to_score(prob, base_score600, base_odds50, pdo20): 将违约概率转换为评分卡分数 # 计算因子和偏移量 factor pdo / np.log(2) offset base_score - factor * np.log(base_odds) # 防止概率为 0 或 1 导致 log 报错 prob np.clip(prob, 1e-6, 1 - 1e-6) odds (1 - prob) / prob score offset factor * np.log(odds) return np.round(score).astype(int) # 对测试集预测概率转分数 test_df[score] prob_to_score(y_pred_prob) print(test_df[[score, target]].describe())参数说明base_score和base_odds是业务定的锚点通常基准分 600 对应 odds 50:1 是行业惯例。pdo20意味着分数每高 20 分违约概率减半。np.clip是防止极端概率导致 log 溢出实际业务里概率不会真的是 0 或 1。转换完之后要验证分数分布。好客户的分数应该集中在高分段坏客户集中在低分段两条分布曲线的重叠区域越小越好。如果重叠太大说明模型的区分能力不够得回去检查特征工程。5.2 分数分箱与通过率、坏账率的联动调参分数出来之后业务方不会按单点分数做决策而是分箱。比如 600 分以上直接通过550 到 600 人工审核550 以下拒绝。每个箱的通过率和坏账率要拉出来看。分数区间样本占比通过率坏账率累计坏账率65025%100%1.2%1.2%600-65030%100%3.5%2.3%550-60025%60%8.7%4.8%500-55015%20%18.3%8.2%5005%0%35.6%9.5%这张表是调参的核心依据。如果业务方要求整体坏账率控制在 5% 以内那 550 分以下的通过率就得压到 20% 以下。如果要求通过率不低于 60%那 550 到 600 这个区间的审核规则就得放宽。调参的过程就是在这两个指标之间找平衡点。我一般会准备三套阈值方案保守方案坏账率低但通过率也低激进方案通过率高但坏账率上升平衡方案取中间。让业务方自己选选完之后把对应的分数阈值写进决策引擎。5.3 模型监控PSI 与分数漂移的预警阈值模型上线不是终点信用风险预测模型会随着经济环境和客群变化而失效。监控的核心指标是 PSIPopulation Stability Index衡量当前分数分布和训练时分数分布的差异。def calc_psi(expected, actual, bins10): 计算 PSIexpected 是训练集分数actual 是当前分数 # 用训练集分数做分箱边界 breakpoints np.percentile(expected, np.linspace(0, 100, bins 1)) breakpoints[0] -np.inf breakpoints[-1] np.inf expected_pct np.histogram(expected, binsbreakpoints)[0] / len(expected) actual_pct np.histogram(actual, binsbreakpoints)[0] / len(actual) # 防止除零 expected_pct np.clip(expected_pct, 1e-6, None) actual_pct np.clip(actual_pct, 1e-6, None) psi np.sum((actual_pct - expected_pct) * np.log(actual_pct / expected_pct)) return psi # 假设 train_scores 是训练集分数current_scores 是当前月分数 psi_value calc_psi(train_scores, current_scores) print(fPSI: {psi_value:.4f})PSI 的判断标准小于 0.1 说明分布稳定0.1 到 0.25 之间需要关注大于 0.25 说明分布显著漂移模型需要重新训练。除了 PSI还要监控特征层面的漂移比如某个特征的均值突然偏移了 20%即使总分 PSI 正常也可能意味着客群结构变了。监控频率一般是按月跑一次如果业务量大就按周。发现 PSI 超标先别急着重新训练先排查是不是数据管道出了问题比如某个字段的采集逻辑改了。确认是真实漂移后再启动重训流程重训时要把最近的数据加进去同时保留旧数据做验证确保新模型在旧样本上不会崩。这套流程跑下来一个信用风险预测模型从数据到上线大概需要两到三周其中特征工程占一半时间模型调参占三成剩下的是评分卡转换和监控部署。我自己的习惯是每做完一版模型先把 WOE 映射表和分数转换参数存成配置文件下次重训直接复用省得每次重新算。希望帮到你。本文还有配套的精品资源点击获取