机器学习实战：分类与回归项目全流程解析与模型评估指南

简介压缩包「机器学习实战项目——分类回归.zip」围绕分类与回归两类核心监督学习任务展开适合机器学习初学者、数据科学爱好者及需要动手实践的学生。资源以波士顿房价预测为回归实战案例覆盖逻辑回归、决策树、随机森林、SVM、线性回归等常见算法帮助读者掌握从数据预处理、特征选择、模型训练到验证优化的完整流程。压缩包共7个文件包含2个Jupyter Notebook、2个CSV数据集、2个HTML运行结果预览及1个Word项目说明文档总大小2.23MB结构清晰便于按需查阅。目前已有986人学习项目设计紧贴真实场景Notebook中逐步演示机器学习建模各环节CSV数据开箱即用HTML结果可快速查看输出。通过学习这份资料读者既能理解分类与回归的本质区别也能获得可直接复用的代码与建模思路为后续解决实际预测问题打下扎实基础。1. 先拆包判断“机器学习实战项目——分类回归.zip”能解决你的哪类问题“机器学习实战项目——分类回归.zip”这类压缩包在课程作业、期末复习和网盘资源里流传很广核心就两个任务分类和回归。拿到它之前先想清楚你缺的是哪一个环节——是要应付机器学习期末的实操题还是打算把 sklearn 的建模流程完整走一遍又或者是想拿一套能改的代码做课题前哨战。这三个诉求对应三种拆包方式也决定了你后面所有操作的重点。分类任务的产出是一个离散标签比如判断一封邮件是不是垃圾邮件回归任务的产出是一个连续数值比如预测房价。把两者装进同一个项目包里好处是能一次性覆盖有监督学习的两个主分支不用来回换数据集和依赖环境。适合读完本篇的人是已经有点 Python 和 Pandas 基础、但没完整跑通过一次建模闭环的从业者如果你连 numpy 和 train_test_split 都没碰过建议先把基础语法补齐再上手。拆包前立一个原则不要迷信压缩包里自带的准确率数字把代码和数据当成素材按下面的步骤自己复现能复现的结果才算你自己的。2. 拆包验收数据、标注、依赖先过三关再谈建模2.1 典型项目包的目录形态以及缺了什么要多加小心一个常见的“分类回归”项目包解压后往往长这样分类回归.zip ├── data/ │ ├── classification_train.csv │ ├── classification_test.csv │ ├── regression_data.csv ├── src/ │ ├── model_classify.py │ ├── model_regress.py │ ├── utils.py ├── README.md └── requirements.txt需要说明的是这是行业里此类打包的通用骨架不代表你手上那份压缩包一定原样如此。拆包之后的第一件事不是打开 model_classify.py 从头读到尾而是清点 data 目录里有没有 README 中提到的数据文件并打开 requirements.txt 看依赖版本。这里最容易翻车的点有两个一是 sklearn 版本锁得过于古老比如 sklearn0.24.2你本机装了 Python 3.11 和最新的 scikit-learnpip 常常会直接报版本冲突二是项目包里的代码用了新版 API 而 requirements 还是旧版跑起来全是 deprecation 警告。我一般会先删掉版本号重新安装再做一次全量导入测试。除了文件清单还要检查 README 里是否写明了每张表的目标列名和数据字典。这个细节直接决定你后面两个多小时是顺畅还是抓瞎。如果 README 缺失就从数据表里抽几行列头猜语义再结合目录名判断哪一列是标签。如果连列名都猜不出就要对标注质量打一个问号这种包不值得继续投入时间。2.2 用统一加载器检查形状、缺失值和标签分布无论做分类还是回归数据读进来以后要做的第一件事都不是建模而是验证数据“可读、干净、无泄露”。我习惯把加载逻辑写成一个小工具函数分类和回归两个任务共用避免一个文件读一边、一个写一套import pandas as pd def load_dataset(csv_path, label_colNone): df pd.read_csv(csv_path) print(f数据形状: {df.shape}) missing df.isnull().sum() if missing.sum() 0: print(f缺失值分布:\n{missing[missing 0]}) if label_col is not None: print(f标签分布:\n{df[label_col].value_counts(normalizeTrue)}) print(f列名单:\n{df.columns.tolist()}) return df这段代码做了四件小事打印形状确认行列数量与文档一致统计缺失值避免训练时被 NaN 绊倒打印标签归一化占比分类里如果某个类别超过了 80%后面就要考虑做类别平衡最后打印列名清单方便核对目标列是否存在于表中。这里最值得留意的是 label_col 这个入参分类和回归项目的标签列名一旦写错后面所有流程都会静默出错另一个隐蔽问题是标签列存的是中文字符串比如“好品质”和“坏品质”scikit-learn 的部分模型不直接接受需要先编码成 0/1。缺失值处理可以按列类型分开走。数值列如果缺得少我用中位数填充类别列缺得多就干脆新增一个“缺失”类别。不要对所有列无脑执行 dropna那会把本来就少的样本砍掉三分之一。2.3 数值列与类别列先分清字段战术再考虑怎么编码很多入门者拿到数据的第一反应是把所有列都丢给模型去 fit结果要么报错要么特征重要性一片混乱。特征的第一步是把列分成两种数值列年龄、价格、长度和类别列颜色、城市、类别编号。类别列的处理方式直接决定了树模型和线性模型的“观感”。这段逻辑建议写在数据准备阶段而不是散落在各个模型脚本里numeric_cols df.select_dtypes(include[int64, float64]).columns.tolist() categorical_cols df.select_dtypes(include[object, category]).columns.tolist() print(f数值列: {numeric_cols}) print(f类别列: {categorical_cols})代码本身很简单价值在于提醒一件事object 类型的列要么是文本要么是没转对类型的数值。比如“收入”列如果读成了 object大概率是因为里面有逗号或者货币符号需要先清洗再转数值。类别列如果直接做 LabelEncoder 编成 1、2、3树模型会误认为类别之间存在大小顺序这在第 5 章会单独展开。通常的做法是一律 one-hot只有像“小学、初中、高中、大学”这种天然有序的才能用标签编码。2.4 用固定种子的基线建立第一个参照系在花时间调参之前先跑一个不费脑子的基线为整个项目设定一条“最低可接受线”。分类用默认参数的 LogisticRegression回归用默认参数的 LinearRegression。基线脚本单独建一个 baseline.py不要跟正式建模混在一起。随机种子必须固定否则每次跑出来的结果都在变你根本无法判断一个改动到底是变好了还是纯随机波动from sklearn.model_selection import train_test_split from sklearn.linear_model import LogisticRegression from sklearn.metrics import accuracy_score X df_class.drop(columns[label]) y df_class[label] X_train, X_test, y_train, y_test train_test_split( X, y, test_size0.2, random_state42, stratifyy ) baseline LogisticRegression(max_iter1000) baseline.fit(X_train, y_train) y_pred baseline.predict(X_test) print(fBaseline Accuracy: {accuracy_score(y_test, y_pred):.4f})随机种子固定只是第一步分类还需要加上 stratifyy 做分层抽样保证切出来的训练集和测试集里正负样本比例与原始数据一致。你可能会发现压缩包 README 里写了 0.96 的准确率但你跑同一条代码只有 0.78原因往往不是玄学而是对方固定了一个你没用到的 random_state。这就是为什么基线必须自己定它的意义不是跟别人比拼数字而是为后续每次改动建立可比较的参照系。3. 分类任务建模二分类、多分类与评估指标怎么配才不虚3.1 先看标签分布再决定要不要做加权分类任务和回归任务最大的区别在于标签是离散的并且不同类别之间可能有数量级差异。直接把分类数据丢进模型之前我建议先打印标签的绝对计数而不是只看占比。如果数据是二分类正负样本接近 1:1绝大多数模型可以默认开跑一旦比例超过 1:5就要警惕模型变成“只会喊多数类”的复读机。多分类更复杂十个类别里通常有三四个类只有几十条样本这类冷门类别的召回率几乎注定是 0。最直接的应对是在模型参数里设置类别权重。LogisticRegression 有 class_weightbalancedXGBClassifier 有 scale_pos_weight也就是多数类样本数除以少数类样本数。但在这之前要先确认这个权重是不是真的有必要如果你的业务只关心整体准确率而不在乎少数类那强行做加权反而会拉低整体分数。常见做法是先跑一版不加权的模型看混淆矩阵里少数类到底烂到什么程度再决定要不要动权重。3.2 Logistic回归、决策树与XGBoost三类模型的适用边界分类模型的选型不是越高级越好而是按数据规模和特征类型来定。逻辑回归适合特征维度不高、线性边界明显的场景训练快、可解释性强也是这类压缩包里最常出现的默认模型决策树和随机森林适合特征之间存在复杂交互、样本量几千行的场景几乎不用预处理就能开跑XGBoost 二分类模型则适合样本量中等偏大、你愿意花时间调超参数以换取更高精度的场景。三类模型的取舍可以用一个简单的经验判断先跑逻辑回归看基线如果准确率已经超过 0.85说明数据线性可分程度不低此时换成复杂模型收益有限如果基线卡在 0.6 到 0.7 之间大概率是特征非线性关系强这时候转 XGBoost 往往有立竿见影的改善。以一份典型的二分类数据为例import xgboost as xgb from sklearn.metrics import accuracy_score, f1_score model xgb.XGBClassifier( n_estimators200, max_depth4, learning_rate0.1, subsample0.8, colsample_bytree0.8, eval_metriclogloss ) model.fit(X_train, y_train) pred model.predict(X_test) print(f准确率: {accuracy_score(y_test, pred):.4f}) print(fF1: {f1_score(y_test, pred, averagebinary):.4f})这里的参数都是起步值不是最优解。n_estimators200 是经验区间100 以下容易欠拟合500 以上收益递减max_depth4 和 subsample0.8、colsample_bytree0.8 的组合能在不过度拟合的前提下给树增加随机性。eval_metric 我固定写成 logloss 而不是 auc因为 logloss 对预测概率的微小变化更敏感调参时反馈更平滑不会像 AUC 在极端情况下虚高。如果样本量只有几百行XGBoost 很容易过拟合此时优先用随机森林。随机森林的 min_samples_leaf 设到 5 或 10能强制每片叶子至少包含 5 个样本避免树把每个训练样本都背成一条路径。实践里我经常看到有人拿到小数据集硬套深度 10 的 XGBoosttrain 指标漂亮test 直接崩盘这就是典型的树模型翻车。3.3 分类评估组合拳准确率、混淆矩阵、AUC与F1分类问题的评估作业里或许只看 accuracy但真实项目里必须补上混淆矩阵和 ROC-AUC 两个维度。混淆矩阵能告诉你错误是集中在某个类别上还是均匀分布在所有类别AUC 则对样本不均衡不敏感能反映模型把正负类区分开的真实能力。一个快速画出评估结果的脚本from sklearn.metrics import confusion_matrix, roc_auc_score, roc_curve cm confusion_matrix(y_test, pred) print(f混淆矩阵:\n{cm}) # AUC 传入的是概率值不是离散预测标签 auc roc_auc_score(y_test, model.predict_proba(X_test)[:, 1]) print(fAUC: {auc:.4f})这里的关键坑是 roc_auc_score 第二参数传的不是 pred而是 predict_proba 输出的正类概率传入离散的 0/1 会让 AUC 计算严重失真。混淆矩阵打印出来后如果对角线的数值远大于非对角线说明分类器基本可用如果某一行的数值几乎全是 0说明该类别从未被正确识别需要回到采样策略或特征工程上重做。二分类看 AUC 和 F1多分类则要看 macro 平均后的 F1直接用 accuracy 很容易被类别分布蒙蔽。在分类项目验收时我给自己定的标准是准确率 AUC 混淆矩阵三个指标至少有两个是达标的模型才算过关。准确率能高AUC 却只在 0.5 附近说明模型只会根据概率阈值硬切区分能力等于瞎猜这种情况再盲目调参没有意义不如回头重新审视特征和标签质量。4. 回归任务建模标准化、残差与特征重要性一个都不能少4.1 对回归特征做标准化并保证训练测试两套分布一致回归问题与分类最大的不同在于目标值是一个连续数模型的输出不仅取决于特征之间的大小关系还取决于数值的量级。如果一个特征是房屋面积几百的量级另一个特征是房龄几十的量级线性回归的系数会因为量纲差异而偏向数值大的特征虽然 sklearn 的线性模型不会直接报错但是解释系数时你会得到“每增加一平米房价涨一万八每增加一年房龄房价涨两万三”这种完全没法向别人交代的结论。解决方式是标准化同时要非常小心标准化的作用对象和时机from sklearn.preprocessing import StandardScaler from sklearn.linear_model import LinearRegression from sklearn.pipeline import make_pipeline X_reg df_reg.drop(columns[target]) y_reg df_reg[target] pipe make_pipeline(StandardScaler(), LinearRegression()) pipe.fit(X_train_reg, y_train_reg) pred_reg pipe.predict(X_test_reg)我之所以用 make_pipeline 而不是手动写两步是因为手动写法容易犯一个隐蔽错误在 train_test_split 之前就对全量数据做 fit_transform。那样算出来的均值和方差来自整个数据集测试集的信息已经偷看过模型训练出的指标会虚高。pipeline 会在 fit 时先把 StandardScaler 在训练集上拟合再在测试集上只用 transform全程不出岔子。目标值 y 不要放进标准化流程里否则预测出来的值还要逆变换回原尺度中间任何小数误差都会被放大。4.2 线性回归做基线随机森林与LightGBM做提升当线性基线的 R² 低于 0.5 时说明特征与目标之间大概率不是纯线性关系这时候需要引入非线性模型。数据量不大的场景优先选择随机森林回归器因为它对异常值不太敏感几乎不需要调参就能得到一个能用的结果数据量超过几万行再考虑 LightGBM 回归训练快且能自动处理类别特征。随机森林和决策树的区别是它通过多棵树的平均来降低方差树与树之间用 bootstrap 抽样产生差异from sklearn.ensemble import RandomForestRegressor rf RandomForestRegressor( n_estimators300, max_depth10, min_samples_leaf5, random_state42 ) rf.fit(X_train_reg, y_train_reg) pred_rf rf.predict(X_test_reg)n_estimators 从 100 加到 300 收益有限超过 500 基本只有计算开销max_depth10 一般够用树太深容易记住噪声min_samples_leaf5 是随机森林回归里最值得调的一个参数它强制叶子节点至少有 5 个样本模型的方差会明显下降在测试集上通常比默认的 1 更稳。如果手头是 LightGBM可以把学习率降到 0.05 并调大 n_estimators 到 1000用早停机制找最好迭代次数效果往往比固定轮数好。4.3 用R²、MAE、RMSE和残差图判断模型到底烂在哪回归评估的指标和分类不同最常见的困惑是“R² 到底追求什么”。R² 越接近 1 越好表示模型解释了目标变量里多少比例的变化。但 R² 对离群点极其敏感一个极端样本就能把 0.9 拉到 0.4。MAE 是绝对误差的平均受离群点影响小RMSE 因为把误差平方了会对大误差样本给出更重的惩罚。实际项目里我一般三个指标一起打印from sklearn.metrics import r2_score, mean_absolute_error, mean_squared_error import numpy as np r2 r2_score(y_test_reg, pred_rf) mae mean_absolute_error(y_test_reg, pred_rf) rmse np.sqrt(mean_squared_error(y_test_reg, pred_rf)) print(fR2{r2:.4f}, MAE{mae:.4f}, RMSE{rmse:.4f})指标组合的判断逻辑是R² 低但 RMSE 不高说明测试集里有一个特别离谱的极端目标值把平方误差拉大了样本主体其实预测得还行RMSE 和 MAE 都偏高说明整体预测分布有系统漂移需要考虑特征是不是漏掉了核心信号。另外一个容易被忽略的动作是画残差图以预测值为横轴、预测减真实为纵轴如果残差随机分布在 0 线两侧模型基本可信如果残差随着预测值增大而扩大说明数据本身存在异方差需要做对数变换压缩目标值范围。5. 分类与回归的通病排查五个高频翻车点的现象、原因与解法5.1 训练loss漂亮测试却崩——过拟合的破局现象训练集的 loss 一路下降测试集误差却先降后升两者差距越拉越大。翻车现场常见于压缩包里自带的决策树代码max_depth 写得很大。原因模型把训练集里的噪声当成了规律树越深、叶子越多对训练样本的记忆就越完整但泛化能力反而直线下降。数据量越小的项目越容易掉进这个坑。解决把最大深度限制在 3 到 5调高 min_samples_leaf使用 XGBoost 时开启早停观察验证集指标在连续 50 轮不再下降时停止训练。只要能让测试集和训练集的指标差距缩小到 0.1 以内过拟合就算基本遏制住了。5.2 数据泄露先缩放后切分是隐藏的定时炸弹现象模型在测试集上表现得惊人准确率 0.97但部署到新数据上立刻打回原形。这种现象很容易让初学者误以为自己天赋异禀。原因在 train_test_split 之前就对整个数据集做了 StandardScaler.fit_transform或用了 SelectKBest 在全量数据上选特征。这些操作统计了全量数据的分布信息测试集的信息已经被模型间接看到评估结果虚高。解决严格保持切分在前、处理在后的顺序。用 make_pipeline 把特征处理和模型绑定起来保证 fit 只在训练集上执行交叉验证时也同理每个折的预处理都要在该折的训练部分上完成。5.3 类别不平衡把模型绑架成“只会喊多数类”现象分类准确率 0.9翻开混淆矩阵发现少数类召回率是 0模型把所有测试样本都预测成多数类。原因LogisticRegression 和 XGBoost 默认以总体损失最小化为目标在不平衡数据上把一批少数类样本全部判错的总损失也远小于为保住它们而牺牲少数多数类样本的损失于是模型学成了一个无脑复读机。解决先算标签分布比例差超过 5 倍就别硬用默认模型。给模型加 class_weightbalanced 或 scale_pos_weight让少数类的误判代价提高如果效果还不够再用 SMOTE 对少数类做插值采样。5.4 无序类别被误当有序数值编码现象特征重要性列表里出现了一列整数数值从 1 到 10 不等看起来像有大小关系实际只是城市编码。原因有人用 LabelEncoder 把“城市”或“颜色”这类无序类别转成了 1、2、3树模型在切分时天然会把“1”和“2”当作数值比较于是硬生生发明了一段不存在的“城市序号规律”特征重要性被带偏。解决对无序类别使用 one-hot 编码用 Pandas 的 get_dummies 或 sklearn 的 OneHotEncoder只有像“小学、初中、高中、大学”这种天然有序的类别才允许用 LabelEncoder。5.5 回归目标列里的离群点绑架R²现象回归模型的 R² 只有 0.3画出预测值和真实值的散点图却发现 90% 的点都贴在对角线附近整体预测其实不差。原因目标列尾部有一个远超正常范围的极端样本比如房价数据里混进了一栋异常办公楼平方误差被这一个点放大了十倍把 R² 拖垮。解决先用 describe 或箱线图检查目标列分布对超过 3 倍 IQR 的样本做剔除或做封顶截断如果业务上必须保留这些极端样本将评估主指标从 R² 换成 MAE或者对目标值取对数后再训练。6. 收尾进阶固化模型并在另一套随机划分上验收分类和回归两条线都跑通之后最值得做的进阶工作是把模型固化成可复现的流水线而不是留在 Notebook 单元格里随缘运行。这里推荐用 joblib 保存模型它对树模型的序列化效率远高于 pickleimport joblib joblib.dump(rf, model_regress.joblib) joblib.dump(pipe, model_classify.joblib) loaded joblib.load(model_classify.joblib) result loaded.predict(new_data)保存之后后续任何验证和预测都复用同一个文件不会再出现“上次跑出来的模型被意外覆盖”的尴尬。第二步是换一个 random_state 重新划分数据完整跑一遍主流程观察指标波动幅度。如果换了种子后准确率从 0.9 掉到 0.75说明模型极为依赖特定的数据切分这通常是数据量太少或特征稳定性不够的信号。我给自己设定的收尾标准很朴素数字可复现、结果可解释、代码不用改参数就能重跑。把数据划分种子、模型参数、评估指标打印成一个文本清单存档下次用户问你“这个准确率怎么来的”时你只需要甩给他一份清单而不是复述三个小时的调参过程。希望这个思路能帮你在复现和扩展这类项目包时少走一些弯路。本文还有配套的精品资源点击获取