随机森林回归实战：气温预测模型从数据准备到调参避坑

简介这是一份面向高校学生与开发者的随机森林气温预测项目源码适用于毕业设计、课程设计及机器学习入门实践。项目以Python实现借助Scikit-learn构建随机森林模型覆盖数据预处理、特征选择、模型训练与评估等完整流程帮助读者理解多变量气象因素与气温之间的复杂关系。压缩包共19个文件约4.23MB以py脚本、csv数据集、xml配置、txt说明及zbak备份为主另含dot决策树可视化文件与iml工程配置结构清晰便于按模块查阅。目前已有117人学习下载。通过研读源码与配套数据读者可掌握随机森林在时间序列预测中的应用方法学习从设计、实现到测试维护的软件开发流程并积累特征工程与参数调优的排错经验。资源仅供学习研究不得用于商业用途。1. 气温预测这个选题为什么随机森林比线性回归更抗造做过气温预测的人多半有过这种经历拿历史气象数据拟合一条趋势线训练集上 R² 能到 0.95一到真实预报就翻车误差大得离谱。原因不复杂——气温从来不是单一变量的线性函数它同时受湿度、气压、风速、日照、季节相位影响而且这些变量之间存在明显的非线性交互。线性回归假设「每升高 1 单位湿度气温变化固定」这在真实大气里根本不成立。随机森林回归Random Forest Regressor之所以在气温预测这类任务里表现稳定核心在于两点一是它用多棵决策树做 Bagging 集成每棵树在随机抽样的样本和特征子集上训练最后取平均天然抑制过拟合二是决策树本身擅长切分非线性区间不需要你手动构造交叉特征。对于毕业设计或课程设计来说这个选题的好处是数据容易获取公开气象数据集、算法原理清晰可讲、代码量适中、结果可视化直观答辩时既有理论深度又有工程落地。这篇文章面向的是要动手写代码的人——不管你是第一次接触随机森林还是已经跑过 sklearn 的 demo 但不知道怎么把气温预测做完整。我会从数据准备讲到模型调参、特征工程、避坑排查每一步都给出可复现的代码和参数说明。读完你应该能独立跑通一套完整的气温预测流程并且知道哪些地方容易出问题。2. 数据准备与特征工程气温预测的输入该怎么选2.1 气温预测常用的公开数据源与字段说明气温预测的数据来源主要有两类一类是气象站观测数据如中国气象数据网的历史观测另一类是再分析数据集如 ERA5。对于毕业设计我一般建议用后者因为字段规整、时间连续、缺失少。常见字段包括字段名含义单位是否常用作特征temperature_2m2 米气温°C预测目标relative_humidity_2m2 米相对湿度%是surface_pressure地面气压hPa是wind_speed_10m10 米风速m/s是precipitation降水量mm是cloud_cover云量%是shortwave_radiation短波辐射W/m²是hour / month时间相位—是需构造选特征时有个原则和目标变量物理上有因果关系的优先保留。比如短波辐射直接影响地表加热湿度影响潜热交换这些都应该进模型。而像站点编号这种标识类字段除非你怀疑不同站点气候模式差异大否则不要直接塞进去。2.2 用 pandas 做缺失值处理与时间特征构造拿到原始数据后第一步不是急着喂模型而是检查缺失和构造时间特征。气温数据常见的缺失模式有两种随机缺失某个传感器偶发故障和连续缺失某段时间整段没有记录。前者可以直接插值后者要谨慎——如果连续缺失超过 6 小时我一般选择丢弃该段而不是硬填。import pandas as pd import numpy as np # 读取数据假设是 CSV 格式时间列为 datetime df pd.read_csv(weather_data.csv, parse_dates[datetime]) df df.sort_values(datetime).reset_index(dropTrue) # 检查缺失比例 missing_ratio df.isnull().mean() print(missing_ratio[missing_ratio 0]) # 对短缺口做线性插值限制最大连续填充长度为 3 df[temperature_2m] df[temperature_2m].interpolate( methodlinear, limit3, limit_directionboth ) # 构造时间相位特征 df[hour_sin] np.sin(2 * np.pi * df[datetime].dt.hour / 24) df[hour_cos] np.cos(2 * np.pi * df[datetime].dt.hour / 24) df[month_sin] np.sin(2 * np.pi * df[datetime].dt.month / 12) df[month_cos] np.cos(2 * np.pi * df[datetime].dt.month / 12) # 构造滞后特征前 1 小时、前 3 小时的气温 df[temp_lag1] df[temperature_2m].shift(1) df[temp_lag3] df[temperature_2m].shift(3) # 丢弃因滞后产生的空值行 df df.dropna().reset_index(dropTrue)这段代码做了三件事插值补缺、时间相位编码、滞后特征构造。时间相位用 sin/cos 编码而不是直接放小时数是因为小时是循环变量——23 点和 0 点在数值上差 23但实际只差 1 小时。滞后特征则是气温预测里最有效的特征之一因为气温有很强的自相关性前一小时的气温对当前时刻有直接预测价值。参数方面limit3表示最多连续填充 3 个缺失点超过就保留 NaN 后续丢弃。这个值可以根据你的数据采样频率调整——如果是逐小时数据3 小时以内的缺口插值通常可接受如果是逐日数据limit 设 1 更稳妥。2.3 特征相关性检查与冗余剔除特征不是越多越好。如果两个特征高度相关比如相对湿度和露点温度同时放进随机森林虽然不会导致数值不稳定但会增加训练时间且对精度提升有限。我一般会算一下特征与目标变量的 Pearson 相关系数以及特征之间的方差膨胀因子VIF。from sklearn.feature_selection import mutual_info_regression feature_cols [ relative_humidity_2m, surface_pressure, wind_speed_10m, precipitation, cloud_cover, shortwave_radiation, hour_sin, hour_cos, month_sin, month_cos, temp_lag1, temp_lag3 ] X df[feature_cols] y df[temperature_2m] # 互信息评估捕捉非线性关系 mi_scores mutual_info_regression(X, y, random_state42) mi_series pd.Series(mi_scores, indexfeature_cols).sort_values(ascendingFalse) print(mi_series)互信息比 Pearson 相关系数更适合随机森林场景因为它能捕捉非线性依赖。如果某个特征的互信息接近 0可以考虑剔除。但注意互信息低不代表一定没用可能是它和另一个特征组合后才起作用。稳妥做法是先全量训练一版再看特征重要性排序做二次筛选。3. 随机森林回归模型搭建从 sklearn 到调参落地3.1 为什么气温预测优先选随机森林而不是单棵决策树单棵决策树在气温预测上的问题是方差极大——换个训练集树结构可能完全不同预测结果波动明显。随机森林通过两个随机性来降方差一是每棵树只用 Bootstrap 抽样的子集训练行采样二是每次分裂只考虑随机选取的特征子集列采样。最终预测是所有树输出的平均值相当于做了集成平滑。和梯度提升树如 XGBoost、LightGBM相比随机森林的优势在于对超参数不敏感、不容易过拟合、训练可并行。缺点是精度上限可能略低但在气温预测这种信噪比不极端的任务里差距通常很小。对于毕业设计随机森林的可解释性也更好——你可以直接输出特征重要性答辩时好讲。3.2 用 sklearn 跑通第一版气温预测模型先跑通一个基线版本不调参看看到底能到什么水平。这一步的目的是建立参照系后面调参才有对比。from sklearn.ensemble import RandomForestRegressor from sklearn.model_selection import train_test_split from sklearn.metrics import mean_absolute_error, mean_squared_error, r2_score # 按时间顺序切分不能随机打乱 split_idx int(len(df) * 0.8) train_df df.iloc[:split_idx] test_df df.iloc[split_idx:] X_train train_df[feature_cols] y_train train_df[temperature_2m] X_test test_df[feature_cols] y_test test_df[temperature_2m] # 基线模型 rf RandomForestRegressor( n_estimators100, max_depthNone, min_samples_split2, min_samples_leaf1, random_state42, n_jobs-1 ) rf.fit(X_train, y_train) y_pred rf.predict(X_test) mae mean_absolute_error(y_test, y_pred) rmse np.sqrt(mean_squared_error(y_test, y_pred)) r2 r2_score(y_test, y_pred) print(fMAE: {mae:.3f} °C, RMSE: {rmse:.3f} °C, R2: {r2:.4f})这里有个关键点时间序列数据必须按时间顺序切分不能train_test_split(random_state42)随机打乱。随机打乱会导致未来数据泄露到训练集评估结果虚高。我见过不少毕设代码犯这个错答辩时被老师一问就露馅。参数说明n_estimators100是树的数量基线阶段 100 够用max_depthNone表示树完全生长随机森林靠集成降方差单棵树深一点问题不大n_jobs-1用满所有 CPU 核心加速训练。3.3 用 GridSearchCV 调参哪些参数值得花时间随机森林的超参数里真正对结果影响大的就三个n_estimators、max_depth、min_samples_leaf。其余参数要么影响很小要么调了容易过拟合。我一般用 GridSearchCV 在这三个维度上搜。from sklearn.model_selection import GridSearchCV, TimeSeriesSplit param_grid { n_estimators: [100, 200, 300], max_depth: [10, 20, None], min_samples_leaf: [1, 3, 5] } tscv TimeSeriesSplit(n_splits5) grid_search GridSearchCV( estimatorRandomForestRegressor(random_state42, n_jobs-1), param_gridparam_grid, cvtscv, scoringneg_mean_absolute_error, verbose1, n_jobs-1 ) grid_search.fit(X_train, y_train) print(最佳参数:, grid_search.best_params_) print(最佳 MAE:, -grid_search.best_score_)交叉验证这里用了TimeSeriesSplit而不是默认的 KFold原因同上——时间序列不能随机分折。TimeSeriesSplit保证每折的训练集都在验证集之前模拟真实预测场景。调参的实用建议n_estimators从 100 开始如果 200 和 300 的结果差异小于 0.01°C就选 200 够了没必要堆到 500。max_depth如果数据量大且特征多设 20 左右通常够如果数据量小None反而容易过拟合。min_samples_leaf设 3 或 5 能显著降低预测方差代价是偏差略增但在气温预测里通常净收益为正。4. 模型评估与特征重要性分析怎么判断模型真的能用4.1 回归指标怎么读MAE、RMSE、R² 各自的适用场景MAE平均绝对误差是最直观的指标——预测值和真实值平均差多少度。RMSE均方根误差对大误差更敏感如果 RMSE 远大于 MAE说明存在少数预测偏差极大的样本需要排查。R² 衡量模型解释了目标变量多少方差气温预测里 R² 到 0.9 以上算不错到 0.95 以上算很好。但指标好看不代表模型可用。我一般还会看残差的时间分布——如果残差在某些时段比如清晨、傍晚系统性偏大说明模型没捕捉到那个时段的特有模式需要补特征或分时段建模。import matplotlib.pyplot as plt residuals y_test - y_pred fig, axes plt.subplots(2, 1, figsize(12, 8)) # 残差随时间变化 axes[0].plot(test_df[datetime], residuals, linewidth0.5) axes[0].axhline(0, colorred, linestyle--) axes[0].set_ylabel(Residual (°C)) axes[0].set_title(Residuals over Time) # 残差分布 axes[1].hist(residuals, bins50, edgecolorblack) axes[1].set_xlabel(Residual (°C)) axes[1].set_ylabel(Frequency) axes[1].set_title(Residual Distribution) plt.tight_layout() plt.savefig(residual_analysis.png, dpi150)如果残差图显示明显的周期性波动说明时间特征构造不够——可以尝试加更多滞后项或滑动窗口统计量。如果残差分布有厚尾检查是否有极端天气事件没被特征覆盖。4.2 特征重要性排序与业务解释随机森林自带特征重要性输出分两种基于不纯度减少impurity-based和基于排列permutation。前者训练时就算好了但对高基数特征有偏后者更可靠但计算量大。毕设里用前者够了但如果要写论文建议两种都报。import pandas as pd importances rf.feature_importances_ feat_imp pd.Series(importances, indexfeature_cols).sort_values(ascendingFalse) print(feat_imp) # 可视化 feat_imp.plot(kindbarh, figsize(10, 6)) plt.xlabel(Importance) plt.title(Feature Importance for Temperature Prediction) plt.gca().invert_yaxis() plt.tight_layout() plt.savefig(feature_importance.png, dpi150)从经验看气温预测里最重要的特征通常是temp_lag1前一小时气温其次是时间相位特征和辐射相关特征。如果temp_lag1的重要性没有排进前三大概率是数据切分或滞后构造出了问题需要回头检查。5. 避坑与排查气温预测项目里最容易翻车的五个地方5.1 现象测试集 R² 高得离谱接近 1.0原因数据泄露。最常见的是随机打乱切分时间序列或者构造滞后特征时用了未来数据比如用 t1 时刻的气温预测 t 时刻。还有一种隐蔽情况是特征里混入了目标变量的衍生量比如用「体感温度」预测「气温」而体感温度本身就是气温的函数。解决严格按时间顺序切分构造滞后特征时只用shift(正数)检查特征列里有没有和目标变量计算相关的字段。可以用df.corr()快速扫一遍如果某个特征和目标相关系数超过 0.99基本可以确定是泄露。5.2 现象模型在训练集上 MAE 很低测试集上 MAE 翻倍原因过拟合。随机森林虽然比单棵树抗过拟合但如果max_depthNone且min_samples_leaf1在数据量不大时仍然会过拟合。另一个常见原因是特征太多而样本太少树在噪声特征上做了无效分裂。解决限制max_depth设 10~20增大min_samples_leaf设 3~5减少特征数量用互信息或特征重要性筛掉后 30%。如果数据量确实小考虑用max_features限制每次分裂考虑的特征数。5.3 现象预测结果整体偏高或偏低有系统性偏差原因训练集和测试集的分布不一致。气温数据有季节性如果训练集只覆盖冬季而测试集覆盖春季模型没见过春季模式预测自然偏。另一种可能是缺失值插值引入了偏差——如果缺失集中在某个时段插值结果会拉偏那个时段的预测。解决确保训练集覆盖至少一个完整年周期。如果数据不够用分层采样保证各季节都有代表。缺失值处理时对连续缺失段直接丢弃而不是插值。5.4 现象GridSearchCV 跑得极慢几个小时出不来结果原因参数网格太大交叉验证折数太多且n_jobs没设对。如果n_estimators搜到 500 且max_depth有 5 个取值再乘 5 折交叉验证计算量是爆炸的。解决先用粗网格定位大致范围再用细网格局部搜索。n_jobs-1用满 CPU但注意如果同时开了GridSearchCV的n_jobs和随机森林的n_jobs会过度订阅 CPU 导致更慢。一般只在外层设n_jobs-1内层模型不设或设 1。5.5 现象特征重要性排序每次跑都不一样原因随机森林本身有随机性random_state没固定或者用了不同的数据子集。如果差异很大说明模型不稳定可能是树太少或数据量太小。解决固定random_state增加n_estimators到 300 以上用排列重要性代替不纯度重要性。如果仍然不稳定说明特征之间高度共线需要先做特征筛选。6. 进阶技巧用滑动窗口和分位数预测把气温模型做扎实6.1 滑动窗口特征让模型看到趋势而不只是瞬时值前面只用了temp_lag1和temp_lag3两个滞后特征信息量有限。更系统的做法是构造滑动窗口统计量——过去 6 小时的气温均值、最大值、最小值、标准差。这些统计量能刻画气温的变化趋势和波动幅度对预测帮助很大。# 滑动窗口特征 for window in [3, 6, 12]: df[ftemp_mean_{window}h] df[temperature_2m].shift(1).rolling(window).mean() df[ftemp_std_{window}h] df[temperature_2m].shift(1).rolling(window).std() df[ftemp_max_{window}h] df[temperature_2m].shift(1).rolling(window).max() df[ftemp_min_{window}h] df[temperature_2m].shift(1).rolling(window).min() # 温度变化率 df[temp_diff_1h] df[temperature_2m].shift(1) - df[temperature_2m].shift(2) df df.dropna().reset_index(dropTrue)注意shift(1)的位置——先 shift 再 rolling保证窗口内不包含当前时刻的目标值。这个顺序搞反就是数据泄露。窗口大小选 3、6、12 是因为它们分别对应短期波动、半日变化和日变化周期覆盖了气温的主要时间尺度。6.2 分位数随机森林不只给一个预测值还给预测区间普通随机森林回归输出的是条件均值但实际业务里往往更关心「气温可能落在哪个区间」。分位数随机森林Quantile Random Forest可以输出任意分位数的预测值比如 10% 分位数和 90% 分位数构成 80% 预测区间。from sklearn.ensemble import GradientBoostingRegressor from sklearn.metrics import coverage_error # sklearn 没有内置分位数随机森林可以用分位数损失近似 # 或者用 quantile-forest 库需额外安装 # 这里演示用 GradientBoostingRegressor 的 quantile loss models {} for alpha in [0.1, 0.5, 0.9]: gbr GradientBoostingRegressor( lossquantile, alphaalpha, n_estimators200, max_depth5, random_state42 ) gbr.fit(X_train, y_train) models[alpha] gbr y_lower models[0.1].predict(X_test) y_median models[0.5].predict(X_test) y_upper models[0.9].predict(X_test) # 评估区间覆盖率 coverage np.mean((y_test y_lower) (y_test y_upper)) print(f80% 预测区间覆盖率: {coverage:.3f})覆盖率应该接近 0.8。如果远低于 0.8说明区间太窄远高于 0.8说明区间太宽。调alpha和模型复杂度可以调整区间宽度。这个技巧在毕设里是加分项——大部分同学只报一个 MAE你能给出预测区间说明对不确定性有理解。6.3 一个我踩过的坑别在时间序列上做 KFold最后说一个血泪教训。我早期做气温预测时用默认的cross_val_score做 5 折交叉验证结果 R² 报出来 0.98兴冲冲写进论文。后来被导师问了一句「你怎么保证训练集不在验证集后面」才发现默认 KFold 是随机分折的未来数据泄露到训练集指标全是虚的。改成TimeSeriesSplit后 R² 掉到 0.93这才是真实水平。所以我的习惯是只要数据带时间戳第一件事就是把交叉验证策略改成TimeSeriesSplit然后才看指标。这个习惯帮我省了不止一次返工。希望帮到你。本文还有配套的精品资源点击获取