弱监督学习与Stacking融合的情感分析实战（附Python源码）

简介基于Stacking框架的弱监督深度学习情感分析算法完整源码与说明文档面向自然语言处理、深度学习方向的计算机相关专业学生及研究者也适合作为课程设计、毕业设计或初期项目演练素材。资源将传统机器学习模型与深度神经网络结合通过弱监督方式利用标注不充分的文本数据完成情感分类任务。压缩包共9个文件包含6个Python源码文件覆盖LSTM、CNN、RNN、朴素贝叶斯、SVM以及Stacking集成模型、2个Excel情感样本数据pos/neg和1份Markdown说明文档整体仅994KB结构紧凑清晰。目前已有72人学习浏览。读者可借此了解数据组织、多模型对比及Stacking集成策略的具体实现获得一套可直接运行测试的完整工程便于快速开展情感分析方向的研究与实验。1. 弱监督 Stacking 深度学习这个源码包到底在解决什么很多做情感分析的团队卡在第一步标注数据不够。人工标一千条评论要占半天工标完还要抽检一致性。这套基于 Stacking 框架的弱监督深度学习情感分析研究算法带完整 Python 源码和说明文档走的是一条不太一样的路——先用情感词典和规则自动生成一批弱标签再让多个基学习器分别去学最后用 Stacking 把深度模型和传统模型的预测概率拼起来交给元学习器做终判。它解决的是「标注贵、数据脏、又想快速出一个能用的情感模型」这个典型问题。适合三类人做论文复现、需要跑通实验流程的研究生在电商评论、外卖评价这类短文本舆情场景里搭初版模型的工程师以及想低成本验证弱监督思路靠不靠谱的算法团队。后面所有内容我都按这个源码包常用的落地顺序来讲。2. 先拆技术栈弱监督标签怎么生成Stacking 为什么专门治这种脏数据这一章把三个名词拆开讲透弱监督解决「没有标注」的问题深度学习解决「特征表达」的问题Stacking 解决「模型各学偏了一部分、怎么融合才稳」的问题。三者拆开都不稀奇但组合在一起恰好是情感分析这类文本任务上性价比很高的方案。2.1 弱监督标签情感词典打分加否定词窗口零标注起步弱监督在这里最常见的做法是拿情感词典对每条文本打分。中文场景下常用的是 BosonNLP 情感词典这类带情感分值的词表每个词给一个介于 -1 到 1 之间的分数全部命中词的得分累加就得到这句文本的初始情感分。大于阈值标为正向小于负阈值标为负向中间地带先不标。但这套打分有两个天生缺陷。第一是召回有限词典里没收录的领域词、网络新词直接当作零分处理很多句子算出来是「无情感」。第二是语境缺失「还不错」里的「不」是否定词紧跟在「还」后面如果只看词表累加会把「不」的负向分和「错」的正向分一起算进去结果变成负分语义完全反了。所以完整的弱标签生成管线一般会在词典打分前加一个否定词窗口处理。做法是分词后扫描句子遇到「不、没、无、未、别」这类否定词把它后面三个词窗口内出现的情感词分值取反再累加。窗口大小取 3 是比较平衡的设定——太小漏掉「不太满意」这种跨词否定太大会误伤「不是不爱你」这种双重否定。这套流程的价值在于你不需要任何人工标注就能得到一份带有噪声的初始标签集。它不完美但足够让后续的监督学习模型起步。之后再用置信度阈值把低质量样本剔除用半监督迭代把高置信度样本回填逐步把标签质量做上来。整个过程人工成本几乎为零。2.2 深度模型为什么会在这类脏数据上翻车记忆效应的锅弱监督标签最大的问题是噪声率高。常规估计下词典打分生成的标签准确率在 75% 到 85% 之间波动具体取决于领域词典覆盖度。这个噪声水平对传统机器学习模型问题不大但对深度模型是致命的。深度学习模型对噪声标签存在记忆效应训练初期模型先学会那些「干净样本」的通用模式验证集指标稳步上升训练到中后期模型开始强行拟合那些标注错误的样本训练 loss 继续降验证指标却开始回落。你去看训练曲线典型表现就是验证 F1 在某个 epoch 之后停止上涨随后缓慢下滑而训练集准确率一路逼近 1.0。所以在这个源码包里深度学习模型不是主力直出模型而是作为 Stacking 的一个基学习器存在。处理噪声数据的正确姿势是让深度学习模型用早停控制在记忆效应发生之前再用传统模型去兜底。LR 这类线性模型在噪声数据上反而更「钝」不太会死记硬背噪声样本泛化更稳但表征能力有限。两者一个抓语义、一个抓稳定天然适合做融合。2.3 Stacking 在弱监督场景的三个作用以及为什么不用简单投票Stacking 是集成学习里的一种堆叠泛化策略。第一层是多个基学习器第二层是一个元学习器。元学习器的输入不是原始文本而是基学习器对每条样本输出的预测概率向量输出是最终类别。它跟投票、加权平均最大的区别在于融合权重不是手工定的而是数据驱动学出来的。在弱监督情感分析这个具体场景里Stacking 的价值有三层。第一抵消噪声带来的偏置。不同基学习器在噪声标签上学到的错误模式各不相同TextCNN 可能被某些领域词带偏TF-IDF 加 LR 可能对否定结构反应过度LightGBM 可能对稀疏特征过拟合。元学习器学到的是「每个基模型在什么情况下更可信」相当于自动学会了纠偏。第二解决概率分布差异。不同模型的预测概率分布宽窄不同LR 的概率输出通常偏保守集中在 0.4 到 0.6深度模型的概率输出更容易走向两端。简单平均会被分布更极端的模型带节奏Stacking 则会学出每个模型的加权系数弱化这个尺度问题。第三在训练集不干净的前提下它比投票更鲁棒。投票对每个模型一视同仁而噪声环境下总有一个模型在某类样本上更靠谱Stacking 的元学习器能用数据找到这个「某个模型」并给它更大权重。这也是为什么在这个源码包里第一层基学习器一定要选「异质的」——传统机器学习模型加深度学习模型混搭而不是两三个同结构的深度模型。同构模型在同样噪声上会犯同样的错融合没有意义。异质模型之间的错误相关性低集成增益才明显。3. 跑通最小流程环境清单、目录结构与第一次运行的三个步骤拿到源码包先别急着看算法细节先把环境搭好、数据备好、跑通一次最小流程。这一步能过滤掉八成后面会遇到的低级问题。3.1 环境准备Python 版本与依赖清单这类源码包通常基于 Python 3.8 或 3.9 开发建议直接用 3.9兼容性最稳。深度学习部分基于 PyTorch传统模型部分基于 scikit-learn中文分词需要 jieba。如果你之前配置过 Python 环境下面这行命令直接复制执行就行pip install numpy pandas scikit-learn jieba tqdm pip install torch --index-url https://download.pytorch.org/whl/cpu第一行装的是数据处理、机器学习、分词和进度条的基础库。第二行装的是 CPU 版 PyTorch适合先跑通流程如果你的机器有 NVIDIA 显卡把--index-url去掉直接pip install torch安装会自动匹配 CUDA 版本。运行过程中如果提示缺某个库缺什么补什么即可常见的是pip install lightgbm这类可选依赖。这里有个容易忽略的点jieba 的分词版本会影响情感词典的命中率。如果说明文档里没有锁定 jieba 版本建议用pip install jieba0.42.1固定下来避免不同分词结果导致实验结果无法复现。3.2 源码包的目录结构跑通前先看懂五块这类「源码 说明」的压缩包作者通常会把工程拆成五个部分。你在本地解压后对照一下结构是否齐全缺哪块先补哪块目录/文件作用没有它会怎样README.md 或 说明.md整体运行流程、参数说明、实验结果参数全靠猜跑通纯靠运气requirements.txt依赖清单环境配置容易漏装data/示例数据或数据格式模板不知道输入格式脚本直接报错src/核心代码弱标签生成、模型、融合脚本这是主体output/模型权重、预测输出没有就自己创建在动手运行之前先花十分钟把 README 完整读一遍尤其是「运行顺序」这一节。弱监督加 Stacking 这类管线脚本之间有严格的先后依赖关系先要生成弱标签才能训练基模型基模型的 OOF 预测输出完成后才能训练元模型。顺序反了后面全是空文件报错。3.3 第一步最小运行数据格式与一条训练命令数据格式是这套流程里第一个容易翻车的地方。一般要求 CSV 文件包含两列text和label。text是评论文本label是情感标签通常用1表示正向-1表示负向0表示中性。注意如果你是零标注起步label列可以先留空用弱标签生成脚本自己填充。准备好数据后先跑弱标签生成脚本验证管线是否通顺python src/weak_label.py --input data/example.csv --output output/weak_label.csv这个脚本会读入原始评论调用情感词典打分加否定词窗口处理按阈值生成弱标签最后输出一个新的 CSV 文件。如果这一步没有报错并且输出的 CSV 里 label 列有值说明环境没问题、词典资源加载成功后面的流程可以继续。如果输出全为 0先看词典路径是否配置正确再看分词结果——这是两个最常见的空转原因。4. 核心实现从弱标签到基学习器再到 Stacking 融合的代码与参数这一章是整篇的核心按实际执行顺序拆成四步生成弱标签、训练传统基学习器、训练深度学习基学习器、做 Stacking 融合。每一步都有完整代码片段和参数说明。4.1 弱标签生成词典打分 否定词窗口 阈值筛选弱标签的质量直接决定整个管线的上限。我一般用下面这套逻辑分词后扫描情感词命中就累加情感分值检测到否定词时把后面三个词内的情感词分值取反最终得分绝对值高于阈值才算有效样本。import jieba import pandas as pd NEG_WORDS {不, 没, 无, 未, 别, 莫, 毫无} def load_senti_dict(path): 加载情感词典格式: 词语\t情感分值 senti_dict {} with open(path, r, encodingutf-8) as f: for line in f: parts line.strip().split(\t) if len(parts) 2: senti_dict[parts[0]] float(parts[1]) return senti_dict def sentiment_score(text, senti_dict, neg_window3): 对单条文本做弱标签打分带否定词窗口取反 tokens [t for t in jieba.lcut(text) if t.strip()] score 0.0 skip 0 for tok in tokens: if tok in NEG_WORDS: skip neg_window continue if skip 0: skip - 1 if tok in senti_dict: score - senti_dict[tok] elif tok in senti_dict: score senti_dict[tok] return score def generate_weak_label(text, senti_dict, pos_th0.3, neg_th-0.3): 按阈值转成三分类弱标签落在中间地带的返回 None 表示不采用 s sentiment_score(text, senti_dict) if s pos_th: return 1 if s neg_th: return -1 return None这段代码里有两个关键参数。第一个是neg_window3取值决定了否定词的管辖范围窗口越小越保守只改写紧邻的情感词窗口越大越激进能抓到「不太满意」这种隔词否定。第二个是pos_th和neg_th阈值越高弱标签越干净但覆盖越少阈值越低覆盖越广但噪声越大。我一般从0.3 / -0.3起步看生成样本量和后续模型的验证指标再微调。设置为None的样本不会直接丢弃而是进入无标签池留到后面的半监督迭代环节使用。这是弱监督管线里非常重要的设计中间地带样本本身信息量不小只是词典打分不确定等基学习器训练完成后让模型对它们做高置信度预测再回填为伪标签效果往往比硬用词典强得多。4.2 基学习器一TF-IDF LogisticRegression传统路线的稳定基线第一个基学习器是文本分类里最经典也最不可能翻车的组合TF-IDF 特征加逻辑回归。它承担的是「稳定兜底」的角色集成时给整个融合系统提供一个不飘的基线。import numpy as np from sklearn.feature_extraction.text import TfidfVectorizer from sklearn.linear_model import LogisticRegression from sklearn.model_selection import StratifiedKFold def train_lr_oof(X_train, y_train, n_splits5, seed42): 训练 TF-IDF LR返回 5 折交叉验证的 out-of-fold 预测概率 vectorizer TfidfVectorizer(ngram_range(1, 2), max_features50000) X_vec vectorizer.fit_transform(X_train) skf StratifiedKFold(n_splitsn_splits, shuffleTrue, random_stateseed) oof np.zeros((len(X_train), 3)) for tr_idx, va_idx in skf.split(X_vec, y_train): lr LogisticRegression(max_iter500, C1.0, class_weightbalanced) lr.fit(X_vec[tr_idx], y_train.iloc[tr_idx]) oof[va_idx] lr.predict_proba(X_vec[va_idx]) return oof, vectorizer, lr这里有几个参数值得细说。ngram_range(1, 2)让模型同时看到单词和邻接词组对「不好」这类组合能直接建模比单一 unigram 多抓一层否定语义。max_features50000是特征量上限中文评论的场景下五万维足够覆盖词表主体再高只会增加过拟合风险和训练耗时。C1.0是逻辑回归正则强度的倒数值越小正则越强在噪声标签场景下我不会把 C 调大保持默认或略小都行。class_weightbalanced是处理情感类别不平衡的关键弱标签生成后正向和中性样本往往差距悬殊这个参数自动按类别频率加权。注意生成的是 3 列概率对应负向、中性、正向三个类别。这个格式是为后续 Stacking 的元特征拼接做准备的。4.3 基学习器二TextCNN深度学习路线的主力第二个基学习器用 TextCNN。选它不是因为效果一定强于 BERT而是在弱监督数据上小模型的鲁棒性往往比大模型更好训练成本也低得多。BERT 在几万条弱标签上很容易过拟合噪声TextCNN 参数少、归纳偏置强反而更稳。import torch import torch.nn as nn import torch.nn.functional as F class TextCNN(nn.Module): def __init__(self, vocab_size, embed_dim100, num_filters128, filter_sizes(2, 3, 4), num_classes3, dropout0.5): super().__init__() self.embedding nn.Embedding(vocab_size, embed_dim, padding_idx0) self.convs nn.ModuleList([ nn.Conv1d(embed_dim, num_filters, kernel_sizek) for k in filter_sizes ]) self.dropout nn.Dropout(dropout) self.fc nn.Linear(len(filter_sizes) * num_filters, num_classes) def forward(self, x): emb self.embedding(x).transpose(1, 2) # (batch, embed_dim, seq_len) pooled [] for conv in self.convs: conv_out F.relu(conv(emb)) pooled.append(F.max_pool1d(conv_out, conv_out.shape[-1]).squeeze(-1)) out torch.cat(pooled, dim1) out self.dropout(out) return self.fc(out)filter_sizes(2, 3, 4)表示三个并行的卷积核分别覆盖 2 词、3 词、4 词的局部窗口。这个设计跟 n-gram 特征思路一致2 词窗口抓到「不好」3 词窗口抓到「不太好」4 词窗口能抓到「非常不好」。num_filters128是每个窗口的卷积核数量数量越多表达能力越强但越容易过拟合噪声弱监督场景不建议超过 256。padding_idx0让填充位不参与梯度更新避免 padding 干扰特征提取。训练这个模型时有两点比网络结构本身更重要。第一是早停必须开patience 设 3监视验证集 F1连续三轮不涨就停。刚才说过深度模型在噪声标签上会记忆错误样本早停是在记忆发生前悬崖勒马的手段。第二是学习率要低我习惯用1e-3起步配 Adam 优化器发现验证指标震荡就降到1e-4。弱标签数据的梯度噪声本身就大学习率再高模型权重会在训练后期来回震荡。训练完成后对每个样本输出 3 类概率作为后续元特征的一部分。4.4 Stacking 融合5 折 OOF 元特征与元学习器训练有了至少两个基学习器的预测概率就可以做 Stacking 了。这里最大的原则是元学习器的训练特征必须来自交叉验证的 out-of-fold 预测绝不能用基学习器在训练集上的自预测。from sklearn.linear_model import LogisticRegression # 假设 oof_lr 和 oof_textcnn 分别是两个基学习器的 OOF 概率矩阵 # 形状均为 (n_samples, 3)由上一节的交叉验证流程生成 meta_train np.hstack([oof_lr, oof_textcnn]) # (n_samples, 6) meta_model LogisticRegression(max_iter500, C1.0) meta_model.fit(meta_train, y_train) # 推理阶段同样拼接两个基模型对测试集的预测概率 meta_test np.hstack([test_lr_proba, test_textcnn_proba]) final_pred meta_model.predict(meta_test)这段代码的核心逻辑是拼接。每个样本有 6 个元特征LR 给出的 3 类概率加 TextCNN 给出的 3 类概率。元学习器在这 6 个特征上学习「该信谁」如果某个模型在负向类别上更准它学到的对应权重就会更高。元学习器我固定用带正则的逻辑回归不换成 XGBoost 或深度模型。原因有两点一是元特征维度很低样本量一般又只有训练集那么大复杂模型在这个阶段容易过拟合二是逻辑回归的可解释性好训练完之后把权重打出来能看到哪个基学习器的哪一类概率贡献最大这本身就是对模型行为的诊断。C1.0在元学习器上保持默认即可。如果训练样本少于五千条把 C 降到0.5加强正则防止元模型记住基学习器的噪声输出。Stacking 里的元模型越简单越好这算是这个领域少有的共识。5. 排坑记录弱监督 Stacking 情感分析最容易翻车的 5 个点这一章写我在实际跑这类流程时踩过的坑每一条都是血泪经验。按「现象 → 原因 → 解决」的顺序写方便你对照排查。5.1 OOF 泄露验证集 F1 虚高到离谱上线全崩现象用训练集的预测概率当元特征交叉验证 F1 能到 0.93模型上线后对新数据的表现却只有 0.7 左右前后差距大得不像同一个模型。原因基学习器在训练集上的预测包含了「记忆标签」的成分模型见过这些样本输出概率天然偏向正确类别。元学习器蹭到了这份记忆学到的不是泛化规律而是基模型的记忆通路。等真正面对没见过的新样本这条通路断裂性能断崖式下跌。解决严格用 5 折交叉验证生成 out-of-fold 预测每一折的训练和验证严格分离最后拼成完整的 OOF 矩阵作为元特征。这个是 Stacking 入门最关键的纪律没有之一。另外训练完成后一定要把元学习器对测试集的预测分布和验证集对一下分布差异过大多半是特征拼接环节出了问题。5.2 深度模型的记忆效应训练集 acc 接近 1验证集却不涨现象TextCNN 训练到第 8 个 epoch训练集准确率接近 100%验证集 F1 反而从峰值回落了两个点训练 loss 持续下降但验证 loss 掉头向上。原因这是上一章提到的记忆效应的具体表现。弱标签里大约 15% 到 25% 的样本是错的神经网络训练后期会主动去记住这些错误映射表现为训练指标虚高、验证指标恶化。解决早停是必须的patience 设 3只监视验证集 F1 不监视 loss。训练时用 Dropout 0.5 加权重衰减两者都能延缓记忆发生的时机。如果你发现无论怎么调模型的验证峰值都出现在前 3 个 epoch 附近说明学习率太高降到1e-4再训一轮让模型走慢一点、学稳一点。这套组合拳下来深度学习基模型在弱监督数据上的表现通常能稳住。5.3 否定词翻车词典把「酒店不干净」打成正面现象情感词典打分阶段「酒店不干净」被标记为正向因为「干净」在词典里是正分词汇累加时直接把整句拉成正向了。原因只做了词汇分值的累加没有处理否定词对情感方向的翻转。「不」出现在情感词前整个短语的极性应该取反。解决在打分脚本里加入否定词窗口逻辑检查情感词前三个词范围内是否有否定词出现有则对分值取反。这个逻辑我在第 4.1 节代码里已经实现。真实场景下还要考虑一个更隐蔽的情况「不太脏」里「不」和「太」叠在一起情感词是「脏」取反一次变成正向但实际语义是轻微的负向。这类问题的处理没有银弹只能靠人工检查弱标签样例、逐步修正规则。建议每轮生成弱标签后随机抽样一百条看一遍把明显反了的规则找出来补丁式修复。5.4 中性类消失模型把什么都分成正向或负向现象训练完成后看混淆矩阵负向类召回率不错正向类也正常中性类召回率几乎为零模型把所有样本都挤向两端。原因弱标签生成阶段情感词典打分落在中间阈值的样本被剔除了送入训练集的中性样本本来就少。再加上评论语料本身正负情绪比重高中性表达天然稀缺模型学不到「这个句子不算明显情绪」的判别边界。解决分两步走。第一步给基学习器训练时设置class_weightbalanced让少数类在 loss 计算中获得更高权重这个在第 4.2 节代码里已经出现。第二步是中性类回填把落在阈值的无标签池样本交给训练好的基模型预测取预测为中性且置信度高于 0.6 的样本以较低权重加入训练集。迭代一轮中性类召回率通常能提升十个百分点。注意回填权重控制在 0.5 到 0.8 之间权重太高会让噪声样本干扰原有分布。5.5 元特征尺度不一致元模型被某个基学习器「带节奏」现象查看元学习器逻辑回归的权重发现所有特征列里只有一个基模型的权重远大于其他模型去掉它整体 F1 反而上升。原因不同模型的输出概率尺度不一样。逻辑回归输出的概率集中在 0.4 到 0.6 之间分布平缓TextCNN 这类深度模型输出概率容易走到 0.9 以上几乎接近 one-hot。元学习器会把更大的权重分配给「数值上更有区分度」的模型而不是「预测更准确」的模型。解决在拼接元特征之前对每个基模型的概率做 rank 归一化或分位数变换。最简单的做法是按样本排序取秩再映射到 0 到 1 区间把分布形状拉齐。如果做论文实验需要可解释性可以用 Platt 缩放——在验证集上拟合一个逻辑回归把原始概率映射到校准后的概率空间。校准之后再拼特征元学习器的权重会均匀很多融合带来的增益才能真正体现出来。6. 验证与进阶用概率校准和软标签迭代把模型精度再抬一档整套流程跑通、坑也踩平之后还剩最后一件事验证 Stacking 融合是不是真的有增益以及能不能通过半监督迭代再往上走一步。我的习惯是做一个「三段对照」实验单独跑一次 TF-IDF LR一次 TextCNN一次 Stacking 融合三者的验证集 F1 放在同一张表里。模型配置验证集 F1说明TF-IDF LR基线值稳定兜底速度最快TextCNN通常高于 LR记忆效应导致峰值难把握Stacking 融合高于两个基模型增益来自异质模型互补校准 伪标签迭代在融合基础上小幅上升高置信度伪标签补充训练集如果 Stacking 融合结果和最佳单模型持平甚至更低先别怀疑 Stacking 本身回头检查元特征是不是用了全量训练集预测——这个坑占八成概率。确认 OOF 没有问题后再做一次概率校准看看融合权重分布是不是被带偏了。校准之后的进阶操作是软标签伪标签迭代。对无标签池里的样本用校准后的集成模型预测概率筛出最大类别概率超过 0.85 的高置信度样本不转成硬标签直接把概率向量作为软标签加入训练集配合一个较低的损失权重参与训练。# 伪代码示意软标签回填 proba ensemble_predict(unlabeled_texts) # 集成模型预测 mask proba.max(axis1) 0.85 # 高置信度筛选 soft_y proba[mask] # 软标签保留概率向量 # 训练时混合损失硬标签用交叉熵软标签用 KL 散度 loss ce_loss(logits, hard_y) alpha * kl_loss(logits, soft_y)alpha初始 0.3如果发现验证集 F1 掉点降到 0.1 或 0.05。软标签相比硬标签的优势在于保留了模型的不确定性信息不容易把接近阈值的样本强行推成一个错误类别。每迭代一轮重新生成一次 OOF 特征重新训 Stacking 元模型一般两轮以内就能看到验证指标的收益超过三轮没有提升就该停止——继续迭代只是在过拟合上一轮的伪标签错误。我从第一次跑这类弱监督管线到现在翻车最狠的永远是元特征泄露验证集 F1 高得离谱换到真实数据完全不是一回事。后来强制自己一律用 OOF 输出做元特征再补一道概率校准整个流程才算稳定下来。希望帮到你。本文还有配套的精品资源点击获取