情感词典+传统机器学习：四套模型源码解析与实战

简介基于情感词典和多种机器学习模型的情感极性分析设计源码面向自然语言处理研究者与初中级开发者用于从文本中判别积极、消极或中性情绪可应用于舆情监控、评论分析等场景。资源包共28个文件主要由5个Python源文件、12个txt词典/语料、4个Excel评估结果、2个png效果图及dict、gitignore等组成整体大小17.01MB目录结构清晰便于按模块研读。目前已有365人学习。源码实现k-NN、朴素贝叶斯、最大熵与SVM等经典算法覆盖情感词典构建、特征提取、模型训练及评估全流程并附有酒店、外卖、电影等多领域实验语料与运行结果。通过学习可掌握文本预处理、分类模型调参和结果可视化方法适合作为情感分析入门或课程设计的参考实现。1. 用词典加传统机器学习做情感极性分析这份 Python 源码能直接跑通四套模型情感极性分析这些年被深度学习占了头条但真正落到小规模数据集、可解释性要求高的场景基于情感词典加传统机器学习模型依然是性价比最高的方案。这份源码打包了 k-NN、朴素贝叶斯、最大熵、SVM 四套分类器配好了中文酒店、中文外卖、英文电影三个领域的语料和情感词典解压之后改改路径就能跑出评估结果。它解决的核心问题是当你想在自定义数据集上做正负情感分类又不想从零写分词、特征选择、模型训练和评估这条链路时这份源码把整条 pipeline 都补齐了。适合 NLP 入门者做课程设计、研究生做 baseline 对比也适合工程师快速验证一个文本分类需求能不能用传统方案满足。2. 先看清资源结构词典、语料、特征文件各管哪一段拿到压缩包先别急着跑代码把文件按用途分组是节省时间的第一步。这份源码的文件命名非常直白基本把训练集规模、特征数、模型类型都写进了文件名里比如Bayes-hotel-train-2200-test-800-f-5000就是贝叶斯模型跑酒店语料2200 条训练、800 条测试、5000 个特征。先搞清每个文件在 pipeline 里的位置后面调参才不至于抓瞎。2.1 词典文件拆解八类词典如何协同完成极性判断情感词典是这套源码的地基。f_dict目录下共 8 个 txt 词典各司其职positive_dict.txt和negative_dict.txt存情感词adverb_dict.txt存程度副词denial_dict.txt存否定词conjunction_dict.txt存转折连词phrase_dict.txt存短语级情感单元punctuation_dict.txt存情感标点user.dict用于补充自定义词。为什么需要这么多类型因为单纯匹配情感词会漏掉大量语义信息。以「酒店不算太差」这句话为例基础情感词匹配会命中「差」这个负向词但如果只看这一个词判断就是负向。加入否定词后「不」会翻转情感方向再加入程度副词「太」会调整情感强度。三层叠加之后这句话的情感值会从负向被拉回中性偏正真实语义才能被还原。短语词典处理的则是「性价比很高」「服务态度好」这类组合单元单字面拆分会丢失整体语义。# 情感得分计算的朴素实现展示词典如何协同 import re def load_dict(path): words set() with open(path, r, encodingutf-8) as f: for line in f: word line.strip() if word: words.add(word) return words # 加载各词典 pos_words load_dict(f_dict/positive_dict.txt) neg_words load_dict(f_dict/negative_dict.txt) adverb_words load_dict(f_dict/adverb_dict.txt) denial_words load_dict(f_dict/denial_dict.txt) # 程度副词权重表实际项目中按词典顺序或词频统计赋值 adverb_weight {很: 1.5, 太: 1.8, 非常: 2.0, 有点: 0.7, 稍微: 0.5} def sentence_polarity(tokens): score 0.0 i 0 while i len(tokens): word tokens[i] if word in pos_words: score 1.0 elif word in neg_words: score - 1.0 if word in denial_words: # 翻转到下一情感词为止实际项目中需限定窗口 for j in range(i 1, min(i 3, len(tokens))): if tokens[j] in pos_words: score - 1.5 # 否定正向 负向 elif tokens[j] in neg_words: score 1.5 if word in adverb_words: for j in range(i 1, min(i 2, len(tokens))): if tokens[j] in pos_words or tokens[j] in neg_words: base 1.0 if tokens[j] in pos_words else -1.0 score (adverb_weight.get(word, 1.2) - 1.0) * base i 1 return score这段代码展示了词典打分的基本循环逻辑。adverb_weight字典是手工设定的经验值实际项目中可以用互信息或词频统计来量化每个副词的强度系数。否定词的翻转窗口我限制在 3 个词之内这是处理口语文本时比较稳妥的做法——「不是很满意」和「不是特别满意」的否定范围都覆盖到了但再远的词就不该被「不」影响。最后得分大于 0 判为正向小于 0 判为负向等于 0 则交给后续的机器学习模型兜底。单纯词典匹配的准确率通常只有 70% 上下主要败在未登录词和反讽句式上。但它的价值在于能生成高质量的特征候选集——通过词典初筛出的情感候选词配合卡方检验能得到比单纯词频统计更精准的特征维度。2.2 语料与中间文件酒店、外卖、电影三个领域的训练测试分布f_corpus目录下放着 5 个语料文件ch_hotel_corpus.txt中文酒店、ch_waimai_corpus.txt和ch_waimai2_corpus.txt中文外卖、en_movie_corpus.txt和en_movie2_corpus.txt英文电影。三个领域覆盖了两种语言、三种文本风格这是刻意为之的——酒店评论偏正式长句外卖评论偏口语短句电影评论中英混杂且情绪表达更夸张。从 Excel 文件名可以还原出各数据集的划分方案数据集训练集规模测试集规模特征数对应模型酒店中文22008005000Bayes电影英文7003005000Bayes外卖中文300010005000SVMC150线性核训练测试比大约为 7:3 到 3:1这在文本分类里属于常见配置。700 条训练数据对机器学习模型来说偏少但对朴素贝叶斯而言反而够用——它假设特征独立小样本下不太容易过拟合。外卖数据集最大3000 条训练样本配合 SVM 线性核实测效果通常优于另外两个领域因为外卖评论句式短、情感词密集、噪声少。chi1.png和chi2.png是卡方检验特征选择的可视化结果evaluation.PNG是各模型评估指标对比图maxent_iteration.PNG是最大熵模型的迭代收敛曲线。这几张图不是摆设后面评估模型效果时可以直接对照看。3. 特征提取与降维feature_extraction.py 怎么把文本变成特征矩阵文本分类绕不开的环节是把原始文本转成模型能吃的数值特征。这份源码的特征提取思路和主流做法一致中文分词后用卡方检验CHI做特征选择选出最具有区分度的前 N 个特征词最终输出 LIBSVM 格式的特征向量。这种方案在 2016 年前后是教科书级的标准流程现在看依然不过时。3.1 卡方检验选特征为什么选前 5000 个而不是全部卡方检验的核心思想是衡量某个词和某个类别之间的相关性。如果一个词在正向文档中出现的频率显著高于在负向文档中的频率它对该分类任务的信息量就大。计算每个候选词的卡方值后按从大到小排序取前 5000 个词组成特征词表。5000 这个数字不是拍脑袋定的特征太多会引入噪声降低泛化能力太少又会丢失有效区分信息对万级语料来说3000 到 8000 之间通常能取得较好的平衡源码选择 5000 属于稳妥的中位数。# 卡方特征选择的核心计算 import math from collections import Counter def chi_square(word, pos_docs, neg_docs, total_pos, total_neg): 计算某个词的卡方值 word: 候选特征词 pos_docs: 包含该词的正向文档集合 neg_docs: 包含该词的负向文档集合 total_pos: 正向文档总数 total_neg: 负向文档总数 a len(pos_docs) # 正向且包含该词 b len(neg_docs) # 负向且包含该词 c total_pos - a # 正向且不包含该词 d total_neg - b # 负向且不包含该词 n total_pos total_neg # 卡方公式注意分母为0时的保护 denominator (a c) * (b d) * (a b) * (c d) if denominator 0: return 0.0 chi2 n * (a * d - b * c) ** 2 / denominator return chi2 def select_top_k_features(tokenized_docs, labels, k5000): 从分词后的文档中选出卡方值最高的k个词 tokenized_docs: 嵌套列表 [[词1, 词2, ...], ...] labels: 对应的情感标签列表1为正0为负 k: 期望保留的特征数 pos_docs [set(doc) for doc, label in zip(tokenized_docs, labels) if label 1] neg_docs [set(doc) for doc, label in zip(tokenized_docs, labels) if label 0] total_pos len(pos_docs) total_neg len(neg_docs) # 统计每个词出现在哪些文档中 word_doc_map {} for doc in pos_docs: for word in doc: word_doc_map.setdefault(word, [[], []])[0].append(id(doc)) for doc in neg_docs: for word in doc: word_doc_map.setdefault(word, [[], []])[1].append(id(doc)) word_chi2 {} for word, (pos_doc_ids, neg_doc_ids) in word_doc_map.items(): # 这里把文档ID集合转换为包含该词的文档数 score chi_square(word, pos_doc_ids, neg_doc_ids, total_pos, total_neg) word_chi2[word] score # 按卡方值降序取前k个 top_k sorted(word_chi2.items(), keylambda x: x[1], reverseTrue)[:k] return [word for word, _ in top_k]卡方计算的输入数据结构需要事先准备好pos_docs和neg_docs是包含某个词的所有文档的集合不是词频计数。我给出的word_doc_map用文档 ID 做标识避免同一个文档重复计数。k值可以直接替换成代码里的f-5000参数如果你想测试不同特征数对模型效果的影响改这个值重跑即可。需要留意的是chi_square函数的四个变量a、b、c、d中c和d的值来自文档总数减去包含该词的文档数需要确保文档 ID 的集合运算正确否则算出来的卡方值全部失真。特征选择完成后每篇文档就会被表示成一个 5000 维的向量维度上只有 0 和 1 两种取值——1 表示该特征词在这篇文档中出现0 表示未出现。这种 one-hot 式表示法虽然有信息损失丢失了词频但在 SVM 和朴素贝叶斯这类模型上二值特征往往比原始词频特征更抗噪声也是 LIBSVM 最常用的输入格式。3.2 从原始文本到特征向量分词、去停用词、向量化的完整链路特征提取的完整链路如下原始语料 → 分词 → 去停用词 → 卡方特征选择 → 特征向量化 → 输出到 Excel 或 LIBSVM 格式文件。中文部分依赖结巴分词英文部分按空格切分即可。停用词表直接复用punctuation_dict.txt再加进去一批无实际情感含义的高频词比如「的」「了」「是」「在」。# 标准的中文文本清洗与向量化流程 import jieba import re def load_stopwords(pathf_dict/punctuation_dict.txt): stopwords set() with open(path, r, encodingutf-8) as f: for line in f: word line.strip() if word: stopwords.add(word) # 补充常见无意义高频词 extra_stops {的, 了, 是, 在, 就, 都, 也, 很, 还, 被} stopwords.update(extra_stops) return stopwords stopwords load_stopwords() def preprocess_text(raw_text): 原始文本清洗与分词 返回: 去停用词后的词列表 # 去除URL、用户、特殊符号 text re.sub(rhttps?://\S|www\.\S, , raw_text) text re.sub(r\w, , text) # 去除所有非中英文、数字、常见标点的字符 text re.sub(r[^\u4e00-\u9fa5a-zA-Z0-9\s。、], , text) # 结巴分词 words jieba.lcut(text) # 去停用词和单字 filtered [w for w in words if w.strip() and w not in stopwords and len(w) 1] return filtered def text_to_vector(tokens, feature_words): 把分词结果转成特征向量 tokens: preprocess_text 返回的词列表 feature_words: select_top_k_features 选出的特征词表 返回: 与 feature_words 等长的0/1列表 token_set set(tokens) return [1 if word in token_set else 0 for word in feature_words]preprocess_text里的正则表达式[^\u4e00-\u9fa5a-zA-Z0-9\s。、]会把表情符号、emoji 全部剔除。这里有一个权衡新浪微博等社交媒体数据中 emoji 本身携带情感信息全部剔除会损失信号。但这份源码针对的是酒店、外卖、电影评论这三类文本中 emoji 占比很低剔除不会明显影响效果。如果你想处理社交媒体评论可以考虑单独把 emoji 映射成情感标签而不是直接删掉。text_to_vector返回的是 0/1 向量长度为特征词表的大小。5000 个特征对应 5000 维向量每条样本占用的内存大约几十 KB3000 条训练样本全部加载也不到几百 MB内存完全不是问题。真正耗时的环节是卡方检验时的词-文档映射构建如果语料超过 5 万条建议用稀疏矩阵来存储文档-词频关系否则内存消耗会指数级增长。4. 四套分类器实现classifiers.py 与 tools.py 的核心逻辑源码里的classifiers.py封装了 k-NN、朴素贝叶斯、最大熵、SVM 四个分类器的实现tools.py负责数据处理和评估指标计算。四套模型在同一条特征提取链路下运行对比结果时才能公平反映模型本身的差异。每套模型都可以独立运行控制台会输出准确率、召回率、F1 值等评估指标。4.1 朴素贝叶斯与最大熵从概率视角看文本分类朴素贝叶斯假设特征之间相互独立计算每个类别下特征向量的条件概率然后取后验概率最大的类别作为预测结果。实际代码中为了避免概率为 0 的极端情况会做拉普拉斯平滑。最大熵模型则放弃了独立性假设通过约束条件逐步迭代调整特征权重在梯度下降或迭代缩放算法的驱动下逼近最优解。两者在中小数据集上的准确率通常很接近但最大熵的收敛速度和特征维度的关系更密切。# 朴素贝叶斯与最大熵分类器的核心实现 import math from collections import defaultdict class NaiveBayesClassifier: def __init__(self, alpha1.0): self.alpha alpha # 拉普拉斯平滑系数 self.prior {} # 先验概率 P(c) self.cond_prob {} # 条件概率 P(w|c) self.classes [] def fit(self, X, y, feature_words): X: 0/1特征矩阵list of list y: 标签列表 feature_words: 特征词表 self.classes list(set(y)) n_samples len(y) # 计算先验概率 class_counts defaultdict(int) for label in y: class_counts[label] 1 for c in self.classes: self.prior[c] class_counts[c] / n_samples # 计算条件概率 P(word|c) # 先统计每个类别下每个词出现的文档数 word_class_count defaultdict(lambda: defaultdict(int)) class_total_count defaultdict(int) for idx, label in enumerate(y): class_total_count[label] 1 for j, val in enumerate(X[idx]): if val 1: word_class_count[label][j] 1 # 应用拉普拉斯平滑计算条件概率 vocab_size len(feature_words) for c in self.classes: self.cond_prob[c] {} total class_total_count[c] for j in range(vocab_size): count word_class_count[c][j] self.cond_prob[c][j] (count self.alpha) / (total self.alpha * vocab_size) def predict(self, X): predictions [] for x in X: best_c None best_score -float(inf) for c in self.classes: # 用对数概率避免下溢 log_prob math.log(self.prior[c]) for j, val in enumerate(x): if val 1: log_prob math.log(self.cond_prob[c][j]) if log_prob best_score: best_score log_prob best_c c predictions.append(best_c) return predictions拉普拉斯平滑系数alpha默认取 1.0这是经验值。alpha越大对未在训练集中出现的特征的惩罚越强。在实际项目中如果特征维度很高超过 1 万建议把alpha下调到 0.5 左右否则大量未出现的特征会把真实信号淹没。预测阶段使用对数概率累加而不是概率连乘是因为 5000 个 0/1 特征的连乘结果会极小直接浮点运算会下溢成 0对数变换是必做的一步。最大熵的实现在思路上完全不同它定义特征函数通常是「特征词是否出现」的指示函数然后通过迭代缩放算法反复修正特征权重使得模型的经验分布与真实分布接近。实际应用中最大熵的训练时间通常是朴素贝叶斯的 5 到 10 倍配合maxent_iteration.PNG那张图可以看到迭代到 100 轮左右时模型已经收敛再多迭代只是浪费时间。4.2 SVM 与 k-NN边界划分与距离度量的两种哲学SVM 通过寻找最大间隔超平面来区分正负类泛化能力强是文本分类里的首选模型之一。SVM-waimai-train-3000-test-1000-f-5000-C-150-2016-06-02-23-46-11-lin.xls里的C-150表示惩罚系数取 150lin表示线性核。C 值控制对误分类样本的容忍度C 越大对训练集拟合越充分但过大会导致过拟合C 越小模型越偏向简单的超平面。150 这个值偏高说明作者更看重训练集上的准确率。k-NN 则完全不同它不做任何训练直接拿测试样本与全部训练样本计算距离取距离最近的 K 个邻居中占比最高的类别作为预测结果。距离度量方式一般采用欧氏距离或余弦相似度对于 0/1 特征向量余弦相似度通常比欧氏距离更合理——因为它不受向量长度影响。# SVM与k-NN的调用封装 from sklearn.svm import SVC from sklearn.neighbors import KNeighborsClassifier from sklearn.metrics import classification_report def train_svm(X_train, y_train, C150, kernellinear): 训练SVM分类器 C: 惩罚系数 kernel: 核函数文本分类默认线性核 clf SVC(CC, kernelkernel, probabilityFalse, tol0.001) clf.fit(X_train, y_train) return clf def train_knn(X_train, y_train, k5, metriccosine): 训练k-NN分类器 k: 邻居数 metric: 距离度量方式 clf KNeighborsClassifier(n_neighborsk, metricmetric) clf.fit(X_train, y_train) return clf # 训练与评估示例 def run_evaluation(X_train, y_train, X_test, y_test, model_typesvm): if model_type svm: model train_svm(X_train, y_train, C150, kernellinear) elif model_type knn: model train_knn(X_train, y_train, k5, metriccosine) else: raise ValueError(Unsupported model type) y_pred model.predict(X_test) # 打印完整评估报告包含precision、recall、f1-score print(classification_report(y_test, y_pred, target_names[负向, 正向])) return y_predSVM 的tol0.001是收敛容差值越小训练越充分但耗时越长。文本分类中 5000 维特征、3000 条训练样本的数据量线性 SVM 训练时间通常在秒级。k-NN 的 K 值调参有个常见误区——K 越大模型越平滑但过大的 K 会把边界样本也拉入决策导致准确率下降。从该源码的场景看K 取 5 是不错的默认值但通过交叉验证往往会发现 K3 或 K11 在这个数据集上效果更好这个只能实测。传统机器学习的真实优势在特征维度远小于样本数量的场景下最能体现。5000 维特征对应 3000 条训练样本特征数大于样本数此时 SVM 的泛化能力依赖正则化C 值需要调小一些才能避免过拟合。作者选了 C150 可能在自己的测试集上有过验证你也可以在 50 到 200 之间做一轮网格搜索。5. 评估结果与避坑记录evaluation.PNG 背后的数据怎么看evaluation.PNG是四套模型在三个数据集上的综合评估对比图maxent_iteration.PNG展示最大熵模型每轮迭代的准确率变化。评估阶段最容易出的问题不在于模型代码写没写对而在于训练测试集划分是否合理、评估指标是否选对、特征生成过程是否泄漏了测试集信息。很多跑出来的结果虚高就是因为代码里不经意间把测试集的信息混进了特征选择环节。5.1 从文件名解析评估结果train/test 比例与特征数对准确率的影响四个 Excel 文件分别对应不同模型在不同数据集上的跑分结果文件名已经透露了关键信息Bayes-hotel-train-2200-test-800-f-5000朴素贝叶斯酒店语料2200 训练 / 800 测试特征数 5000Bayes-movie2-train-700-test-300-f-5000朴素贝叶斯电影语料700 训练 / 300 测试特征数 5000SVM-waimai-train-3000-test-1000-f-5000-C-150-linSVM 线性核外卖语料3000 训练 / 1000 测试特征数 5000C150一眼能看出的规律是训练数据越多的数据集模型准确率普遍更高。外卖数据集的 SVM 结果通常能做到 85% 以上酒店数据的贝叶斯结果在 80% 上下电影数据只有 700 条训练样本准确率会掉到 75% 左右。这不是模型不行而是数据量不足的必然结果。特征数从几百逐步提升到 5000 的过程中准确率通常先快速上升后趋于平稳。chi1.png和chi2.png两张图应该展示了不同特征数下的准确率变化曲线可以看到 2000 个特征以后曲线基本走平。这意味着在实际项目中如果你计算资源有限用 2000 到 3000 个特征可以在几乎不损失准确率的情况下大幅缩短训练时间。评估指标上不能只盯准确率。当正负样本比例失衡时比如外卖评论中负向样本只占 20%准确率 80% 可能只是因为模型把所有样本都判成了正向。正确的做法是同时观察 precision、recall、F1-score这三个指标在classification_report的输出中都有。如果只关注准确率而在样本不均衡的数据集上做评估结果毫无参考价值。5.2 避坑清单词典匹配翻车的五个高频原因以下踩坑记录来自实际运行这类源码时最常见的报错和异常结果每一条都对应具体的现象和修复方式。踩坑一中文语料用英文分词器特征词表全是空现象跑完特征提取feature_words为空列表后续所有模型训练直接报维度为 0。原因源码里中英文语料共用了同一套预处理逻辑如果默认用空格分词中文文本会被当成长字符串整段保留卡方检验后不可能选出合理特征。解决预处理入口处按语料语言分流中文走jieba.lcut英文走str.split()。一个可复用的判断方式是统计文本中的字符类别占比中文字符占比超过 30% 就按中文流程处理。def smart_tokenize(text): chinese_chars len(re.findall(r[\u4e00-\u9fa5], text)) total_chars len(text.strip()) chinese_ratio chinese_chars / max(total_chars, 1) if chinese_ratio 0.3: return jieba.lcut(text) else: return text.lower().split()踩坑二否定词翻转整句把「不是不好」判成负向现象包含「不是不好」「不得不点赞」的句子被模型判为负向人工复核明显错误。原因否定词处理只做了简单的全局翻转遇到双重否定时逻辑彻底颠倒。not或「不」后面不管隔多远都把情感值翻转一次变成了反向的叠加。解决否定词翻转限定窗口范围一般取否定词后 2 到 3 个词同时遇到两个否定词时视为正向表达。源码中denial_dict.txt的覆盖范围也要确认是否包含「无」「莫」「非」等变体。踩坑三训练测试集划分前做了归一化测试集信息泄漏现象模型在测试集上的准确率高达 95%但换一批新数据掉到 70%明显不合常理。原因特征缩放或卡方特征选择时用了全量数据的统计信息再把这套参数应用到测试集上等于测试集的信息提前参与了训练。解决先划分训练集和测试集特征选择只基于训练集做。卡方检验、TF-IDF 拟合、归一化参数都只在训练集上计算测试集直接用训练集生成的参数做变换。这是数据泄漏的重灾区也是初学最容易忽略的点。踩坑四conjunction_dict.txt没有参与逻辑判断现象词典文件齐全但「虽然环境好但是服务差」这类转折句被判为正向。原因转折连词的作用是改变句子的情感重心——「但是」之后的语义权重应大于之前。如果代码里只加载了转折词词典却没有实现权重调整逻辑这些词典形同虚设。解决在情感得分计算中遇到转折词后对前半句得分打折扣后半句权重加倍。折扣系数推荐 0.3 到 0.5具体值靠验证集调参。踩坑五Excel 结果文件打不开或中文乱码现象生成的.xls文件用 Excel 打开后中文全部乱码或者提示文件格式损坏。原因写入 Excel 时用了错误的编码或者xls与xlsx格式混用。老版本xlwt库写.xls时只支持有限字符集。解决写入时明确指定编码为 UTF-8优先输出.xlsx格式。Python 侧用openpyxl或pandas.to_excel()更稳妥。这个坑不影响模型本身但会浪费十几分钟排查时间。6. 进阶调参与验证从 Excel 结果反推四个模型的适用边界源码跑通只是第一步真正有价值的是搞清楚四套模型各自适合什么场景以及如何调整参数获得更好的效果。你可以打开evaluation.PNG对照各模型的准确率和 F1 值结合下述原则选择自己的主力模型。以这份源码的数据分布来看朴素贝叶斯适合小样本高维特征场景SVM 适合样本量中等但特征区分度高的场景最大熵适合需要概率输出的场景k-NN 则最依赖距离度量和 K 值选择。特征数量的敏感性检验是个值得做的实验把代码中的f-5000依次改成f-1000、f-3000、f-8000分别跑一轮评估。你会看到 1000 个特征时准确率明显下降3000 到 5000 区间最稳定8000 之后可能不升反降——噪声特征开始干扰模型。以代码里的select_top_k_features函数为例把k参数暴露出来写个循环自动做这个敏感性分析输出一张「特征数-准确率」对照表这比只跑一次默认参数更能说明问题。K 值调优是 k-NN 模型的必做项。代码中的train_knn(X_train, y_train, k5, metriccosine)可以把k分别设成 3、5、7、11、15 跑一组对比配合交叉验证观察曲线。通常 K 太小时噪声干扰大太大时类别边界被模糊。余弦相似度在这个场景下通常优于欧氏距离因为 0/1 特征向量的欧氏距离受向量稀疏程度影响明显而余弦相似度只看方向。SVM 的 C 值调整策略也有套路先用默认值比如 1.0跑通记录准确率再按对数刻度尝试 C0.1、1、10、100、200找到准确率峰值所在区间后在相邻值之间做细粒度搜索。线性核在文本分类中通常已经足够RBF 核虽然理论上可以拟合更复杂的边界但参数搜索成本翻倍在小数据集上还容易过拟合。# 交叉验证选择最优C值 from sklearn.model_selection import cross_val_score import numpy as np def select_best_c(X, y, c_values): best_c None best_score 0.0 results {} for c in c_values: model SVC(Cc, kernellinear, tol0.001) scores cross_val_score(model, X, y, cv5, scoringaccuracy) mean_score np.mean(scores) results[c] mean_score print(fC{c:.1f}, 平均准确率{mean_score:.4f}) if mean_score best_score: best_score mean_score best_c c return best_c, results # 候选C值按对数均匀分布 best_c, results select_best_c(X_train, y_train, [0.1, 0.5, 1.0, 5.0, 10.0, 50.0, 100.0, 200.0]) print(f最优C值: {best_c})交叉验证的cv5表示把训练集切成 5 份轮流用 4 份训练 1 份验证。这比单次划分训练测试集更可靠能减少划分随机性带来的评估波动。需要注意的是交叉验证只能在训练集上做最终评估还是要用独立的测试集。跑完上述调参之后记住一个原则这种词典加传统机器学习的方案准确率上限大约在 88% 左右想突破这个瓶颈需要引入词向量或深度学习模型。但在样本量小于 1 万、需要快速落地、要求结果可解释的场景下这套方案依然是第一选择。我自己做文本分类项目时不管最终要不要上深度学习都会先跑一遍这份 pipeline 作为 baseline——用传统方法拿到参考分数再决定后续要不要加复杂度。从那以后我每次做情感分析类项目都强制要求自己先复现这个流程确认数据质量没问题再谈模型升级这个习惯帮我避开过不少数据泄漏和特征工程的大坑。希望这份源码的拆解笔记能帮你在情感分析这条路上少走一段弯路。本文还有配套的精品资源点击获取