问卷评价模型全流程：AI学习影响的可复现建模

简介面向参加数学建模电工杯、关注人工智能教育影响评估的学生与指导教师这份材料提供一道完整赛题的成文参考重点解决问卷数据清洗、指标构建与影响评价的建模落地问题。压缩包仅含1个docx文档约871KB以赛题论文形式组织完整呈现摘要、问题重述、模型假设、符号说明及建模求解过程。读者可重点参考问卷缺失值与异常值处理、信效度检验、变量数值化编码以及基本信息、学习情况、AI态度、AI发展四类一级指标与二级指标的搭建思路其中还包含KMO与Bartlett检验、主成分分析和t-SNE降维、TOPSIS综合评价、受影响人群公共特征提取等方法组合。文末对积极影响、消极影响与未来趋势的分析报告写法也有示范。已有201人学习适合需要复盘建模流程、对照论文结构或查找方法衔接细节的参赛者查阅。1. 从一份问卷到一套可复现的评价模型这道题真正难在哪拿到“人工智能对大学生学习影响的评价”这道赛题多数人的第一反应是打开附件跑个描述统计画几张饼图就交差。我见过一支队伍就是这么干的第三天凌晨发现正文只有图表堆砌评价体系说不清、结论落不了地最后卡在“模型在哪”这一问上。这道题的核心不是问卷分析而是把一份带噪声、带逻辑矛盾、带大量定序选项的问卷走完“清洗—编码—建指标—检验—降维—综合评价—特征提取”的完整链条每一步都要说清为什么这么做、参数怎么定、结果怎么解释。它适合正在准备数学建模竞赛、课程设计或统计类毕设的同学直接套用结构也适合需要出一份问卷评价方案的分析岗参考。2. 数据预处理与问卷质量检验把脏数据挡在建模之前2.1 逻辑校验先行异常样本的判定标准这份问卷最容易翻车的地方不是缺失值而是逻辑矛盾。原始数据里有一类样本第 6 题“每周上网时长”选了“不上网”第 7 题“是否使用过学习软件工具”却选了“是”。这类样本不是随机缺失而是作答敷衍留着会直接污染后面的指标权重。我的处理方式是先查缺失、再查逻辑冲突两轮都过一遍。import pandas as pd import numpy as np df pd.read_excel(questionnaire.xlsx) # 第一轮缺失值统计逐列看缺失比例 missing_rate df.isnull().mean().sort_values(ascendingFalse) print(missing_rate[missing_rate 0]) # 第二轮逻辑冲突筛查上网时长选不上网但用过学习软件 mask_no_internet df[Q6_上网时长] E 不上网 mask_used_tool df[Q7_是否使用学习软件] A 是 conflict df[mask_no_internet mask_used_tool] # 逻辑冲突样本直接剔除不做插补 df_clean df.drop(conflict.index).reset_index(dropTrue) print(f剔除逻辑冲突样本 {len(conflict)} 条剩余 {len(df_clean)} 条)这段代码的判定逻辑很关键缺失值一般可以用均值、中位数或众数插补但逻辑冲突样本不能插补只能剔除因为矛盾出现在两个题项之间无论填哪个值都是错的插补等于人为制造虚假一致性。参数上需要注意的是列名映射实际数据里题目编号和列名往往对不上得先做一次列名对齐再跑。剔除后要记录剔除比例一般控制在总样本的 5% 以内比较稳妥超过这个量级就要在论文里专门说明并做敏感性分析否则评委会追问“剔了这么多还代表总体吗”。2.2 无用题项筛选与信效度检验问卷里总有几个题项是“凑数”的比如询问上网地点的题对本研究几乎没有解释力反而会增加维度噪声。筛选原则有两条一是与四个研究方向基本信息、学习情况、态度、发展中任何一项都无直接关联的剔除二是语义高度重叠的保留一题即可。质量检验走两条线效度用 KMO 和 Bartlett 球形检验信度用 Cronbachs α 系数。from factor_analyzer import FactorAnalyzer from factor_analyzer.factor_analyzer import calculate_kmo, calculate_bartlett_sphericity from sklearn.preprocessing import StandardScaler # 只对参与建模的题项做检验 items df_clean[item_columns].apply(pd.to_numeric, errorscoerce) kmo_all, kmo_model calculate_kmo(items) chi_square, p_value calculate_bartlett_sphericity(items) print(fKMO {kmo_model:.3f}, Bartlett p {p_value:.4f}) # Cronbachs alpha 手工实现便于解释公式 def cronbach_alpha(data): k data.shape[1] # 题项数 var_items data.var(axis0, ddof1).sum() # 各题项方差之和 var_total data.sum(axis1).var(ddof1) # 总分方差 return k / (k - 1) * (1 - var_items / var_total) print(fCronbachs alpha {cronbach_alpha(items):.3f})KMO 的判断标准是0.9 以上极佳0.8 以上良好0.7 以上中等0.6 以上勉强可接受低于 0.6 就不适合做因子降维了。Bartlett 检验看 p 值是否显著小于 0.05显著说明题项之间存在相关结构做降维才有意义。α 系数的经验阈值是 0.9 以上甚佳、0.8 到 0.9 不错、0.7 到 0.8 可接受、0.6 到 0.7 一般、0.5 以下考虑重编问卷。实际赛题数据里 α 落在 0.6 到 0.7 区间很常见这时候不要慌如实报告并解释“问卷信度可接受结论需结合样本量谨慎解读”比硬凑一个 0.9 更有说服力。我在自查时还发现一个坑如果对全部题项一起算 α剔除掉低相关题项后 α 会明显回升所以题项筛选和信度检验要放在同一轮里迭代一次。2.3 定序题的数值化编码规则问卷全是选择题必须转成数值才能算权重。编码不是随便给个序号要保证数值大小反映选项的递进方向。以上网时长为例“不上网”编码为 1“7 小时以下”为 2依次到“20 小时以上”为 5这样数值越大代表使用强度越高后续算熵权、做相关分析时方向才是一致的。# 有序类别编码需保持单调方向 ordinal_map { Q6_上网时长: {E 不上网: 1, A 7小时以下: 2, B 7-14小时: 3, C 14-20小时: 4, D 20小时以上: 5}, Q3_专业: {1 文法类: 1, 2 理工类: 2, 3 经管类: 3, 4 艺术教育类: 4}, } # 无序类别用哑变量避免虚假大小关系 nominal_cols [Q4_年级, Q5_性格] df_encoded df_clean.copy() for col, mapping in ordinal_map.items(): df_encoded[col] df_encoded[col].map(mapping) df_encoded pd.get_dummies(df_encoded, columnsnominal_cols, drop_firstTrue)这里的关键区别是有序题和无序题要用两套编码。上网时长、专业这类有强弱递进关系的用整数编码保留顺序信息年级、性格这类没有大小关系的直接编成 1、2、3、4 会引入虚假的数值差比如“大二1、大一2”会让模型误以为年级越高数值越大。改用哑变量独热编码后每个类别独立成列虽然维度增加了但降维步骤会处理掉这部分冗余。参数上要注意drop_firstTrue它移除每个变量的第一个类别作为基准组避免完全共线性否则后面的相关矩阵会退化。3. 指标体系构建四个一级指标为什么站得住3.1 一级指标与二级指标的对应关系指标体系直接决定了后面全部模型的可信度。这份问卷的设计本身就有四个清晰的板块顺着这个结构建一级指标最自然也最好解释。四个一级指标与题目对应关系如下一级指标二级指标题项指标定位个人基本信息性别、专业、年级、性格、上网方式、上网时长描述样本特征用于分组差异分析学习情况使用学习软件的时间、资料分享意愿、网络活动类型、学习困扰、关注点刻画学习行为与需求对人工智能态度辅助完成作业、小测验、论文的意愿、总体赞同度、可信度判断、适应方式核心解释变量衡量接受度人工智能发展期望效果、是否可取代教师、安全性顾虑、重要方面、期望功能、融合环节衡量对未来的预期这套对应关系的合理性在于四个维度覆盖了“是谁—怎么学—怎么看待—怎么看未来”的完整链条缺任何一个都会有解释缺口。比如只有态度没有发展就解释不了“为什么这部分学生接受度高但使用率低”这类现象。3.2 用熵权法谈优先级用相关分析谈科学性指标合理性要回答两件事优先级和科学性。优先级我一般用熵权法定量说明它完全基于数据本身的离散程度不受主观判断干扰。熵值越大说明该指标下样本分布越均匀、区分度越低、权重应该越小反之则越大。def entropy_weight(X): # X: n 个样本 × m 个指标全部为正向化数值 X X.astype(float) n, m X.shape # 极差标准化到 [0,1]避免不同量纲不可比 X_norm (X - X.min()) / (X.max() - X.min() 1e-9) # 加小量防止 log(0) P (X_norm 1e-9) / (X_norm 1e-9).sum(axis0) e -(P * np.log(P)).sum(axis0) / np.log(n) # 信息熵 d 1 - e # 差异系数 return d / d.sum() # 归一化权重代码里有两处容易被忽略的设计。一是极差标准化只用最小值最大值做线性映射不改变样本间的相对大小也不会像 z-score 那样在指标方差接近 0 时放大噪声二是加1e-9的小量因为标准化后可能出现 0 值取对数会得到负无穷权重计算直接崩掉。算出的权重如果某一项异常高比如超过 40%先别急着下结论回头看清楚这是不是某个题项选项分布极度偏斜造成的这类权重在解读时要注明局限性。科学性则用 Pearson 相关矩阵来支撑一级指标内部各二级指标之间应存在中等程度相关0.3 到 0.7 比较理想过高说明题项冗余过低说明维度内部不统一两种情况都要在文中交代。3.3 相关矩阵的解读陷阱相关性检验还有一个隐性作用提前预判降维会不会成功。如果某个一级指标下的题项之间相关系数普遍低于 0.2说明这些题项测的不是同一个潜在变量硬做 PCA 很可能第一个主成分累计贡献率就不够。因此建完指标体系后务必把每个一级指标内部的完整相关矩阵看一遍输出对角线以下的显著项。corr df_encoded[basic_info_cols].corr(methodpearson) # 只保留 p 0.05 的显著相关对避免把偶然相关当依据 from scipy.stats import pearsonr sig_pairs [(i, j, corr.loc[i, j]) for i in corr.index for j in corr.columns if i j and pearsonr(df_encoded[i], df_encoded[j])[1] 0.05]这段代码的用途是筛掉不显著的相关对。很多人直接把相关矩阵整张贴上去其中一半系数 p 值大于 0.05等于把噪声当结论。筛完之后按相关系数绝对值排序取前几组在文中展开解释比如“性别与专业显著负相关说明文科专业女生比例较高”这种解释比单纯列数字有价值得多。4. 降维与综合评价PCA、t-SNE 分流TOPSIS 排序出结论4.1 KMO 分流规则哪种指标走 PCA哪种走 t-SNE降维前必须先做分指标的质量检验因为不同一级指标的数据结构差异很大。前面全局 KMO 合格不代表每个子指标都适合 PCA。判定规则是单个一级指标的 KMO 大于 0.6 且 Bartlett 检验 p 值显著走主成分分析不满足的走 t-SNE。这个分流的道理在于PCA 基于线性相关只有当指标之间存在较强线性结构时降维结果才有意义且主成分可以解释为“某种综合倾向”。t-SNE 处理的是非线性局部结构适合指标间关系复杂、线性相关弱的情况代价是降维结果的坐标没有明确的物理含义只能用来观察样本聚集和做后续的聚类特征描述。实际数据里“学习情况”这类包含多选、行为类型混杂的指标KMO 常常掉到 0.5 以下走 t-SNE 是务实的选择而不是模型凑不齐的妥协。4.2 主成分分析累计贡献率与载荷解释PCA 的实操要点是标准化、看累计贡献率、解释载荷。原始指标量纲不同上网时长是 1 到 5年龄类别的哑变量是 0 或 1不标准化直接算协方差矩阵方差大的指标会独占主成分结论就废了。from sklearn.decomposition import PCA # 第一步标准化是硬要求不能省 scaler StandardScaler() X_std scaler.fit_transform(df_encoded[attitude_cols]) pca PCA() X_pca pca.fit_transform(X_std) # 累计贡献率达到 85% 时确定保留的主成分个数 cum_ratio np.cumsum(pca.explained_variance_ratio_) k np.argmax(cum_ratio 0.85) 1 print(f保留 {k} 个主成分累计贡献率 {cum_ratio[k-1]:.3f}) # 输出载荷矩阵用于解释主成分含义 loadings pd.DataFrame(pca.components_[:k].T, indexattitude_cols, columns[fPC{i1} for i in range(k)])累计贡献率的阈值取 0.85 是统计上的常用约定低于这个数说明丢掉的信息太多高于 0.9 又可能保留过多主成分导致后续 TOPSIS 维度依然偏高。载荷矩阵的作用是给主成分起名字如果 PC1 在“辅助完成作业”“辅助完成论文”“总体赞同度”上载荷都很高那 PC1 就是“工具使用意愿”因子这个命名要写进论文因为后面的综合评价结果需要靠它来解释。这里还有个容易忽略的点PCA 前如果指标做过正向化但没做标准化explained_variance_ratio_会被量纲大的指标主导得到的“贡献率”其实是假的。4.3 t-SNE 参数调优困惑度与学习率t-SNE 只有两个参数值得反复调困惑度perplexity和学习率。困惑度反映每个点考虑多少个近邻一般取 5 到 50样本量小的子集取小值。学习率通常设 200 左右太低会让点挤成一团太高会让结构散开失真。from sklearn.manifold import TSNE tsne TSNE( n_components2, perplexity30, # 子集样本数百条时取 20-30 比较稳 learning_rate200, # 默认值过大易发散 initpca, # 用 PCA 初始化结果更稳定可复现 random_state42 # 固定随机种子保证他人可复现 ) X_tsne tsne.fit_transform(X_std_learning)random_state必须固定否则每次跑出来的坐标都不一样论文里的图和文字对不上这是评委会抽查复现性时的常见扣分项。initpca的作用是用 PCA 结果作为初始坐标比随机初始化收敛更稳也能缓解 t-SNE 在不同随机种子下结构不一致的问题。降维后的二维坐标直接进 TOPSIS 时会有一个隐含假设两个 t-SNE 维度的方向和距离有可比意义。严格来说这个假设偏弱所以我在文中会注明“t-SNE 降维结果主要用于刻画样本间相对接近程度综合排序对这部分指标的解释需谨慎”这样结论的口径就稳了。4.4 TOPSIS 综合评价正负理想解与排序结论把四组降维后的数据横向拼成一张综合数据表列是各一级指标降维后的得分行是样本最后统一做 TOPSIS。TOPSIS 的逻辑是每个样本到正理想解各列最优值和负理想解各列最差值的距离越靠近正理想解得分越高。def topsis(X, weightsNone): X np.array(X, dtypefloat) # 向量归一化消除量纲影响 norm X / np.sqrt((X ** 2).sum(axis0)) if weights is None: weights np.ones(X.shape[1]) / X.shape[1] V norm * weights best V.max(axis0) # 正理想解 worst V.min(axis0) # 负理想解 d_best np.sqrt(((V - best) ** 2).sum(axis1)) d_worst np.sqrt(((V - worst) ** 2).sum(axis1)) return d_worst / (d_best d_worst) # 贴近度越大越好 scores topsis(combined_reduced, weightsentropy_weights) rank np.argsort(-scores) # 降序排名贴近度的公式决定了它的取值范围在 0 到 1 之间越接近 1 说明样本越接近理想状态。权重可以直接用前面熵权法算出的组合权重也可以用等权做对照两种结果都跑一遍如果排序前 20% 的样本高度重合说明结论稳健这个交叉验证写进论文是加分项。排名靠前的样本要回头做公共特征提取把这批人的基本信息、行为选项做频数对比找出比例明显高于总体的特征比如“高影响群体中理工科、每周上网 20 小时以上、愿意用工具完成论文的比例显著偏高”。这一步是把模型输出翻译成自然语言结论的唯一通道不做提取综合评价就只是干巴巴的一列分数。提示TOPSIS 对极端值敏感拼接前务必确认每个降维得分没有离群点画一次箱线图检查个别拉偏的样本要单独标出但不剔除在结论里说明其影响。5. 避坑与常见问题这几处翻车点几乎每队都踩5.1 相关性高就删指标删完 KMO 掉下来现象是发现两个题项相关 0.85直接删一个结果这个一级指标的 KMO 从 0.7 掉到 0.5 以下PCA 用不了。原因是高相关恰恰是 PCA 降维的前提删掉之后剩下的题项彼此独立公因子结构就散了。正确做法是先保留让 PCA 自己把冗余吸收进同一个主成分只有在两个题项语义完全重复、载荷表现完全一致时才考虑删。5.2 t-SNE 不固定随机种子图和论文对不上现象是第二天复跑图上点的位置全变了文字描述的“左下角聚集”变成了“右上角”。原因是 t-SNE 初始化随机且对局部结构敏感不固定种子就无法复现。解决方式在代码里已经写了random_state固定initpca让初始坐标确定化两次运行结果基本一致后再写文字。5.3 编码方向搞反权重解释全反了现象是熵权算出来“上网时长”权重很高写结论时把“时长长”当成负面影响但编码里“20 小时以上”是 5、本来代表使用强度高不必然负面。原因是有序编码只保证单调不保证价值方向把“强度”误读成“好坏”。解决办法是在编码表旁边写一列“数值方向含义”正文每次引用权重时对照这列确认含糊的地方改成中性表述。5.4 全样本算信度掩盖了分维度的问题现象是整体 α 系数 0.68看着可接受但态度维度的 α 只有 0.42等于这个核心维度内部根本不一致。原因是信度必须按维度分别报告整体值会被题项多的维度稀释。改法很简单对四个一级指标分别算 α低于 0.5 的维度要么合并题项要么在局限性里明说。5.5 结论只写排序不写特征评价体系空转现象是 TOPSIS 排完名次正文只有一句“排名越靠前受影响越大”没有下一步。原因在于把综合排序当成了终点而赛题要的是明确、有说服力的结论。补法就是回到原始问卷对前 20% 和后 20% 两组做选项分布对比找出差异显著的特征项把这些特征写成结论的主干。6. 验收与答辩怎么证明这套模型不是跑通了就算交付前我会走一遍固定的自查流程顺序是逻辑冲突样本剔除比例是否在合理范围并有记录、每个一级指标的分维度信度是否单独报告、KMO 和 Bartlett 结果是否与后续降维方法一一对应、PCA 累计贡献率是否达到阈值且载荷有命名解释、t-SNE 是否有固定种子和参数说明、TOPSIS 权重来源是否交代清楚、排名靠前群体的特征提取是否有对比数据支撑。这套清单里的每一项都对应答辩时最可能被追问的一个问题提前准备好答案现场就不慌。验收材料建议按这个结构组织验收项合格标准常见失分点数据清洗记录缺失率、冲突剔除数、剔除比例均有说明只写“已清洗”无具体数字信效度检验分维度报告 αKMO 与 Bartlett 同时给只给一个总体 α降维方法方法与 KMO 结果对应参数固定可复现PCA 前未标准化综合评价权重来源明确附等权对照结果排序无权重依据结论有群体特征对比结论可追溯回数据只给排名不给解释答辩时最有效的技巧不是把所有公式念一遍而是准备一张“方法选择对照表”左边写数据结构特征右边写选了哪个方法、为什么。评委大概率会问“为什么这里用 t-SNE 不用 PCA”你指着表回答“这个维度 KMO 只有 0.42线性相关不成立PCA 的主成分解释力不足”比背定义管用得多。还有一个小习惯把每一步的中间结果存成独立文件命名带步骤编号答辩演示时按编号打开评委会觉得你的流程是可审计的这比口头强调严谨更有分量。注意论文里所有“显著”“较强”这类表述后面都要跟具体数值和判断阈值没有阈值的形容在建模评审里基本等同于没做分析。从那以后我每次带队做这类问卷评价题都强制要求先把“清洗—检验—降维—排序—特征”五个环节各存一份中间结果任何一个环节被推翻都能快速回退重跑而不是从头再来一遍。这套习惯救过我不止一次也希望帮到你。本文还有配套的精品资源点击获取