基于ResNet优化的阿尔茨海默症识别：课程设计全流程指南

简介基于ResNet优化模型的阿尔茨海默症识别属于深度学习课程设计类资源包适合正在完成毕业设计、课程大作业或工程实训的高校学生也适合希望从基础入手的深度学习进阶学习者。资源围绕医学影像分类任务展开提供多种可运行的实现方案2D模型采用将79张切片组合为多通道输入的方式3D模型直接进行体积卷积另有MedicalNet医疗影像预训练模型作对比并配套ResNet基础生成代码便于按需修改拓展。包内共13个文件以Python脚本和Jupyter Notebook为主6个py、3个ipynb兼顾两个PDF参考论文、一个测试集预测结果CSV及README说明文档压缩包仅2.06MB结构清晰、便于快速定位。已有90人学习下载。使用这些代码可学习到医学影像预处理、不同维度的卷积建模、预训练权重迁移、训练测试流程设计等关键思路能有效减少从零搭建模型的时间适合作为项目起步的参考资料。1. 为什么课程设计选ResNet做阿尔茨海默症识别一个能打又不至于毕不了业的选题课程设计选题最怕两种极端一种是简单到老师觉得你在糊弄另一种是复杂到答辩前一周还在为跑通模型发愁。基于ResNet优化模型的阿尔茨海默症识别正好卡在中间——ResNet作为深度学习CNN里的经典骨架成熟稳定、资料多、不挑显卡而阿尔茨海默症AD识别又是个正经且有医学价值的图像分类场景能承载数据预处理、网络改造、训练调参、结果可视化一整条完整的课程设计链路。所谓“优化模型”落在实处的就是加注意力模块、做特征融合、调训练策略这几件事。下面会从MRI切片数据到最终答辩产物的完整过程逐层拆开给出可复现的参数、命令和代码顺便把课程设计阶段最容易翻车的五个现场提前指出来。适合正在做深度学习课程设计、毕业设计或者想入门医学图像分类、想在ResNet上做改进实验的读者。2. 从MRI到分类标签阿尔茨海默症识别的数据准备与预处理数据决定上限模型决定下限。这句话在医学图像分类里尤其成立。课程设计里最常见的翻车不是网络写不出来而是数据一开始就埋了雷标签错位、划分不干净、增强过度。这一章先把数据链路理顺后面的模型工作才有意义。2.1 数据集选型ADNI还是Kaggle阿尔茨海默症公开数据集里ADNIAlzheimer‘s Disease Neuroimaging Initiative是科研公认的标准但它需要走官网申请流程审批周期按周算课程设计的时间表根本等不起。真正被用得多的是Kaggle上一份四分类MRI切片数据集类别分别为NonDemented、VeryMildDemented、MildDemented、ModerateDemented图像是2D切片JPG量级在几千张对课程设计来说完全够用。我的建议是直接选Kaggle。注意这份数据存在一个结构性问题ModerateDemented类别的样本量明显偏少直接拿去做四分类模型很容易在少数类上摆烂。实操中有两种处理方式保留四分类但给少数类加权或者把VeryMildDemented和MildDemented合并成“轻度认知障碍”做成三分类。三分类的类别分布更均衡报告里也好解释我做课程设计辅导时更推荐后者。对比项ADNIKaggle Alzheimer‘s Dataset获取方式官网申请审批周期长直接下载数据形态含MRI、PET、临床指标等多模态2D MRI切片JPG格式标注粒度有详细临床评估结果四分类粗略标签适合场景科研级实验、论文课程设计、入门实践2.2 预处理管线裁剪、归一化与数据增强的参数怎么设拿到数据后第一件事是写一个Dataset类把图片路径和标签对齐。这里有几个参数直接决定后面训练是否顺利。import os from PIL import Image from torch.utils.data import Dataset import torchvision.transforms as transforms class AlzheimerDataset(Dataset): def __init__(self, root_dir, label_map, transformNone): self.root_dir root_dir self.label_map label_map # {NonDemented: 0, VeryMildDemented: 1, MildDemented: 2, ModerateDemented: 3} self.transform transform self.samples [] for cls_name, cls_idx in label_map.items(): cls_dir os.path.join(root_dir, cls_name) for fname in os.listdir(cls_dir): if fname.lower().endswith((.jpg, .jpeg, .png)): self.samples.append((os.path.join(cls_dir, fname), cls_idx)) def __len__(self): return len(self.samples) def __getitem__(self, idx): path, label self.samples[idx] # 原始MRI是灰度图先显式转L再复制成三通道避免PIL隐式转换带来的通道歧义 img Image.open(path).convert(L).convert(RGB) if self.transform: img self.transform(img) return img, label train_transform transforms.Compose([ transforms.Resize((256, 256)), transforms.RandomCrop(224), # 先放大再随机裁剪相当于多了一重平移增强 transforms.RandomHorizontalFlip(p0.5), transforms.RandomRotation(degrees10), transforms.ToTensor(), transforms.Normalize(mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225]) ]) val_transform transforms.Compose([ transforms.Resize((224, 224)), transforms.ToTensor(), transforms.Normalize(mean[0.485, 0.456, 0.406], std[0.229, 0.224, 0.225]) ])这段代码里有几个参数值得说清楚。第一convert(L).convert(RGB)是把单通道灰度图复制成三通道因为后面加载的ImageNet预训练权重第一个卷积层期望输入是三通道不改通道直接用会报shape mismatch这是新手最容易卡住的地方。第二训练集用Resize到256再做RandomCrop到224验证集直接Resize到224保证了训练时有裁剪增强、验证时每次输入一致。第三RandomRotation的degrees设成10不要超过15。MRI切片有标准的解剖方位旋转太多会产生生理上不存在的图像。同理不要加RandomVerticalFlip大脑上下翻转之后的特征没有任何医学合理性。第四Normalize直接沿用ImageNet的mean和std严格讲医学灰度图的分布和自然图像差异很大但既然加载了ImageNet预训练权重特征提取器期望的输入范围就是ImageNet的统计值这里沿用比重新统计更有效。增强策略在医学图像上要克制。自然图像里那种随意的色彩抖动、大角度旋转用在MRI上只会引入伪特征。水平翻转可以用课程设计阶段不需要纠结左右脑不对称这种研究级问题。如果你完全不用预训练权重那可以保留单通道输入并把模型的conv1改掉但代价是训练时间成倍增加效果还不一定好不建议走这条路。2.3 按患者划分数据集防止数据泄露的第一道关数据划分是课程设计里最容易被忽视、也最致命的环节。常见错误是把所有图像随机打乱后按7:2:1切分。这份数据里同一个患者的多个切片高度相似随机切分会让同一个患者的切片同时出现在训练集和测试集模型实际记住的是患者ID而不是病灶特征测试集准确率虚高。答辩时老师问一句“数据怎么划分的”就会露馅。正确做法是先按患者ID分组再把整组划入某一个集合。假设文件名前缀是患者ID划分代码可以这样写import os import random from collections import defaultdict def split_by_patient(root_dir, train_ratio0.7, val_ratio0.1, seed42): patient_dict defaultdict(list) for cls_name in os.listdir(root_dir): cls_dir os.path.join(root_dir, cls_name) if not os.path.isdir(cls_dir): continue for fname in os.listdir(cls_dir): # 假设文件名格式为 患者ID_其他信息.jpg例如 0123_切片01.jpg pid fname.split(_)[0] patient_dict[pid].append((cls_dir, fname)) patient_ids list(patient_dict.keys()) random.seed(seed) random.shuffle(patient_ids) n len(patient_ids) n_train int(n * train_ratio) n_val int(n * val_ratio) train_files, val_files, test_files [], [], [] for pid in patient_ids[:n_train]: for cls_dir, fname in patient_dict[pid]: train_files.append((os.path.join(cls_dir, fname), cls_dir.split(os.sep)[-1])) for pid in patient_ids[n_train:n_train n_val]: for cls_dir, fname in patient_dict[pid]: val_files.append((os.path.join(cls_dir, fname), cls_dir.split(os.sep)[-1])) for pid in patient_ids[n_train n_val:]: for cls_dir, fname in patient_dict[pid]: test_files.append((os.path.join(cls_dir, fname), cls_dir.split(os.sep)[-1])) return train_files, val_files, test_files逻辑核心是把患者ID作为划分的最小单位这样同一个患者的所有切片只会出现在一个集合里。如果Kaggle的原文件名里没有患者ID可以用文件名前缀正则提取实在提取不了就如实写进报告承认测试集结果存在一定的乐观偏差答辩时主动说明远好过被老师问出来。另外训练集只有几千张图时建议在代码里显式统计一下每个类别的样本数。特别是ModerateDemented这类少数样本如果只有两三百张后面一定要配合加权损失否则模型分分钟躺平。3. 搭建ResNet识别模型残差块、预训练权重与分类头改造数据准备好了接下来是搭模型。课程设计阶段不需要从零手写ResNet的每一个残差块——torchvision里现成的实现足够可靠但你得知道每个改动的含义答辩时才不会被问住。3.1 残差连接ResNet为什么能成为深度CNN的立身之本ResNet核心就一件事残差连接。传统卷积网络加深到一定程度后反向传播时梯度一层层连乘越靠前的层梯度越小训练基本停滞这就是梯度消失。ResNet在每一个残差块里引入恒等映射输出变成 y F(x, {W_i}) x梯度可以通过x这条短路路径直接传回浅层网络再深也能训练。另一个常被忽略的好处是残差结构让网络在最坏情况下可以退化成浅层网络深层部分学不到东西也不会比浅层更差。这个性质和阿尔茨海默症识别有直接关系。AD的影像学标志是海马体萎缩、脑皮层变薄这类局部且细微的变化这些信息主要存在于中间层分辨率较高的细粒度空间特征里。VGG那种纯串行结构每经过一次池化空间细节就丢一截ResNet靠skip connection把浅层的位置信息沿着旁路一路携带到深层等于给网络保留了一条“看细节”的通道。课程设计报告里如果能把这个逻辑写清楚比单纯堆网络层数有说服力得多。3.2 选择ResNet18还是ResNet50课程设计的正确打开方式课程设计数据集只有几千张图我的建议是先用ResNet18。ResNet18约1100万参数ResNet50约2500万在小数据集上ResNet50不仅训练慢还更容易过拟合。ResNet18在8GB显存的显卡上可以轻松跑32甚至64的batch size训练一个epoch以分钟计能支撑你快速迭代。正确姿势是先用ResNet18跑通全流程拿到baseline时间有余再上ResNet50做对比报告里多一组数据答辩时明显更有底气。import torch.nn as nn import torchvision.models as models def build_resnet(num_classes4, model_nameresnet18, pretrainedTrue): if model_name resnet18: model models.resnet18(pretrainedpretrained) elif model_name resnet50: model models.resnet50(pretrainedpretrained) else: raise ValueError(当前只支持resnet18和resnet50) # 动态读取最后一层全连接的输入维度 # ResNet18是512ResNet50是2048硬编码数字换模型时容易漏改 in_features model.fc.in_features # 替换分类头加Dropout抑制过拟合中间加一层隐层增强表达能力 model.fc nn.Sequential( nn.Dropout(0.3), nn.Linear(in_features, 256), nn.ReLU(inplaceTrue), nn.Dropout(0.3), nn.Linear(256, num_classes) ) return modelin_features用model.fc.in_features动态获取不要手写512或2048这是换模型时最容易踩的坑。分类头里两个Dropout夹一个隐层是常见做法Dropout在医学小数据集上非常管用如果你的数据量实在太小把分类头简写成nn.Linear(in_features, num_classes)也完全可以隐层不是必须的。注意pretrainedTrue会自动从网络下载权重。实验室网络不稳定的话先手动下载好权重文件再通过load_state_dict加载避免训练到一半卡在下载上。3.3 预训练权重的正确使用姿势迁移学习的边界与两个常见误用预训练权重在课程设计里是收益最高的选择。ImageNet预训练模型的前几层学到的是边缘、纹理、颜色斑块这类通用视觉特征这些特征在医学图像上同样有效真正需要重学的是深层语义特征和分类头。完全从零开始训练几千张图根本喂不饱ResNet效果大概率不如微调。常见误用之一是直接加载整套权重因为分类头输出维度不同而报size mismatch。常见误用之二是把全部参数都设置成可训练小数据集上很快过拟合。针对前者加载时要把fc相关的键剔除import torch def load_pretrained_weights(model, weights_path): state_dict torch.load(weights_path, map_locationcpu) # 剔除分类头相关的键当前模型的fc结构和预训练不一致直接加载必然报错 state_dict {k: v for k, v in state_dict.items() if not k.startswith(fc.)} # strictFalse允许缺失fc键其余层必须严格匹配 model.load_state_dict(state_dict, strictFalse) return model针对后者一个实用做法是分阶段训练先冻结特征提取层只训练分类头几个epoch让随机初始化的分类头先收敛到合理范围再解冻layer4做全模型微调。冻结写法如下# 只让layer4和fc参与训练其余层参数不变 for name, param in model.named_parameters(): if name.startswith(layer4) or name.startswith(fc): param.requires_grad True else: param.requires_grad False解冻后建议把初始学习率调低到原来的十分之一避免预训练特征被破坏。这里还要注意BN层冻结部分层时BN的running_mean和running_std默认在forward时还是会更新如果踩到训练和验证表现不一致的怪现象优先检查是不是BN层处于不可控更新状态。4. 优化模型粗粒度与细粒度特征融合的注意力改造路线ResNet原版是为ImageNet这类通用分类设计的拿来做AD识别属于“够用但不够好”。AD病灶是局部细小的原版ResNet最后一层输出是语义最强的粗粒度特征空间细节丢得厉害。优化方向自然分成两条一是把中层细粒度特征和深层粗粒度特征融合起来二是用注意力机制让网络自己学会关注海马体、脑皮层这些关键区域。这就是标题里“优化模型”四个字的实体内容。4.1 自注意力插在哪一层SE模块的低成本改造给ResNet加注意力机制常见选项是SE、CBAM和Transformer自注意力。课程设计的时间尺度里SE的性价比最高改动代码量小效果稳定报告里也容易解释。SE本质是通道注意力用全局平均池化得到每个通道的全局描述再通过两个全连接层学习通道间的依赖关系最后把权重乘回原特征图让重要的通道被放大、不重要的被抑制。import torch import torch.nn as nn class SEBlock(nn.Module): def __init__(self, channels, reduction16): super().__init__() self.squeeze nn.AdaptiveAvgPool2d(1) # 每个通道全局平均池化成1个标量 self.excitation nn.Sequential( nn.Linear(channels, max(channels // reduction, 8)), nn.ReLU(inplaceTrue), nn.Linear(max(channels // reduction, 8), channels), nn.Sigmoid() ) def forward(self, x): b, c, h, w x.shape y self.squeeze(x).view(b, c) y self.excitation(y).view(b, c, 1, 1) return x * y # 通道加权空间尺寸不变reduction16是最常用的压缩比。如果通道数很小max(channels // reduction, 8)可以避免中间层被压缩得太狠导致信息丢失。把这个模块插入ResNet不需要复制一整套网络代码用hook在forward时替换layer4的输出即可se_block SEBlock(channels512) # resnet18的layer4输出512通道resnet50要改成2048 def hook_fn(module, input, output): return se_block(output) model.layer4.register_forward_hook(hook_fn)register_forward_hook的返回值会替换原始输出这样可以用最小的代码改动把注意力塞进现成模型。但有一点必须强调加完SE之后预训练权重里没有SE部分模型必须重新训练不能加载原权重后直接前向传播。4.2 用FPN思路融合细粒度与粗粒度特征如果在4.1的基础上想再进一步另一个主流方向是做特征融合对应检测领域FPN的思路。ResNet的浅层输出空间分辨率高保留了更多位置和边缘细节属于细粒度特征深层输出语义最强但分辨率低属于粗粒度特征。AD识别既需要细粒度细节定位病灶又需要粗粒度语义判断整体萎缩程度把layer3和layer4的输出融合起来是成本最低、收益最稳定的一种优化。import torch.nn.functional as F class ResNetFPNClassifier(nn.Module): 以resnet18为例融合layer3和layer4的输出后接分类头 def __init__(self, backbone, num_classes3): super().__init__() self.conv1 backbone.conv1 self.bn1 backbone.bn1 self.relu backbone.relu self.maxpool backbone.maxpool self.layer1 backbone.layer1 self.layer2 backbone.layer2 self.layer3 backbone.layer3 self.layer4 backbone.layer4 # resnet18layer3输出256通道layer4输出512通道统一到256通道 self.reduce_c3 nn.Conv2d(256, 256, 1) self.reduce_c4 nn.Conv2d(512, 256, 1) self.gap nn.AdaptiveAvgPool2d(1) self.fc nn.Linear(256, num_classes) def forward(self, x): x self.maxpool(self.relu(self.bn1(self.conv1(x)))) c2 self.layer1(x) c3 self.layer2(c2) c4 self.layer3(c3) # 细粒度特征分辨率14x14 c5 self.layer4(c4) # 粗粒度特征分辨率7x7 f3 self.reduce_c3(c4) f4 self.reduce_c4(c5) # 把低分辨率的深层特征上采样到中层特征同样尺寸再相加 f4_up F.interpolate(f4, sizef3.shape[-2:], modebilinear, align_cornersFalse) fused f3 f4_up out self.gap(fused).flatten(1) out self.fc(out) return out这段代码的通道数是以ResNet18为准的换ResNet50时要把reduce_c3改为1024、reduce_c4改为2048否则维度对不上直接报错。融合方式是逐元素相加换成concat再跟一个1x1卷积也常见但加法更省显存。backbone传入时建议用已经去掉fc的ResNet或者在组装前把backbone.fc去掉避免参数冗余。如果想继续往上加码可以在融合后的特征上叠加一个可学习的位置编码再接一层自注意力让模型显式建模不同脑区之间的远程依赖。这个属于进阶方案课程设计里做出融合和注意力已经能撑住报告主线了。模型layer3输出通道layer4输出通道融合层通道ResNet18256512256ResNet50102420482564.3 训练策略优化类别不平衡、学习率与标签平滑模型改了训练策略也要跟着调。AD数据集天然存在类别不平衡ModerateDemented的样本少如果损失函数不处理模型训练时会把梯度几乎全部贡献给多数类。标准做法是加权交叉熵权重按各类样本数的倒数计算再归一化。import torch import torch.optim as optim # 示意值实际用训练集各类样本数替换 class_counts torch.tensor([3000, 1500, 800, 300], dtypetorch.float) class_weights 1.0 / class_counts class_weights class_weights / class_weights.sum() * len(class_counts) criterion nn.CrossEntropyLoss(weightclass_weights.to(device)) optimizer optim.AdamW(model.parameters(), lr3e-4, weight_decay1e-4) scheduler optim.lr_scheduler.CosineAnnealingLR(optimizer, T_max30, eta_min1e-6)学习率初始值建议3e-4用余弦退火让学习率在整个训练周期内平滑下降比固定学习率或阶梯下降更稳。AdamW比Adam多了解耦的权重衰减weight_decay设1e-4可以明显压过拟合。T_max设成总训练epoch数eta_min设1e-6防止学习率降到底后模型在局部振荡里出不来。如果你的PyTorch版本支持在CrossEntropyLoss里直接加label_smoothing0.1把one-hot标签换成软标签能进一步抑制过拟合课程设计这种小数据集上效果很直观。5. 训练与调试避坑指南课程设计最常见的五个翻车现场模型训练基本不会一次顺跑下面五个问题是带课程设计时出现频率最高的遇到直接对号入座。每个都按“现象、原因、解决”的顺序写清楚。5.1 测试集准确率比验证集低十几个点现象训练曲线正常验证集准确率92%测试集只有76%怎么看都不合理。原因最常见的是数据划分时按图像随机切分同一个患者的MRI切片同时进了训练集和测试集。MRI相邻切片之间高度相似模型等于提前看到了测试集的“答案”这是典型的数据泄露。解决按患者ID分组切分用第2章给的split_by_patient函数。如果数据里提取不出患者ID就把这个局限写进报告并明确说明测试集结果偏乐观。答辩时主动交代远比被老师问出来体面。5.2 Loss卡在0.6到0.7之间不动现象训练到第10个epoch准确率稳定在70%loss在0.65附近震荡怎么调学习率都下不去。原因最典型的是类别不平衡下模型在“偷懒”它只需要预测多数类就能拿到70%的准确率没有动力去学少数类的特征。解决先打印sklearn的classification_report看每一类的precision和recall。如果少数类recall接近0就用第4.3节的加权交叉熵重跑。还有一种情况是学习率太低模型卡在局部平坦区把学习率调回3e-4再试。区分这两种情况的方法很简单看loss绝对值加权损失和普通损失的可比性不强直接看少数类的recall变化。5.3 加载预训练权重时直接报size mismatch现象报错信息类似“size mismatch for fc.weight: copying a param with shape torch.Size([1000, 512]) from checkpoint, the shape in current model is torch.Size([3, 512])”。原因PyTorch官方ResNet权重是ImageNet 1000类上训练的分类头输出维度是1000替换分类头后输出维度变成3或4对应层的shape对不上。解决加载时把fc相关权重剔除用第3章的load_pretrained_weights。注意strictFalse只解决缺失键的问题如果键名拼写错误它不会提醒。加载完务必打印model.fc确认输出维度别加载完发现模型还在输出1000类。还有一个伴随问题如果加载完权重后发现loss初始值很大先检查图像预处理是否用了和预训练一致的Normalize参数。5.4 两次训练结果差5个点复现不出报告里的数字现象同样一份代码第一次跑准确率88%隔一天再跑只有82%哪里都没改。原因训练脚本里没有固定随机种子。PyTorch的卷积在GPU上默认使用非确定性算法加上数据加载顺序随机、Dropout天然随机结果有波动是必然的。随机种子这事看起来很玄学实际上是可复现实验的基本要求。解决训练脚本开头固定四个随机源。import random import numpy as np import torch def set_seed(seed42): random.seed(seed) np.random.seed(seed) torch.manual_seed(seed) torch.cuda.manual_seed_all(seed) torch.backends.cudnn.deterministic True torch.backends.cudnn.benchmark False set_seed(42)cudnn.deterministicTrue让卷积选择确定性算法benchmarkFalse禁掉运行时自动搜索最优算法代价是速度略降换来可复现结果。课程设计报告里写明“固定随机种子”本身就是一个加分项。5.5 显存溢出CUDA out of memory现象训练到第一个epoch就报CUDA out of memory有时候在验证阶段崩backbone和数据都没问题。原因最常见是batch size过大或输入图像尺寸设置过大。另外有些代码里每个epoch都重复构建数据集和中间张量没有释放显存被慢慢占满。解决第一步把batch size从64减到32再减到16这是最直接的止血方式。第二步用混合精度训练PyTorch 1.6自带AMPN卡20系以后支持良好显存占用能砍一半。scaler torch.cuda.amp.GradScaler() for images, labels in train_loader: images, labels images.to(device), labels.to(device) optimizer.zero_grad() with torch.cuda.amp.autocast(): outputs model(images) loss criterion(outputs, labels) scaler.scale(loss).backward() scaler.step(optimizer) scaler.update()autocast作用于forward和loss计算参数更新保持float32GradScaler负责把梯度放大再回缩防止混合精度下小梯度直接下溢成0。用了AMP之后模型和损失函数里尽量不要出现显式的float64操作否则精度混用会报错。机房显卡一般是8GB混合精度是保证教学场景能跑起来的实用手段。6. 把结果做成能答辩的产出Grad-CAM可视化、消融实验与一个早停习惯Grad-CAM是课程设计答辩里最直观的加分项在目标层挂forward hook和backward hook拿到激活值和梯度后用梯度对通道做加权平均再ReLU、归一化得到一张与输入同尺寸的热力图能直接回答老师最常问的那句“模型到底在看哪里”。def grad_cam(model, img_tensor, target_layer): acts, grads {}, {} def fwd_hook(m, inp, out): acts[value] out def bwd_hook(m, gin, gout): grads[value] gout[0] fh target_layer.register_forward_hook(fwd_hook) bh target_layer.register_full_backward_hook(bwd_hook) out model(img_tensor.unsqueeze(0)) model.zero_grad() out[0][out.argmax()].backward() a acts[value].squeeze(0) g grads[value].squeeze(0) w g.mean(dim(1, 2), keepdimTrue) cam (w * a).sum(dim0).clamp(min0) cam (cam - cam.min()) / (cam.max() 1e-8) fh.remove() bh.remove() return cam.detach().cpu().numpy()target_layer选layer4的最后一个残差块输出空间分辨率适中能覆盖病灶区域。注册hook后记得remove否则反复调用会越挂越多。把热力图叠加到原始MRI图上能看到注意力集中在脑组织区域而不是背景这本身就是对模型鲁棒性的一种验证。消融实验表是报告里的硬产出baseline原版ResNet18、加SE注意力、加特征融合至少三行记录准确率和F1分数。三组实验必须用同一份数据划分、同一个随机种子否则对比没有意义。还差一个重要的训练习惯不要拿最后一个epoch的模型去测试。验证集loss后期通常已经回升最后几个epoch往往处于过拟合状态正确做法是每轮验证后保存验证集准确率最高的一份。if val_acc best_acc: best_acc val_acc torch.save(model.state_dict(), best_model.pth)如果还有余力可以在融合特征上叠加可学习的位置编码和一层自注意力把粗粒度、细粒度、位置编码、自注意力这条线完整串起来这个深度已经可以拿去撑毕业设计了。带这些年课程设计最深的教训是数据划分和随机种子两件事必须在训练开始前确认好等结果出来再回头看所有实验都得重跑。希望帮到你。本文还有配套的精品资源点击获取