四大经典CNN逐层拆解：输出尺寸、参数量与显存排查

四大经典卷积网络只要你在做视觉相关的活儿早晚都会回头翻它们一遍。不是因为它们现在还有多能打而是因为它们把“怎么设计一个能跑起来的卷积网络”这件事从零到一地演示了四遍——LeNet演示了范式AlexNet演示了工程VGG演示了极简结构的力量GoogLeNet演示了在算力受限时怎么用结构设计换效率。很多人学 CNN 卡在“能抄代码但不知道为啥这么写”根本原因就是没把这几套网络拆到骨头里去看。这篇东西写给两类人刚入门、想搞明白卷积层输出尺寸怎么算、参数量怎么数的新手以及已经能跑通训练脚本、但一遇到显存爆炸、尺寸对不上、收敛困难就抓瞎的实践者。我会把四套网络的结构逐层拆开、参数一个个算给你看、代码一段段贴出来再把这些年踩过的坑整理成排查表。看完你至少能做到拿到任意一个卷积网络结构图自己算出每层输出尺寸和参数量并且能判断哪块是性能瓶颈。1. 四个网络到底该怎么定位把四个网络当成四个不同年代的“解题思路”比当成四个模型要有用得多。它们的差别不在准确率上那几个百分点而在于每一代作者面对的核心约束完全不同算力、数据量、梯度传播、计算效率。你把约束想清楚了结构为什么长这样自然就通了。1.1 四套方案的核心矛盾对照先给一张对照表把四者的“时代任务”摆出来后面所有细节都挂在这张表上。网络出现年代背景要解决的核心矛盾标志性手段参数量级LeNet-5手写数字识别算力极度稀缺能不能让网络自己学特征替代人工设计卷积池化全连接的完整范式约 6 万AlexNet大规模图像分类GPU 刚可用深网络训练不动、过拟合严重ReLU、Dropout、数据增强、双卡拆分约 6000 万VGG追求可复现的结构设计网络该多深、卷积核该多大全部 3×3 小核堆叠约 1.38 亿GoogLeNet精度要涨但算力不能涨加深加宽带来的计算量爆炸Inception 多分支 1×1 降维约 500 万这张表最值得盯的是最后一列。VGG 用 1.38 亿参数换来的精度GoogLeNet 用 500 万参数就超过了——差了将近 27 倍。这个反差是理解 Inception 模块的全部动机。1.2 什么场景该翻经典什么场景直接上预训练实操里我先问自己一个问题这次的任务是学结构还是出结果如果目标是学结构、改结构、写论文、做结构对比实验那这四个网络必须手写一遍。手写的价值在于你必须自己算尺寸、自己对通道数算错一次就报错一次报错三次你就记住了。用现成的库函数调用永远学不会。如果目标是出结果、赶工期、做业务落地那直接用成熟的主干网络加预训练权重四个经典网络里只有 VGG 还偶尔被拿来当特征提取器因为它的中间层特征语义比较干净、结构规整其余三个在现代业务里基本没有直接使用的价值。还有一种中间情况边缘设备、算力极受限的场景。这种时候 LeNet 那套“小卷积核 池化降采样 极少通道”的思路反而会被重新捡起来因为你的输入可能只有 32×32通道数只有 1 或 3根本喂不饱大模型。我见过不少工业质检、传感器信号转图像的小项目最后落地的结构复杂度也就比 LeNet 高一点。提醒不要因为“经典”就默认它们适合当 baseline。LeNet 在彩色自然图像上几乎必然欠拟合AlexNet 的分组卷积设计在今天看是纯粹的工程妥协VGG 的显存占用会让你的显卡直接跪下。选它们之前先算清楚输入尺寸和显存。2. LeNet-5小到能手算参数却把范式定死了LeNet-5 最迷人的地方在于它足够小小到你可以拿张纸把每一层的参数量全部算出来算完你对卷积网络的理解就完成了第一次闭环。它的结构在今天看平平无奇但在它出现的年代“让网络自己从像素里学特征”这个想法本身就是颠覆性的——在此之前特征是人手工设计的。2.1 逐层拆解与参数量手算原始结构接收 32×32 的单通道图像走完是 10 类输出。我把每一层的尺寸变化和参数量列出来你拿计算器跟着按一遍。层操作输入尺寸输出尺寸参数量计算参数量C16 个 5×5 卷积32×32×128×28×66×(5×5×11)156S22×2 平均池化28×28×614×14×600C316 个 5×5 卷积14×14×610×10×1616×(5×5×61)2416S42×2 平均池化10×10×165×5×1600C5120 个 5×5 卷积5×5×161×1×120120×(5×5×161)48120F6全连接 841208484×(1201)10164输出全连接 10841010×(841)850加起来大约 6.1 万个参数。这个量级放在今天连一个稍大的全连接层都比它多。但注意 C5 那一层——它吃掉了 4.8 万参数占了全网的 79%。原因很简单5×5×16 的输入被拉平成 400 维再映射到 120 维这一步是密集连接的。这也解释了为什么后来大家都不喜欢在网络末端堆大卷积核。尺寸变化用一条公式统一起来这是全文最重要的一条公式后面三个网络全靠它out floor((in 2×padding - kernel_size) / stride) 1以 C1 为例in32padding0kernel5stride1代入得 (32-5)/11 28对上了。C3 输入 14得 (14-5)1 10也对上。你自己把每一层代进去验一遍比看十遍结构图都管用。2.2 那些结构图里不会写的设计取舍第一个坑原始论文的 C3 层并不是全连接的。它用了一张稀疏连接表规定 16 个输出通道中的每一个只连接前一层 6 个通道里的某几个。这么做是为了打破对称性、减少参数。但现代实现几乎全部改成标准全连接因为稀疏连接表在 GPU 上算起来非常不友好省下的那点参数完全不值得。你看到的绝大多数 LeNet 复现代码C3 的参数都是 2416那就是全连接版本。第二个坑激活函数用的是 tanh 或 sigmoid不是 ReLU。这不是疏忽是那个年代 ReLU 还没普及。你复现的时候如果按原版用 tanh收敛会慢一些换成 ReLU 也没问题甚至更好训但严格意义上那就不叫原版 LeNet-5 了。我在做结构对比实验时会两版都留着看同一数据集上的收敛曲线差异这个对比本身就很说明问题。第三个坑池化用的是平均池化不是最大池化。原因很朴素——那个年代的硬件实现里平均池化更容易做反传也更简单。现代结构里最大池化更常见因为它保留了显著特征。这个替换对最终精度的影响通常在 1 个百分点以内但在小数据集上波动会明显一些。第四个坑也是最容易踩的输入尺寸 32×32 是刻意设计的。为什么不用 28×28 直接吃手写数字的原始尺寸因为经过两次 5×5 卷积和两次 2×2 池化之后28 会变成 (28-51)24 → 12 → (12-51)8 → 4 → 最后一层 5×5 卷积就无处安放了。32 走完刚好落在 5→1 这个漂亮的边界上。你如果硬改成 28 输入要么加 padding要么砍掉一层要么改最后一层的核大小。2.3 复现时的实操顺序我建议的复现顺序是这样的先把 PyTorch 的官方 MNIST 数据加载跑通确认数据形状是[N, 1, 28, 28]然后在数据变换里加一个Resize(32)把图撑到 32×32接着照结构表搭网络最后用torchsummary之类的工具打印每层输出形状逐层跟你的手算表格对照。这一步千万不要跳。我自己第一次复现的时候池化层写成了AvgPool2d(2, stride1)尺寸只缩了一半一路错到全连接层才报维度不匹配报错信息指向的是全连接层的输入维度跟真正的错误点差了四层找了快一个小时。后来我养成了习惯每加一层就打印一次形状五六行代码的事能省下大量时间。# 逐层验证形状的小工具比看报错快得多 x torch.randn(1, 1, 32, 32) for name, layer in net.named_children(): x layer(x) print(f{name:12s} - {tuple(x.shape)})3. AlexNet结构不难难的是让它真的能训起来很多人第一次看 AlexNet 的结构会觉得“就这”。确实单看层的排列它就是“五个卷积 三个全连接”比后面的网络朴素太多。但它真正的价值根本不在结构上而在于它把一堆当时零散的训练技巧系统性地组合到了一起证明了深层网络是可以训出来的。3.1 结构拆解与关键层的参数账先按 224×224×3 输入、加 padding 的现代写法把尺寸走一遍。原始论文用的是 227 输入不加 padding得到的结果一样只是边界处理不同。层操作输出尺寸参数量conv196 个 11×11stride 4pad 255×55×9696×(11×11×31)34944pool13×3 最大池化stride 227×27×960conv2256 个 5×5pad 227×27×256256×(5×5×961)614656pool23×3 最大池化stride 213×13×2560conv3384 个 3×3pad 113×13×384384×(3×3×2561)885120conv4384 个 3×3pad 113×13×384384×(3×3×3841)1327488conv5256 个 3×3pad 113×13×256256×(3×3×3841)884992pool33×3 最大池化stride 26×6×2560fc6409640964096×(6×6×2561)37752832fc7409640964096×409716781312fc8100010001000×40974097000总参数量大约 6000 万其中 fc6 一层就占了 3775 万超过六成。这个数字很关键——它告诉你 AlexNet 的瓶颈根本不在卷积部分全在最后那三个全连接层。很多人做迁移学习时把卷积部分冻住只训分类头结果显存照样爆炸就是因为没意识到 fc6 这个巨无霸的存在。conv1 那层的 11×11 大核加 stride 4 也是个很有时代感的操作。大步长意味着第一层就把 224 的空间分辨率砍到 55计算量急剧下降。现代网络基本不会在第一层用这么大的核因为大核的参数效率太低——11×11×3 一共 363 个权重只产生一个输出值而 3×3 的核只需要 27 个。VGG 正是抓住了这一点把大核全面替换成了小核堆叠。3.2 论文里一句话带过、实际最关键的四件事第一件ReLU 替代饱和激活函数。这个改动看起来最小影响最大。sigmoid 和 tanh 在输入绝对值较大时会进入饱和区梯度接近 0深网络反传几层之后梯度就消失了。ReLU 在正半轴导数恒为 1梯度能一路传回去。我做过一个对照实验同一结构下把 ReLU 换成 tanh在相同训练轮数内训练损失下降速度大概慢三四倍而且越深的层越难收敛。第二件Dropout 放在全连接层之间。丢弃率 0.5只作用在 fc6 和 fc7 上。它的作用机理是每次前向随机屏蔽一半神经元逼着网络学冗余表征不允许任何单个神经元承担过重的职责。这本质上是一种集成学习的近似。注意 Dropout 只在训练时开启推理时必须关掉否则预测结果会不稳定。用 PyTorch 的话model.train()和model.eval()会自动帮你切换但如果你自己写了自定义的训练循环又忘了调用这两个方法就会出现“训练正常、测试结果随机抖动”的诡异现象。第三件数据增强。原论文用了随机裁剪从 256×256 裁到 224×224、水平翻转、以及一个基于主成分分析的颜色扰动。前两个是常规操作第三个现在很少用了实现复杂收益有限。但随机裁剪这一招很值得琢磨它同时起到了两个作用——扩大有效数据量、以及让网络学会位置不变性。裁剪带来的“同一张图不同位置”的样本等于免费告诉网络“物体在哪不重要”。第四件双卡分组。这是纯工程妥协当时单卡显存放不下整个模型作者把网络拆到两张卡上conv2、conv4、conv5 只连接同一张卡上的特征图。这个设计后来被抽象成了“分组卷积”在移动端网络里大放异彩。但在 AlexNet 里它就是个被迫的选择你在单卡上复现时完全不需要这么做直接写标准卷积即可。注意AlexNet 原论文里还有局部响应归一化层接在 conv1 和 conv2 后面。后来的大量消融实验表明去掉它精度几乎不掉现代实现基本都删掉了。你要是照论文复现却发现效果不如预期先检查是不是这个层引入的额外超参在捣乱。3.3 从 AlexNet 能学到的三件事一是结构创新的收益往往小于训练技巧的收益。同样是那个年代很多结构上更精致的网络并没有跑赢 AlexNet差距就在训练策略上。做实验的时候先别急着改结构把优化器、学习率调度、数据增强、正则化这些调透了往往能白捡好几个点。二是显存预算要提前算。AlexNet 的 6000 万参数如果全用 float32 存光权重就 240MB加上梯度、优化器状态、激活值训练时显存占用是这个的好几倍。全连接层的激活值尤其恐怖4096 维的向量batch size 给 128一层就是 128×4096×4 字节 2MB看着不多但反传要保留前向的所有中间结果累计起来就很可观了。三是别迷信论文里的超参。论文里的学习率、权重衰减系数都是针对特定数据集和特定硬件调出来的搬到你的任务上大概率不合适。我的习惯是先按论文设置跑一遍当基准然后固定其他变量只动学习率做三次扫描一般就能找到合适的量级。4. VGG把结构设计做成了填空题VGG 的贡献不在“发明”了什么而在“验证”了什么。它用一组极其规整的实验告诉我们把卷积核全部换成 3×3 并不断堆叠网络能深到 16 到 19 层而依然训得动而且精度随深度单调提升。这个结论在当时是相当反直觉的因为此前大家普遍认为深网络训不动。4.1 两个 3×3 为什么能顶一个 5×5这是 VGG 最核心的理论依据也是面试里被问得最多的问题。要看两件事感受野和参数量。感受野的角度两层 3×3 卷积堆叠第二层的每个输出点看到的是第一层的 3×3 区域而第一层每个点又看到输入的 3×3 区域合起来第二层看到的是输入的 5×5 区域。三层 3×3 堆叠等效于一个 7×7。这个推导的关键在于中间没有池化层打断——一旦插入池化感受野的连续性就被破坏了。参数量的角度假设输入输出通道数都是 C一个 5×5 卷积参数 25C² C两个 3×3 卷积参数 2×(9C² C) 18C² 2C当 C 比较大时比如 256前者约 164 万后者约 118 万省了将近三成。再看 7×7 对三个 3×3前者 49C²C后者 27C²3C省得更多。但参数量省只是表层原因更关键的是非线性。两层 3×3 之间夹了两个 ReLU而一个 5×5 只有一个 ReLU。多出来的非线性让网络的表达能力更强决策函数更复杂。这个理由比省参数重要得多也是 VGG 之后“小核堆叠”成为主流设计语言的根本原因。4.2 VGG16 结构表与显存账VGG16 的分组很规整2、2、3、3、3 个卷积块每块之后接一次 2×2 最大池化最后三个全连接层。卷积层总数 13加全连接 3 层共 16 层这就是名字的由来。VGG19 是 2、2、4、4、4卷积 16 层加全连接共 19 层。阶段卷积配置输出通道输出尺寸224 输入block13×3 ×264112×112block23×3 ×212856×56block33×3 ×325628×28block43×3 ×351214×14block53×3 ×35127×7分类头fc 4096 → 4096 → 1000--参数量的大头在分类头第一个全连接层的输入是 7×7×512 25088 维映射到 4096 维参数就是 4096×25089 ≈ 1.03 亿。整个 VGG16 的 1.38 亿参数里三个全连接层占了 1.24 亿卷积部分只有约 1470 万。这个数字直接解释了为什么 VGG 在今天不受待见一个 224×224 的输入要吃掉大量显存而绝大部分参数都在最后那三层全连接里。做迁移学习时标准的做法就是把分类头整个砍掉换成全局平均池化加一个新的分类层。换完之后参数量从 1.38 亿降到约 1470 万显存占用减少近九成而且因为全局平均池化本身带正则化效果在小数据集上反而不容易过拟合。提示VGG 的 block 之间特征尺寸减半、通道数翻倍这个模式几乎是所有后续网络的默认模板。你在设计自己的网络时如果输入分辨率每降一次就把通道数提一倍能保证各层的计算量大致均衡不会出现某一层突然成为瓶颈。4.3 复现 VGG 的正确姿势第一个建议用循环生成 block别手动一层层写。VGG 的规整性就是它最大的优势写成配置列表再拼装二十几行代码就能把 VGG11 到 VGG19 全部生成出来。我常用的配置格式是[64, 64, M, 128, 128, M, ...]用 M 标记池化位置这样改深度只需要改一个列表。第二个建议通道数的递增规律要理解不要死记。为什么每个 block 的通道数翻倍因为空间分辨率减半了特征图的总元素数保持不变这时候把通道数翻倍能让每个 block 的计算量大致相当。如果通道数保持不变后面的 block 计算量会急剧下降网络的容量就浪费了。第三个建议不要用原版的 4096 维全连接头除非你在做大规摸数据集且显存充裕。改成全局平均池化 单层分类器精度损失通常在 1 个点以内训练速度和显存占用改善非常明显。我现在所有用到 VGG 做特征提取的场景全部用这个改法。第四个建议输入尺寸不要随便改。VGG 的全连接层要求固定尺寸输入因为它用了view把所有空间维度拉平。你如果换成 256×256 输入走到最后是 8×8×512 32768 维全连接的权重矩阵就对不上了。解决办法要么是加自适应池化要么是把输入固定。这也是 VGG 被诟病“不够灵活”的原因之一。5. GoogLeNet用结构设计硬生生省下九成算力GoogLeNet 是我认为四个网络里设计感最强的一个。VGG 的思路是“一味加深”GoogLeNet 的思路是“在同等算力预算下怎么让网络同时变深变宽”。它给出的答案是 Inception 模块核心手法是 1×1 卷积降维。这一招后来几乎被所有高效网络继承包括各种移动端主干。5.1 Inception 模块到底在解决什么矛盾矛盾很具体如果你想让网络变宽让同一层同时用 3×3、5×5、池化等多种感受野去观察输入最直接的做法是并行堆叠这些分支然后把输出拼起来。但这么做通道数会爆炸——假设输入是 192 通道每个分支都直接输出 128 到 256 通道拼起来轻松超过 500 通道下一层的计算量直接翻几倍。Inception 的解法是在每个分支前面先塞一个 1×1 卷积把通道数压下去再做大核卷积。这样就变成了“先降维、再卷积、最后拼接”。以最经典的那个配置为例输入 28×28×192四个分支分别是分支一1×1 卷积直接输出 64 通道分支二1×1 卷积压到 96 通道再 3×3 卷积输出 128 通道分支三1×1 卷积压到 16 通道再 5×5 卷积输出 32 通道分支四3×3 最大池化padding 保持尺寸再 1×1 卷积输出 32 通道四个分支的输出在通道维度拼接得到 641283232 256 通道空间尺寸还是 28×28。对比一下不分降维的情况如果直接用 192 通道输入去做 3×3 输出 128单这一支的参数就是 128×(3×3×1921) ≈ 22 万加了 1×1 降维后变成 96×193 128×(3×3×961) ≈ 1.85 万 11 万 ≈ 12.9 万省了四成多。5×5 那一支省得更狠因为 5×5 的参数是 25 倍关系。5.2 1×1 卷积的三重身份很多人第一次看到 1×1 卷积会觉得莫名其妙——核大小是 1那不是什么都看不到吗实际上它的作用完全不在空间维度上而在通道维度上。第一重身份降维器。1×1 卷积把每个像素位置上所有通道的值做加权求和输出通道数由卷积核个数决定。输入 192 通道用 64 个 1×1 核输出就是 64 通道。这就是跨通道的信息压缩。第二重身份非线性增强器。1×1 卷积后面接 ReLU等于在通道维度上做了一次非线性变换。这个效果在 Network in Network 那篇工作里被重点讨论过它让网络在同样的空间感受野下有了更强的表达能力。第三重身份通道融合器。在多分支结构里各分支的输出需要拼接而拼接之后通道之间的信息是割裂的。后面接一个 1×1 卷积就能把来自不同分支的特征重新混合加权让网络自己学“哪个分支的信息更重要”。这三重身份里第一重最常用第三重最容易被忽略但很重要。我在做结构改写时只要涉及多分支拼接后面一定跟一个 1×1 卷积做融合效果比直接接下一层稳定得多。注意1×1 卷积虽然参数量小但它的计算量并不为零——它是逐像素的矩阵乘法空间尺寸越大乘加次数越多。在 56×56 这种分辨率上堆太多 1×1 卷积FLOPs 涨得比想象中快。算力预算紧张时优先在高分辨率阶段少放分支。5.3 辅助分类器与全局平均池化GoogLeNet 还有两个设计值得单独说。辅助分类器在中间的第三个和第六个 Inception 模块之后各引出一个小的分类分支接一个平均池化、一个卷积、两个全连接输出也是 1000 类。训练时这两个分支的损失以 0.3 的权重加进总损失推理时直接丢掉。目的很直接——给中间层提供额外的梯度信号防止深层网络梯度消失。这个手段在今天的深层网络里演化成了各种中间监督思路是一脉相承的。全局平均池化GoogLeNet 最后的分类头不是三个大全连接而是把 7×7×1024 的特征图做全局平均池化变成 1024 维向量再映射到 1000 类。这一步把参数从 VGG 那种上亿的量级压到了百万级而且因为每个通道直接对应一个类别分数可解释性也更强。这个设计今天已经是标配几乎看不到不用全局平均池化的现代网络了。还有一个小细节GoogLeNet 分类头里的全连接层其实还保留了一个 1024 维的隐层并且带 Dropout。真正完全去掉全连接的版本是后续的改进型。你复现时用哪种都行但要知道原始版本不是“纯”全局平均池化。6. 实战代码四套网络一次跑通下面给出四套网络的 PyTorch 实现都做了适度现代化用 ReLU、去掉不适用的层但结构骨架严格对应原版。我把每层的尺寸变化写在注释里方便你对照手算结果。6.1 LeNet 与 AlexNet 的实现import torch import torch.nn as nn class LeNet5(nn.Module): 输入 1x32x32输出 10 类 def __init__(self, num_classes10): super().__init__() self.features nn.Sequential( nn.Conv2d(1, 6, 5), # 32 - 28 nn.Tanh(), nn.AvgPool2d(2, 2), # 28 - 14 nn.Conv2d(6, 16, 5), # 14 - 10 nn.Tanh(), nn.AvgPool2d(2, 2), # 10 - 5 nn.Conv2d(16, 120, 5), # 5 - 1 nn.Tanh(), ) self.classifier nn.Sequential( nn.Linear(120, 84), nn.Tanh(), nn.Linear(84, num_classes), ) def forward(self, x): x self.features(x) x torch.flatten(x, 1) return self.classifier(x) class AlexNet(nn.Module): 输入 3x224x224加 padding 后可整除输出 1000 类 def __init__(self, num_classes1000): super().__init__() self.features nn.Sequential( nn.Conv2d(3, 96, 11, stride4, padding2), # 224 - 55 nn.ReLU(inplaceTrue), nn.MaxPool2d(3, stride2), # 55 - 27 nn.Conv2d(96, 256, 5, padding2), # 27 - 27 nn.ReLU(inplaceTrue), nn.MaxPool2d(3, stride2), # 27 - 13 nn.Conv2d(256, 384, 3, padding1), # 13 - 13 nn.ReLU(inplaceTrue), nn.Conv2d(384, 384, 3, padding1), # 13 - 13 nn.ReLU(inplaceTrue), nn.Conv2d(384, 256, 3, padding1), # 13 - 13 nn.ReLU(inplaceTrue), nn.MaxPool2d(3, stride2), # 13 - 6 ) self.classifier nn.Sequential( nn.Dropout(0.5), nn.Linear(256 * 6 * 6, 4096), nn.ReLU(inplaceTrue), nn.Dropout(0.5), nn.Linear(4096, 4096), nn.ReLU(inplaceTrue), nn.Linear(4096, num_classes), ) def forward(self, x): x self.features(x) x torch.flatten(x, 1) return self.classifier(x)AlexNet 这段代码里有个易错点padding2是为了把 224 的输入撑到能算出 55 而不是 54。你可以自己验算不加 padding 时 (224-11)/41 向下取整是 54加了 padding2 之后 (2244-11)/41 55.25 向下取整 55。差这一格后面整条链路都会跟着错位。6.2 VGG 与 GoogLeNet 的实现VGG 用配置列表生成这样改深度只改一行VGG_CFG { vgg11: [64, M, 128, M, 256, 256, M, 512, 512, M, 512, 512, M], vgg16: [64, 64, M, 128, 128, M, 256, 256, 256, M, 512, 512, 512, M, 512, 512, 512, M], vgg19: [64, 64, M, 128, 128, M, 256, 256, 256, 256, M, 512, 512, 512, 512, M, 512, 512, 512, 512, M], } def make_vgg_layers(cfg, in_channels3): layers, c [], in_channels for v in cfg: if v M: layers.append(nn.MaxPool2d(2, 2)) else: layers.append(nn.Conv2d(c, v, 3, padding1)) layers.append(nn.ReLU(inplaceTrue)) c v return nn.Sequential(*layers) class VGG(nn.Module): def __init__(self, depthvgg16, num_classes1000, use_gapTrue): super().__init__() self.features make_vgg_layers(VGG_CFG[depth]) self.use_gap use_gap if use_gap: # 现代改法全局平均池化参数量掉一个数量级 self.pool nn.AdaptiveAvgPool2d((7, 7)) self.classifier nn.Sequential( nn.Linear(512 * 7 * 7, 4096), nn.ReLU(True), nn.Dropout(0.5), nn.Linear(4096, 4096), nn.ReLU(True), nn.Dropout(0.5), nn.Linear(4096, num_classes), ) else: self.avgpool nn.AdaptiveAvgPool2d((1, 1)) self.classifier nn.Linear(512, num_classes)GoogLeNet 的 Inception 模块是整个复现的核心class Inception(nn.Module): 标准 Inception 模块四分支并行输出通道拼接 def __init__(self, in_c, c1, c3_reduce, c3, c5_reduce, c5, pool_proj): super().__init__() self.branch1 nn.Sequential( nn.Conv2d(in_c, c1, 1), nn.ReLU(inplaceTrue)) self.branch2 nn.Sequential( nn.Conv2d(in_c, c3_reduce, 1), nn.ReLU(inplaceTrue), nn.Conv2d(c3_reduce, c3, 3, padding1), nn.ReLU(inplaceTrue)) self.branch3 nn.Sequential( nn.Conv2d(in_c, c5_reduce, 1), nn.ReLU(inplaceTrue), nn.Conv2d(c5_reduce, c5, 5, padding2), nn.ReLU(inplaceTrue)) self.branch4 nn.Sequential( nn.MaxPool2d(3, stride1, padding1), nn.Conv2d(in_c, pool_proj, 1), nn.ReLU(inplaceTrue)) def forward(self, x): return torch.cat([self.branch1(x), self.branch2(x), self.branch3(x), self.branch4(x)], dim1)搭的时候注意分支四的池化必须用stride1, padding1这样才能保持空间尺寸不变否则拼接的时候尺寸对不上。这个细节我在第一次复现时踩过报错信息是Sizes of tensors must match except in dimension 1一看就知道是通道拼接时空间尺寸不一致问题定位反而很快。完整的 GoogLeNet 还需要主干卷积、九个 Inception 模块串联、以及辅助分类器。辅助分类器的实现要注意它只在训练时产生损失forward里要返回一个元组训练循环里判断if isinstance(outputs, tuple)来分别处理。6.3 对照实验的搭建思路四个网络放在一起做对照最大的障碍是输入尺寸不统一。LeNet 吃 32×32另外三个吃 224×224。我的做法是选一个小分辨率数据集比如手写数字或小尺寸彩色图把 LeNet 单独跑一套另外三个统一缩放到 224 跑一套两套之间不直接比精度只比“同参数量级下的收敛速度”和“同训练轮数下的损失曲线形状”。训练超参我给一套能直接用的基线参数取值说明优化器SGD momentum 0.9经典网络配经典优化器曲线好解释初始学习率0.01用 Adam 的话降到 1e-3学习率调度每 30 轮乘 0.1阶梯下降简单有效batch size64显存不够就往下调别硬撑权重衰减5e-4VGG 这种大模型必须加小模型可减半训练轮数60 到 100看收敛曲线别死守数字跑完之后一定要做的一件事把每个网络的训练曲线和验证曲线画在同一张图上。VGG 大概率是验证精度最高但收敛最慢的GoogLeNet 是收敛最快但曲线最抖的LeNet 会很快收敛到一个明显偏低的平台上。这个视觉印象比任何文字说明都深刻。7. 常见问题与排查技巧实录这一节全部来自实际调试按发生频率从高到低排。7.1 尺寸对不上一张速查表搞定报错特征大概率原因排查动作全连接层维度不匹配前面某层池化 stride 或卷积 padding 写错逐层打印形状从后往前推拼接时尺寸不一致多分支池化没保持尺寸检查分支池化是否stride1, padding1输入通道数报错数据集是灰度图但网络按三通道写检查数据 transform 是否Grayscale最后一层空间尺寸变 0 或负数卷积核比剩余特征图还大重新算一遍每层输出尺寸训练正常推理报错忘了切model.eval()检查训练循环我踩过最隐蔽的一次给 VGG 换了个输入尺寸卷积部分跑得好好的到全连接层才炸。原因是全连接层的输入维度是硬编码的512*7*7输入变成 256×256 之后特征图变成 8×8维度就成了512*8*8。解决办法是在卷积和全连接之间插一个AdaptiveAvgPool2d((7,7))强制把空间尺寸拉回 7×7这样换输入尺寸就再也不用改代码了。7.2 显存爆炸与收敛困难的处理顺序显存爆了按这个顺序处理别一上来就换模型降 batch size最直接先降到能跑为止检查是不是全连接层占大头是的话把全连接换成全局平均池化开混合精度训练显存占用通常能砍掉三四成冻结主干只训分类头做迁移学习时这一步能省下大量显存梯度累积用小的 batch 模拟大的 batch 效果收敛困难思路完全不同。先看损失曲线的形状如果损失几乎不动十有八九是学习率太小或者初始化有问题如果损失震荡剧烈学习率太大如果训练损失降但验证损失升那就是过拟合加正则化或者数据增强。我自己遇到过一个特别迷惑的情况模型训练损失一路下降验证精度纹丝不动看着像过拟合但加了 Dropout 和权重衰减毫无改善。最后查出来是数据预处理里做了归一化但验证集用了不同的均值方差导致训练和验证的数据分布不一致。这类问题不看代码是查不出来的只能逐行比对两个数据管线的 transform。提醒凡是“训练和验证表现差距巨大但正则化无效”的情况优先怀疑数据管线包括但不限于归一化参数不一致、增强只加在训练集但加过头、验证集的 shuffle 设成了 True 导致指标抖动、类别标签映射错位。这些问题比模型结构问题常见得多。7.3 我个人的几条避坑清单别在没跑通小数据集之前直接上大数据集。我的固定流程是先在几百张图上跑通全流程确认能过拟合训练精度接近 100%再放大数据量。如果小数据集都过拟合不了说明模型或代码有 bug此时换大数据集只会浪费更多时间。别一次性把所有超参都调一遍。固定其他变量一次只动一个否则你根本不知道收益来自哪里。我一般按“学习率 → batch size → 正则化强度 → 数据增强”这个顺序调前两个影响最大。权重初始化别用全零。全零初始化会让同一层的所有卷积核学到完全相同的东西网络退化成线性模型。用默认的初始化方法就行PyTorch 的Conv2d默认是均匀分布初始化够用了。池化层的 stride 默认值容易记错。MaxPool2d(2)的 stride 默认等于 kernel_size也就是 2这是对的但MaxPool2d(3)的 stride 也是 3而 AlexNet 里需要的是 stride2必须显式写。这个默认值设计坑过不少人。复现经典网络时先跑原版再改。我见过太多人一上来就“优化”结构把池化改了、把激活换了、把初始化调了最后跑出来效果不如预期完全无法定位是哪一步引入的问题。老老实实跑一遍原版记录基准数字然后再做单变量改动这样才能说清楚每个改动的贡献。最后分享一个我自己常用的小技巧给每个网络实现写一个test_shapes()函数用随机张量跑一遍前向断言每层输出形状符合预期。四个网络总共不超过四十行代码但能挡住 80% 的低级错误尤其是你在改结构的时候。写完之后我基本再没遇到过那种“训练半小时才发现维度错了”的糟心事。这套东西真正的价值不在于四个网络本身而在于它给了你一把尺子——以后看到任何新结构你都能用同样的方法拆开算尺寸、数参数、找瓶颈、判断设计动机。这把尺子用熟了看论文的速度会完全不一样。