PlantDoc数据集实战：从VOC XML标注到YOLO模型训练与泛化验证

简介这份资源是面向计算机视觉与农业AI方向的植物病害检测数据集适合从事图像分类、目标检测研究的学生、算法工程师及竞赛选手使用。数据集源自PlantDoc项目旨在解决非实验室环境下植物病害图像稀缺、标注成本高的问题覆盖13种植物、17类病害共约2598个数据点由约300人时完成互联网图像标注。压缩包约948.81MB含2000余个文件以jpg图像与同名xml标注文件为主另附csv统计表、md说明文档及少量png、jpeg样本可支撑分类与检测任务的训练与验证。已有2053人学习下载。读者可借助该数据集复现植物病害分类实验验证模型在真实场景下的泛化能力并参考标注格式快速构建自己的检测流程降低计算机视觉技术在农业病害识别中的入门门槛。1. 从 2598 张田间照片说起PlantDoc 数据集到底能解决什么去年帮一个做智慧农业的团队看模型他们拿公开的 PlantVillage 数据集训了个番茄病害分类器实验室里准确率 98%拉到山东一个棚里实测直接掉到 60% 出头。问题不在模型在数据——PlantVillage 是摘下来的单片叶子、纯色背景、打光均匀而真实田间是逆光、遮挡、多叶重叠、背景里还有滴灌带和杂草。这个落差就是 PlantDoc 想填的坑。这份资源是一套面向视觉植物病害检测的图像数据集加标注文件总量 2598 个数据点覆盖 13 种植物、17 类病害标注工作大约投入了 300 个人时图像来源是互联网抓取的真实场景照片不是实验室摆拍。压缩包里能看到一批 XML 标注文件命名上带着 IU-TYLCV、TYLCV、whitefly、blueberry 这些标签说明它同时覆盖了番茄黄化曲叶病毒、蓝莓、烟粉虱传毒等具体场景。它适合三类人想验证病害检测模型泛化能力的算法工程师、需要真实田间数据做课程设计或论文的学生、以及做农业 AI 产品原型、需要快速搭一个能跑通的检测 pipeline 的开发者。如果你手上只有 PlantVillage 那种干净数据这份东西正好能当你的“野外测试集”。2. 拆开压缩包XML 标注结构、类别映射与选型理由2.1 为什么是 XML 而不是直接给 YOLO txt拿到包第一件事别急着训模型先把标注格式搞清楚。这批文件是 XML从命名和结构看接近 PASCAL VOC 风格——每张图对应一个 XML里面记录图像尺寸、目标类别名和边界框坐标。为什么作者不直接给 YOLO 的 txt因为 VOC XML 是更“原始”的标注形态保留的信息更全转成 YOLO、COCO、CSV 都只是一行脚本的事反过来从 txt 还原类别语义就麻烦了。先看一个典型 XML 长什么样annotation foldertomato/folder filenametomato-yellow-leaf-curl-disease.jpg/filename size width1024/width height768/height depth3/depth /size object nametomato_yellow_leaf_curl_disease/name bndbox xmin212/xmin ymin145/ymin xmax640/xmax ymax530/ymax /bndbox /object /annotationsize里的宽高是原图尺寸转 YOLO 时必须用它做归一化不能想当然按 640 算。object可以有多组一张图里多个病斑就是多个object块。name是类别字符串注意它可能带下划线也可能带连字符不同来源的 XML 命名习惯不统一这是后面要处理的第一个坑。2.2 类别体系梳理13 种植物、17 类病害怎么落到你的标签表数据集覆盖 13 种植物、17 类病害但 XML 里的name字段是自由文本不是数字 ID。你得先扫一遍所有 XML把出现过的类别名去重再决定是保留细粒度番茄黄化曲叶 vs 番茄早疫还是合并成粗粒度番茄病害 vs 健康。常见做法是先统计频次import os import xml.etree.ElementTree as ET from collections import Counter xml_dir ./annotations counter Counter() for fname in os.listdir(xml_dir): if not fname.endswith(.xml): continue tree ET.parse(os.path.join(xml_dir, fname)) for obj in tree.findall(object): name obj.find(name).text.strip() counter[name] 1 for name, cnt in counter.most_common(): print(f{name}: {cnt})跑完你会得到一张类别频次表。如果某个类别只有个位数样本直接拿去做 17 分类会让模型在这类上几乎学不到东西这时候要么合并到相近类别要么在训练时用重采样。我一般会设一个阈值比如少于 30 个实例的类别先合并保证每类至少有几十个正样本否则 mAP 会被长尾拖得很惨。2.3 图像与标注的配对检查XML 里写了filename但实际图片文件名可能和它对不上——有的是_b后缀的 Flickr 原图名有的是重命名过的。配对检查这一步不能省import os img_dir ./images xml_dir ./annotations imgs {os.path.splitext(f)[0] for f in os.listdir(img_dir)} xmls {os.path.splitext(f)[0] for f in os.listdir(xml_dir)} missing_xml imgs - xmls missing_img xmls - imgs print(有图无标注:, len(missing_xml)) print(有标注无图:, len(missing_img))有图无标注的图要么补标要么剔除有标注无图的直接删 XML否则训练时 dataloader 会报文件找不到。这一步做完你才对这份数据集的真实可用规模心里有数——2598 是标称值实际能进训练的可能略少。3. 转成 YOLO 格式脚本、归一化与训练配置3.1 VOC XML 转 YOLO txt 的完整脚本YOLOv5/v8 吃的是每张图一个 txt每行class_id x_center y_center width height全部归一化到 0~1。转换脚本如下import os import xml.etree.ElementTree as ET # 类别名到 id 的映射按你上一步统计的顺序固定下来 classes [ tomato_yellow_leaf_curl_disease, tomato_early_blight, blueberry_healthy, # ... 其余类别 ] class_to_id {c: i for i, c in enumerate(classes)} xml_dir ./annotations out_dir ./labels os.makedirs(out_dir, exist_okTrue) for fname in os.listdir(xml_dir): if not fname.endswith(.xml): continue tree ET.parse(os.path.join(xml_dir, fname)) root tree.getroot() w int(root.find(size/width).text) h int(root.find(size/height).text) lines [] for obj in root.findall(object): name obj.find(name).text.strip() if name not in class_to_id: continue # 跳过未登记类别避免 id 错位 cls_id class_to_id[name] box obj.find(bndbox) xmin float(box.find(xmin).text) ymin float(box.find(ymin).text) xmax float(box.find(xmax).text) ymax float(box.find(ymax).text) # 归一化并转中心点格式 x_center (xmin xmax) / 2.0 / w y_center (ymin ymax) / 2.0 / h bw (xmax - xmin) / w bh (ymax - ymin) / h # 裁剪到 [0,1]防止个别越界框污染训练 x_center min(max(x_center, 0), 1) y_center min(max(y_center, 0), 1) bw min(max(bw, 0), 1) bh min(max(bh, 0), 1) lines.append(f{cls_id} {x_center:.6f} {y_center:.6f} {bw:.6f} {bh:.6f}) out_name os.path.splitext(fname)[0] .txt with open(os.path.join(out_dir, out_name), w) as f: f.write(\n.join(lines))几个关键点class_to_id必须固定训练和推理时顺序要一致否则类别全乱归一化用的是 XML 里的原图宽高不是网络输入尺寸最后那个裁剪到 [0,1] 是血泪经验互联网抓的图偶尔有标注框超出边界不裁的话 YOLO 会直接报错或者训出诡异结果。3.2 划分训练集验证集与 data.yaml转完 txt 后按 8:2 划分注意要按图像划分而不是按标注行划分同一张图的所有框必须进同一个集合否则验证集里出现训练图的半个目标就是数据泄漏。# 目录结构建议 dataset/ images/ train/ val/ labels/ train/ val/对应的data.yamlpath: ./dataset train: images/train val: images/val nc: 17 names: [ tomato_yellow_leaf_curl_disease, tomato_early_blight, # ... 与脚本里 classes 顺序完全一致 ]nc是类别数names顺序必须和转换脚本里的classes一模一样。我见过有人改类别时只改了 yaml 没改脚本训出来的模型把番茄病害认成蓝莓排查了半天。3.3 训练参数怎么设从 yolov8n 起步第一次跑别上大模型用 yolov8n 快速验证 pipeline 通不通yolo detect train \ datadataset/data.yaml \ modelyolov8n.pt \ epochs100 \ imgsz640 \ batch16 \ lr00.01 \ patience20 \ nameplantdoc_baselineimgsz640是默认值如果原图普遍是 1024 宽可以试 800 或 960但显存要够。patience20表示 20 轮没提升就早停防止过拟合。lr00.01是 SGD 的初始学习率用 Adam 的话可以降到 0.001。跑完看results.png里的 mAP50 和 mAP50-95如果 mAP50 卡在 0.3 以下先别调模型回去查标注和类别映射。4. 避坑与排查标注、类别和训练里最容易翻车的地方4.1 现象训练 loss 正常但 mAP 极低原因类别 id 映射错位。XML 里的name字符串和data.yaml的names顺序对不上模型学的是“第 3 类”但验证时按 yaml 的第 3 个名字去算全错。解决把转换脚本里的classes列表和 yaml 的names用同一个文件生成别手抄两遍。4.2 现象dataloader 报 “image not found” 或 “corrupted”原因XML 里的filename和实际图片名不一致或者图片是 CMYK 模式、带 alpha 通道OpenCV 读进来是 4 通道。解决配对检查脚本先跑一遍把有标注无图的 XML 删掉读图时统一cv2.imread(path, cv2.IMREAD_COLOR)强制转三通道。4.3 现象某些类别 mAP 一直是 0原因该类别样本太少或者标注框面积过小小于 3x3 像素YOLO 在 640 输入下根本看不到。解决统计每类实例数少于 30 的合并或重采样过滤掉宽高小于 5 像素的框这种框对检测没意义还添乱。4.4 现象验证集指标虚高实测拉胯原因训练集和验证集里有同一张图的不同版本比如 Flickr 原图和裁剪图造成数据泄漏。解决划分前先对图片做感知哈希去重或者至少按文件名前缀分组划分同一来源的图只进一个集合。4.5 现象训练到一半显存爆了原因batch设太大或者某张图分辨率特别高比如 4000x3000YOLO 会按长边缩放到imgsz但极端长宽比会撑爆显存。解决训练前统一把图片长边缩到 1280 以内或者开rectTrue做矩形训练减少 padding 浪费。5. 进阶玩法用这份数据做泛化验证与半监督冷启动5.1 把它当“野外测试集”验证 PlantVillage 模型的真实水平如果你手上已经有在 PlantVillage 上训好的分类或检测模型别急着重新训先把这份数据当测试集跑一遍。做法很简单把 XML 转成分类任务需要的格式一张图取最大框的类别作为图标签然后推理。我一般会看两个数整体准确率和“田间-实验室落差”。落差超过 30 个点说明模型严重过拟合干净背景这时候再用这份数据做微调比从头训省一半时间。5.2 半监督冷启动少量标注 大量未标注2598 张里真正带框的是一部分剩下的可以当未标注数据做半监督。常见做法是先用已标注数据训一个教师模型对未标注图生成伪标签置信度阈值设 0.7 以上再把伪标签和真标签混在一起训学生模型。这里有个细节伪标签的框要做 NMS 去重否则同一病斑会出现多个重叠框学生模型会学歪。5.3 一个具体技巧按植物种类分层采样17 类病害分布在 13 种植物上如果随机划分可能出现验证集里某种植物一张图都没有。我习惯按植物种类分层先按folder或文件名前缀分组每组内再 8:2 划分保证每种植物在训练和验证里都有代表。这样训出来的模型换作物时不会直接崩。import os import random from collections import defaultdict img_dir ./images groups defaultdict(list) for f in os.listdir(img_dir): # 假设文件名前缀是植物种类如 tomato_xxx.jpg plant f.split(_)[0] groups[plant].append(f) train, val [], [] for plant, files in groups.items(): random.shuffle(files) split int(len(files) * 0.8) train files[:split] val files[split:] print(ftrain: {len(train)}, val: {len(val)})跑完这个再去看验证集每种植物都有样本mAP 的方差会小很多。从那以后我每次拿到多作物数据集都强制先跑一遍分层划分再开始训——随机划分看着省事翻车的时候连问题出在哪都找不到。希望这份拆解能帮你少走点弯路。本文还有配套的精品资源点击获取