在 YOLOv8（或大多数深度学习目标检测模型）中，当你需要向已有模型中添加新类别时，强烈建议将新增类别的数据集与原有的旧数据集合并，一起重新训练模型。

核心原因：避免灾难性遗忘

1. 灾难性遗忘： 如果你只使用新增类别的数据集在原有模型权重上继续训练：
   • 模型会专注于学习识别新的类别。
   • 由于训练过程中没有看到任何旧类别的样本及其标注信息（边界框和类别标签），模型会逐渐“忘记”如何识别这些旧类别。
   • 最终，新训练出的模型在新类别上的性能可能不错，但在旧类别上的性能会显著下降甚至完全失效。
2. 分类层权重绑定： YOLOv8 模型的输出层（分类头）的神经元数量是固定的，等于类别总数。当你新增一个类别时：
   • 你需要增加分类头神经元的数量（从 N 类变成 N+1 类）。
   • 这个新增加的神经元权重是随机初始化的。
   • 旧类别的神经元权重虽然已有预训练值，但如果不提供旧类别的训练数据，这些权重在后续训练中也会被更新（朝着不利于识别旧类别的方向）。

如何正确操作（推荐流程）：

1. 准备数据集：
   • 将包含所有旧类别的数据集和包含新增类别的数据集合并。
   • 确保合并后的数据集具有统一、正确的标注格式（如 YOLO 格式）。
   • 强烈建议检查并修正标注质量，特别是合并过程中可能出现的兼容性问题。
   • 创建一个新的 dataset.yaml 文件，指向合并后的数据集目录，并列出所有类别的名称列表（包括旧的和新的）。
2. 修改模型配置：
   • 在训练命令中，将 --data 参数指向新的 dataset.yaml 文件。
   • 最关键的一步：将 --weights 参数指向你之前训练好的旧模型权重文件（如 yolov8n_custom_old.pt）。这就是使用旧模型作为预训练权重。
   • YOLOv8 会自动处理模型结构的变化：
     • 加载旧模型权重。
     • 根据新 dataset.yaml 中的 nc（类别数）自动扩展分类头的输出神经元数量（新增的神经元权重随机初始化）。
     • 保持骨干网络和大部分检测头的权重来源于预训练模型。
3. 重新训练：
   • 使用合并后的数据集和修改后的配置启动训练。
   • 示例命令：

     yolo detect train data=new_dataset.yaml model=yolov8n.pt weights=path/to/old_model_weights.pt epochs=100 imgsz=640 ...
     

   • 模型会在学习识别新类别的同时，利用旧数据持续巩固对旧类别的识别能力。新扩展的分类头部分从头学习，而原有部分则得到微调。

为什么直接加载旧权重作为预训练是可行的？

• YOLOv8 的骨干网络（如 CSPDarknet）和大部分检测头（负责预测框位置、目标置信度）学习的是通用的、与类别无关的特征（如边缘、纹理、形状、上下文关系）。这些特征对于检测新旧类别的物体通常都是有用的。
• 通过加载旧权重，模型继承了这些通用的视觉表示能力，大大加速了在新任务（包含新旧类别）上的收敛速度，并通常能获得更好的最终性能（相比从头训练）。
• 只有最终的分类层需要根据新的类别数进行调整和重新训练。

总结：

因此，为了同时保持旧类别的识别精度并学习新类别，正确的方法是：将新旧数据集合并，并使用你自训练的旧模型权重文件作为新训练任务的预训练权重 (--weights 参数)。 这是增量学习的标准做法，可以有效利用已有知识并避免遗忘。