文章目录

Fine-tuning 微调

首先需要理解什么是预训练？
预训练是指在一个大规模通用数据集上训练模型，使其学习到通用的特征或语言规律。这个阶段的目标不是解决某个具体任务，而是让模型具备“通用能力”。

在 NLP 中，像 BERT、GPT 这样的模型，首先会在大量的文本（如维基百科、网页等）上进行预训练，学习语言的结构、语法、语义等。
在 CV 中，ResNet 等模型会在 ImageNet 这样的通用图像数据集上进行预训练，学习图像的边缘、纹理、形状等通用特征。

什么是微调？
微调是指在特定任务的小数据集上，对已经预训练好的模型进行进一步训练，使其适应该任务。
用预训练的 BERT 模型，在情感分析、问答系统、文本分类等具体任务上进行微调。
用预训练的 ResNet 模型，在医学图像分类、人脸识别等特定任务上进行微调。

什么时候需要进行微调？

进行 Fine-Tuning（微调）的核心目的是：让预训练模型适应“特定任务”。所以，只要预训练模型不能直接满足你的需求，就需要 Fine-Tuning。

1. 任务不一样：
   预训练任务是：图像分类（ImageNet 1000 类）；当前任务：医学影像二分类（正常/癌变）
2. 数据分布偏移：
   预训练的数据分布是：白天自然风景；当前的数据分布：夜间红外图像
3. 需要私有/领域知识：
   当前的数据分布是：法律、医疗、金融文档
4. 需要控制输出风格或格式：
   想让模型输出 JSON、SQL、特定报表格式

Fine-Tuning的具体方法？

1. Prompt-style tuning
   把下游任务包装成“填空”或“问答”模板，让原始模型 zero-shot / few-shot 推理。
2. LoRA / QLoRA
   在注意力层插入低秩分解矩阵 W + ΔW = W + BA，冻结原权重，只训 B, A。
3. AdaLoRA / DoRA
   AdaLoRA：动态剪枝低秩秩 r，不重要 rank 自动置 0，节省 30% 算力。
   DoRA：把权重拆成“模长+方向”，方向用 LoRA 训，稳定提升 1-2 点。
4. Full Fine-Tuning
   全参数微调

系列文章

【大语言模型】-- OpenAI定义的五个AGI发展阶段
【大语言模型】-- Fine-tuning 微调
【大语言模型】-- 私有化部署
【大语言模型】-- Prompt Engineering 提示工程
【大语言模型】-- Function Calling函数调用
【大语言模型】-- RAG
【大语言模型】-- Agent
【大语言模型】-- 一些概念