🐧大模型系列篇章

💖 多模态大模型 🔎 GroundingDINO 论文总结
💖 端到端目标检测 🔎 从DETR 到 GroundingDINO 🔥
💖 多模态大模型 👉 CLIP论文总结
💖 多模态大模型 👉 EVA-CLIP
💚 生成模型 👉 从 VAE 到 Diffusion Model （上）
💚 生成模型 👉 从 VAE 到 Diffusion Model （下）🔥
💧 天气大模型

🐧深度学习基础知识篇

💖 深度学习基础知识干货 🔎 Batch Normalization 批量归一化
💖 深度学习基础知识干货 🔎 卷积模型的Memory, Params, Flop是如何计算的?
💖 深度学习基础知识干货 🔎 Cross-Entropy Loss 多分类损失函数
💖 深度学习基础知识干货 🔎 Videos 动作检测
💖 深度学习基础知识干货 🔎 目标检测(Object Detection): 你需要知道的一些概念
💖 深度学习基础知识干货 🔎 微调（fine-tuning）和泛化（generalization）
💖 深度学习基础知识干货 🔎 Group Convolution / Depthwise Convolution 轻量模型的必有的卷积
💖 深度学习基础知识干货 🔎 Gradient checkpointing
💖 深度学习基础知识干货 🔎 Softmax中温度（temperature）参数
💖 深度学习基础知识干货 🔎 什么是few-shot learning

本文主要讨论两个主要方面：微调（fine-tuning）和 泛化（generalization）。

微调 Fine-tune

对于微调：选择合理的步骤（也就是迭代轮数或称为epochs），以获得良好的下游任务性能，但同时避免过拟合。微调是指在一个已经在大规模数据上预训练好的模型的基础上，针对特定任务领域的数据进行调整（微调）以提高性能。在选择微调步骤时，需要考虑到数据集本身的特点，以确保在不过拟合的情况下获得良好的性能。

泛化 Generalization

对于泛化：可以采用模型集成技术，例如 WISE-FT 来平衡微调模型和预训练模型之间的权重。泛化能力指的是模型在未见过的数据上表现良好的能力。模型集成通过组合多个不同的模型来提高整体性能，WISE-FT 是其中一种模型集成技术。它可以平衡微调后的模型和预训练模型之间的权重，从而提高模型的泛化能力。

OWL-V2 是目前最强大的开放集对象检测（OVD）模型之一，它也使用了这种模型集成技巧。这意味着即使是在最强大的模型中，也可以通过模型集成来进一步提高性能和泛化能力。