【机器学习12】-欠拟合、过拟合

以下是关于机器学习模型拟合三种状态（欠拟合、适度拟合、过拟合）的核心总结和应对策略：

回归案例

1. 三种拟合状态的对比

2. 关键问题与解决方案

(1) 欠拟合（Underfit）

• 原因：模型太简单（如线性模型拟合非线性数据）。
• 解决：
• 增加特征（如多项式特征 $x^2,x^3$）。
• 使用更复杂的模型（如决策树、神经网络）。
• 减少正则化强度（若使用了正则化）。

(2) 适度拟合（Just Right）

• 目标：模型复杂度与数据真实分布匹配。
• 方法：
• 交叉验证选择最佳模型复杂度。
• 平衡偏差和方差（如通过正则化调优）。

(3) 过拟合（Overfit）

• 原因：模型过于复杂，学习了噪声。
• 解决：
• 增加训练数据量。
• 使用正则化（L1/L2正则化）。
• 简化模型（如减少多项式阶数、剪枝决策树）。
• 早停法（Early Stopping）。