机器学习（ML）是人工智能（AI）的一个子领域，专注于构建算法和模型，使计算机能够从数据中学习并随着经验提升，而无需为每个任务都进行明确编程。简单来说，机器学习通过分析和学习数据，教系统学习模式并像人类一样做出决策。

机器学习有几种类型，每种都有其特殊的特性和应用。机器学习算法的主要类型如下：

• 监督机器学习
• 无监督机器学习
• 强化学习

此外，还有一个更具体的类别，称为半监督学习和自我监督学习，结合了监督和非监督学习的元素。

1. 监督机器学习

监督学习定义为模型在“标记数据集”上进行训练。带标签的数据集既有输入参数，也有输出参数。在监督学习中，算法学习如何映射输入点与正确输出之间的关系。它标注了训练数据集和验证数据集。

举个例子：如果你用猫和狗的标签图片训练模型，它会学习它们的特征。当显示新图像时，它会预测它是猫还是狗。

监督学习主要分为两大类，具体如下：

1. 分类

分类预测类别输出，意味着它将数据分配到预定义的类别，如垃圾邮件/非垃圾邮件或疾病风险类别。这些算法学习将输入特征映射到离散标签。以下是一些分类算法：

• 逻辑回归
• 决策树
• 随机森林
• K-最近邻（KNN）
• 天真贝叶斯
• 支持矢量机

2. 回归

回归预测连续值，如房价或产品销售。它学习输入特征与数值目标变量之间的关系。以下是一些回归算法：

• 线性回归
• 多项式回归
• 岭回归
• 套索回归
• 决策树
• 随机森林

在哪里使用监督学习

• 当你有标记数据并想预测结果时，
• 非常适合分类（如垃圾邮件检测）或回归任务（如价格预测）。
• 最好用于已有历史数据和结果的领域。

应用

监督学习被广泛应用于多种应用领域，包括：

• 图像、语音和文本处理：用于图像分类、语音识别和情感分析等任务。
• 预测分析：用于预测销售、客户流失、股价和天气状况。
• 推荐与个性化：驱动推荐产品、电影或内容的系统。
• 医疗保健和金融：用于医疗诊断、欺诈检测和信用评分。
• 自动化与控制：在自动驾驶汽车、制造质量检查和游戏人工智能领域。

2. 无监督机器学习

无监督学习使用无标签数据，也就是说没有预定义输出。算法自行在数据中发现隐藏的模式、群体或关系。它主要用于聚类、降维和数据可视化。

举例：如果你有没有标签的客户数据，算法可以根据购买行为对细分和营销有用的行为对相似客户进行分组。

无监督学习主要分为两大类：

1. 聚类

聚类是根据数据点的相似性将其分组到聚类中的过程。该技术有助于识别数据中的模式和关系，无需标注示例。常见的技术包括：

• K-均值
• DBSCAN
• Mean Shift 均值漂移

2. 降维技术

降维有助于减少特征数量，同时保留重要信息。常见的技术包括：

• 主成分分析（PCA）
• 独立成分分析（ICA）

3. 关联规则学习

关联规则学习是一种用于发现数据集中项目之间关系的技术。它识别出那些表示某项存在意味着另一项存在的规则，且具有特定概率。常见的技术包括：

• Apriori
• FP-增长算法
• Eclat

在哪里使用无监督学习

• 当数据没有标签或结构化时。
• 适用于探索性分析、聚类或特征提取。
• 这在营销、推荐系统和欺诈检测中很常见，因为模式比标签更重要。

无监督学习的应用

以下是无监督学习的一些常见应用：

• 聚类与细分：将相似的数据点、客户或图片分组。
• 异常检测：发现数据中的异常模式或异常值。
• 降维：简化大型数据集，同时保留关键信息。
• 推荐与营销：识别用户偏好并改进产品推荐。
• 数据预处理与分析：清理数据，发现模式并支持探索性数据分析（EDA）。

3. 强化学习

强化学习训练智能体通过反复试验做出一系列决策。智能体与环境互动，接收奖励或惩罚形式的反馈，并随着时间学习最优行为。

举例：一个AI代理学习下棋时，好走法会得到正面反馈，差的走法会有负反馈。随着时间推移，它学会了更频繁获胜的策略。

以下是一些最常见的强化学习算法：

• Q学习：根据预期奖励学习每个状态的最佳行动。
• SARSA（状态-行动-奖励-状态-行动）：类似于Q学习，但更新实际执行动作的数值。
• 深度Q网络：利用神经网络处理复杂的状态-动作关系

强化学习的类型

• 积极强化：奖励期望的行为（例如，答对给分）。
• 负面强化：去除负面结果以鼓励做好事（例如，正确动作后关闭蜂鸣器）。

强化学习的应用

• 当你需要一个代理通过与环境互动来学习时，
• 最适合决策或优化任务，涉及试验和反馈循环。
• 当长期表现或适应性行为比即时准确性更重要时，会使用。

强化学习的应用

以下是强化学习的一些应用：

• 游戏与模拟：教特工或NPC智能游玩和适应。
• 机器人与自动化：使机器人能够自主执行任务。
• 自动驾驶汽车：帮助自动驾驶汽车做出实时决策。
• 医疗与金融：优化治疗计划、交易和资源分配。
• 推荐与个性化：通过自适应建议提升用户体验。
• 工业与能源管理：优化控制系统和能源使用。

半监督学习：监督学习 + 无监督学习

半监督学习结合了监督和非监督两种方法。它使用一小部分带标签数据和大量未标记数据进行训练，适用于标记成本高或耗时时。

举例：假设我们正在构建一个语言翻译模型，为每对句子设置标签翻译会消耗大量资源。它允许模型从带标签和未标记的句子对中学习，从而提高准确性。该技术显著提升了机器翻译服务的质量。

流行技巧

• 基于图的学习：通过数据关系传播标签信息。
• 标签传播：迭代地为未标记的数据分配标签。
• 协同训练：使用两个模型训练并标记彼此的数据。
• 自训练：使用模型预测作为伪标签。
• 生成对抗网络（GAN）：生成合成数据以提升学习效果。

半监督学习的应用

• 当你有有限的标签数据，但大量未标记的数据时，
• 适用于标注成本较高的领域，如医学、自然语言处理或图像数据集。
• 当未标记的数据仍包含有价值的信息，能够提升学习表现时，这才是理想的选择。

应用

• 图像分类：结合小而有标记和大型无标签图像数据集以提高准确性。
• 自然语言处理（NLP）：通过结合带标签和大量无标签文本数据来增强语言模型。
• 语音识别：通过有限的转录音频和更多无标签语音数据提升准确率。
• 推荐系统：利用稀疏的标注数据和丰富的无标签用户行为改进推荐。
• 医疗与医学影像：通过结合标记和未标记图像，提升医学图像分析能力。

自我监督学习

自我监督学习（SSL）是一种现代方法，模型从原始数据生成自己的标签。它不依赖人工注释，而是通过预测数据中的部分内容来学习。

举例：在自然语言处理中，像BERT或GPT这样的模型通过预测句子中的掩蔽词来学习，并利用周围的上下文作为监督。这帮助他们在不被人类标签的情况下学习语言理解。

流行技巧

• 掩码建模（BERT）
• 对比学习（SimCLR，MoCo）
• 自编码器
• 预测编码

应用

• 自然语言处理
• 计算机视觉与语音识别
• 视频理解
• 大型人工智能模型的预训练

在哪里使用自我监督学习

• 当手工标签不可能或成本高昂时。
• 适用于文本、音频和图像等大规模数据集。
• 最适合预训练模型，之后可以针对特定监督任务进行微调。

对比

类型	数据需求量	标签情况	学习目标	典型应用场景
监督学习	高	全部带标签	预测输出结果	垃圾邮件识别、房价预测
无监督学习	中等	无标签	挖掘数据隐藏规律	用户分层聚类
强化学习	高	奖励反馈替代标签	习得最优行动策略	机器人、游戏 AI
半监督学习	中等	仅少量标签	融合监督、无监督学习优势	自然语言处理、图像识别
自监督学习	高	模型自动生成标签	学习数据通用表征	BERT、GPT、CLIP 大模型