本文围绕深度学习中的核心概念——“特征”,来聊聊三个关键问题:

1.特征到底是什么?

2.为什么深度学习模型能够自动学习特征?

3.模型是怎么学习特征的?

1.特征是什么?

在深度学习中,“特征”是对数据中有用信息的抽象表达。它通常不是肉眼直接可见的像素,而是隐藏在数据中的规律或结构。

举个例子:

  • 在医学影像中,不同成像方式(称为“模态”)会呈现出不同的特征。比如脑部MRI的T1、T2、T1Gd、T2-FLAIR序列,每一种都强调不同的组织特性——有的突出水含量,有的强化病灶区域。模型需要识别出这些模态特有的特征,比如信号强度分布、病灶边缘形态、纹理结构等,来判断是否存在肿瘤或其他异常。
  • 在自然图像任务中,特征则可能是边缘、颜色、物体形状。

简单来说,特征就是“去掉冗余信息,留下关键线索”。

2.深度学习模型为什么能学习特征?

深度学习模型能自动学习特征,是因为它通过大量的数据和明确的优化目标(即最小化损失函数)自动调整参数。在训练过程中,模型会逐渐发现哪些信息对预测结果有帮助、哪些是干扰,从而放大有用信号、抑制无关噪声,从而形成稳定的特征提取能力。

3.模型是怎么学习特征的?

图像的原始像素纬度高、噪声多。模型学习特征的过程,可以理解为一种“信息浓缩”:

  1. 编码与压缩:模型通过一个称为“编码器(encoder)”的结构,将原始图像一步步压缩成一个向量或一组特征图。

  2. 保留关键,去除冗余:这个编码过程并不是简单压缩,而是有选择地保留图像中的“核心语义信息”(比如“这是猫的耳朵”“那是车的轮子”),去掉了冗余像素(比如背景纹理、光照变化)。

  3. 形成特征表示:最终得到的向量,就成为了能够代表图像关键内容的“特征”。在后续任务中(比如分类、检测),模型实际上是在这些特征之上做决策,而非直接基于原始像素。

4.小结

总结来看:

  • 特征就是数据的“精华摘要”,是被提炼出来的关键信息;

  • 学习能力源于“从错误中学习”。模型通过在海里数据中不断试错、自我调整,从而自动发现有哪些信息有用,哪些是噪音;

  • 学习过程是一个“智能压缩”过程。模型将高维输入浓缩为低维的、富含语义的特征表示。

简单来说,特征学习就是让机器学会如何“抓住重点”。

Logo

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐