机器学习 & 深度学习入门:10 个高频基础知识点,收藏起来慢慢学
前言:对于刚入门机器学习(ML)和深度学习(DL)的同学来说,很容易被繁杂的概念、公式和模型绕晕。其实入门的关键是先掌握核心基础知识点,搭建起知识框架,再逐步填充细节。本文整理了10个最高频的基础知识点,每个知识点都用通俗的语言拆解,搭配入门级理解要点,适合收藏起来慢慢啃、反复回顾。
本文适用人群:AI入门小白、在校学生、想转行AI的初学者;阅读建议:先理解概念本质,再结合简单案例联想,不用急于深究复杂公式,先建立“直觉认知”。


一、机器学习(ML):让机器从数据中“学经验”
核心定义:机器学习是人工智能的一个分支,核心思想是让计算机不需要被明确编程,就能从数据中学习规律、总结经验,进而完成特定任务。比如让模型从大量历史邮件中学习“垃圾邮件的特征”,从而自动识别新邮件是否为垃圾邮件。
入门理解:传统编程是“人写规则→机器执行”,比如写一个“判断是否为偶数”的程序,规则是“能被2整除”;而机器学习是“给机器数据→机器自己找规则”,比如给机器1000个“垃圾邮件”和“正常邮件”,机器自己总结出“含‘中奖’‘转账’等关键词的大概率是垃圾邮件”的规则。
核心价值:解决传统编程无法应对的复杂问题(如图像识别、自然语言处理),实现“数据驱动”的自动化决策。
二、深度学习(DL):基于“神经网络”的机器学习进阶
核心定义:深度学习是机器学习的一个子集,核心是用“人工神经网络”模拟人脑神经元的连接方式,通过多层网络结构自动提取数据的深层特征。比如识别猫的图片时,底层网络识别“边缘、纹理”,中层网络识别“耳朵、眼睛”,顶层网络识别“完整的猫”。
入门理解:可以把神经网络想象成“多层过滤器”。数据从第一层输入,经过每一层的“过滤”(特征提取),最终输出结果。层数越多,能提取的特征越复杂、越抽象——这也是“深度”的含义(通常指网络层数≥3层)。
与传统ML的区别:传统ML需要人工设计特征(比如识别图片时手动定义“颜色、形状”特征),而DL能自动完成特征提取,尤其适合处理图像、语音、视频等“非结构化数据”。
三、监督学习:带“标签”的学习,最常用的入门场景
核心定义:监督学习是机器学习的三大范式之一(另外两个是无监督学习、强化学习),核心是用“带标签的训练数据”(即每个数据都有明确的“标准答案”)训练模型,让模型学会“输入→输出”的映射关系。
入门案例:比如训练“房价预测”模型,输入是“房屋面积、卧室数量、地段”,标签是“实际房价”(标准答案);训练“手写数字识别”模型,输入是“数字图片像素”,标签是“0-9的具体数字”。
常见任务:分类(输出离散结果,如“垃圾邮件/正常邮件”“猫/狗”)、回归(输出连续结果,如“房价、温度预测”)。
四、无监督学习:无“标签”的学习,挖掘数据隐藏规律
核心定义:无监督学习使用“无标签的训练数据”(没有标准答案),核心是让模型自动挖掘数据本身的隐藏规律、结构或关联,比如数据的聚类、降维。
入门案例:比如给模型1000张不同类型的动物图片(没有标签),模型能自动把“猫”“狗”“兔子”分成不同的组(聚类);再比如把高维度的“图片像素数据”(比如1000个特征)压缩成低维度数据(比如2个特征),同时保留核心信息(降维)。
核心价值:解决“没有标准答案”的场景,比如用户分群(找出具有相似消费习惯的用户)、异常检测(找出与正常数据规律不符的异常值,如欺诈交易)。
五、损失函数:衡量模型“预测值”与“真实值”的差距
核心定义:损失函数(也叫代价函数)是量化模型预测结果与真实标签之间误差的函数。损失值越小,说明模型预测越准确;训练模型的核心目标就是“最小化损失函数”。
入门理解:可以把损失函数想象成“评分器”。比如模型预测房价是100万,真实房价是120万,评分器给出一个“误差分数”(损失值);模型调整参数后,预测值变成115万,误差分数变小,说明模型变好了。
常见类型:回归任务用“均方误差(MSE)”(计算预测值与真实值差值的平方的平均值);分类任务用“交叉熵(Cross-Entropy)”(衡量预测概率分布与真实概率分布的差距)。
六、梯度下降:模型“调整参数”的核心算法
核心定义:梯度下降是实现“最小化损失函数”的核心优化算法,核心思想是“沿着损失函数的梯度(导数)方向,逐步调整模型参数,最终找到损失最小的参数组合”。
入门理解:把损失函数想象成一座“山”,模型的参数就是“登山者”的位置,损失值就是“海拔高度”。梯度下降就是让登山者“沿着下山最陡的方向(梯度负方向)一步步走,直到走到山底(损失最小)”。
关键参数:学习率(步长)——步长太大可能“跳过山底”,步长太小则“下山太慢”。常见变种:批量梯度下降(用全部数据计算梯度)、随机梯度下降(用单个数据计算梯度,速度快但波动大)、小批量梯度下降(折中方案,最常用)。
七、过拟合与欠拟合:模型“泛化能力”的关键障碍
核心定义:泛化能力是指模型对“未见过的新数据”的预测能力,过拟合和欠拟合是影响泛化能力的两大问题:
-
欠拟合:模型太简单,无法捕捉数据中的规律,表现为“训练数据和测试数据的误差都很大”。比如用“线性模型”预测非线性的房价数据,模型连训练数据都拟合不好。
-
过拟合:模型太复杂,把训练数据中的“噪声”(无关信息)当成了规律,表现为“训练数据误差很小,但测试数据误差很大”。比如用复杂的多项式模型预测房价,模型在训练数据上几乎完美预测,但面对新的房价数据时误差很大。
解决方法:欠拟合→增加模型复杂度(如加深神经网络层数、增加特征数量);过拟合→正则化(L1、L2正则,给参数加约束)、数据增强(增加训练数据量)、早停(训练到一定程度停止,避免过度拟合)、dropout(神经网络中随机丢弃部分神经元,防止过度依赖某些特征)。
八、神经网络基础:神经元与激活函数
1. 神经元(感知机):神经网络的基本单元,模拟人脑神经元的工作方式。核心是“接收输入→加权求和→加偏置→输出结果”。比如一个神经元接收“房屋面积、卧室数量”两个输入,给每个输入分配一个权重(重要性),求和后加一个偏置项,再通过激活函数输出结果。
2. 激活函数:给神经网络引入“非线性”,让模型能拟合复杂的非线性关系(如果没有激活函数,多层神经网络和单层线性模型没区别)。
常见激活函数:
-
Sigmoid:把输出压缩到0-1之间,适合二分类任务的输出层,但存在“梯度消失”问题(深层网络中梯度趋近于0,无法训练)。
-
ReLU:输入为正则输出本身,输入为负则输出0,解决了梯度消失问题,是目前最常用的激活函数(隐藏层首选)。
-
Softmax:把多个输出值映射为0-1之间的概率,且概率和为1,适合多分类任务的输出层(如识别0-9十个数字)。
九、卷积神经网络(CNN):图像识别的“利器”
核心定义:卷积神经网络是一种专门处理“网格结构数据”(如图像的像素网格、语音的时序网格)的深度学习模型,核心是通过“卷积层”“池化层”高效提取空间特征。
入门理解:图像是由像素组成的二维网格,CNN通过“卷积核”(相当于一个小窗口)在图像上滑动,提取局部特征(如边缘、纹理)——这就是卷积层的作用;池化层则是对卷积层提取的特征进行“下采样”(比如取最大值或平均值),减少数据量,同时保留关键特征。
典型应用:图像分类(如AlexNet、ResNet模型)、目标检测(如YOLO、SSD模型)、图像分割、人脸识别等。
十、循环神经网络(RNN):处理时序数据的“能手”
核心定义:循环神经网络是一种能处理“时序数据”(如文本、语音、股票价格序列)的深度学习模型,核心是通过“循环结构”让模型记住历史信息,从而捕捉数据的时序依赖关系。
入门理解:时序数据的特点是“当前数据与历史数据相关”,比如理解一句话时,后面的词需要依赖前面的词;预测股票价格时,今天的价格需要参考过去几天的价格。RNN通过在每一步计算时引入“上一步的隐藏状态”(相当于历史记忆),让模型能利用历史信息进行预测。
常见变种与应用:传统RNN存在“长程依赖消失”问题(无法记住过长的历史信息),因此有了LSTM(长短期记忆网络)和GRU(门控循环单元)等变种,解决了长程依赖问题。典型应用:文本生成、机器翻译、语音识别、时序预测(如股票预测、销量预测)。
总结:入门的核心是“搭建框架+逐步深入”
以上10个知识点是机器学习和深度学习的“地基”,入门时不用追求每个知识点的极致细节,先搞懂“是什么、为什么用、怎么用”,建立起完整的知识框架。后续可以围绕每个知识点展开:比如监督学习可以深入学习决策树、SVM、逻辑回归等模型,深度学习可以深入学习CNN、RNN的具体结构和实现细节。
建议搭配小项目练习:比如用Python的Scikit-learn库实现简单的线性回归、鸢尾花分类(监督学习),用TensorFlow/PyTorch实现一个简单的CNN图像分类模型(如识别MNIST手写数字),通过实践巩固知识点。

DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐


所有评论(0)