一、概念

1、感知机模型——线性分类器，用于二分类问题。（正类+1、负类-1）

2、物理意义

将输入的空间划分为正负两类分离超平面y={+1,-1}。

3、定义函数

f(x) = sign(wx+b)为感知机。w为全职列向量，b为偏置，向量内积，sign()示性函数

sign(x) = +1 x>=0

= -1 x<0

wx+b=0给出了一个超平面S（分离超平面），一分为二。

w为S的法向量，b为S的截距。

S上位正类点，S下为负类。

二、感知机学习策略

存在S：wx+b=0，使得实例（xi,yi+b)yi>0，正确划分，小于0，错误分类样本点。

那也就是说我们希望这个距离越小越好。这里介绍了这个损失函数

损失函数，最小化L，就是错误距离这一部分。

这里，就引进了一个梯度的这个概念，也就是说，想让L不断的下降，通过调整W。最原始的形式，我们就是W通过这个每次代尔塔不断的这个这个调整，我们的这个Y值，对应的W，我们也不断的进行一个调整这个搭配我们的这个WL，对于W的这个偏导他的这个变动，这个也影响了我们这个W的这个不断的这个下降的这个过程。这里，我们有一个学习，这个有一个步长，也就是学习率，也就是说积极学习，它有一个学习率，这有一个参数来这个决定你到底每一次要就是下降多少如果说很大的话，那就是这个变动。很大，W然后如果说是这个很小的话，步长很小，就是他一次一次他可能调的很细微，比如说这个W横这个这个这个一塔，这个应该是一塔他越小，那说明你这个是不是W，这个在这个平面转旋转的过程中，它的变化幅度，每次是很很小的，他在很小的变动，如果说你这个一塔很长，那这样的话，自己学习模型，他在这个条变动W的时候，转动的时候是不是这个这一次的转动就比上一次的这个旋转幅度要大一点，表现的就是我们这个平面这个W，它的这个这一刀切下来的这一刀，他的这个可能在空间中的旋转变化大不大，那主要，就是通过我们这个不长学习率来体现的，这也是一个很重要的这个超参数。这个它直接决定了我们这个W在取最优值的时候，比如说你是让他这个按照每次0..01这个长度来学习还是说按0.1，还是多大的这个一个学习率来这个这个更新我们的W和这个B的。这里，这个为了这个统一起这个方便，我们这个减少我们这个部长的这个参数的这个取值，我们直接对W和B都用这个这个一塔就可以了。共用一个这个学习率，就是说W何必再变动的时候，他们每一个这个每一次训练的时候，他们训练也都按照这个不常来进行调节来更新的。

那这样的话，我们就希望写一个这个算法，让它这个不断的这个调整我们的W，直到什么，直到我们找到这个最小的L，我们就停止这个训练，我们就找到了最优的W和最后的B此时，我们的L无法下降，已经取到了最小值，那我们就对应的找到了W和我们的B。

 

 

 

三、对偶形式

 

四、感知机——神经网络