【深度学习之一】数学基础

范数在机器学习中经常使用范数来衡量一个向量的大小，定义如下：其中p∈R,p≥1p\in R,p \geq1，对于任何的函数ff,满足：（1）f(x)=0⇒x=0f(x)=0 \Rightarrow x=0（2）f(x+y)≤f(x)+f(y)f(x+y) \leq f(x) +f(y)（3）∀α∈R,f(αx)=∣α∣f(x)\forall \alpha \in R,f(\alpha x) =

黄小猿

999人浏览 · 2017-11-19 09:56:53

黄小猿 · 2017-11-19 09:56:53 发布

范数

在机器学习中经常使用范数来衡量一个向量的大小，定义如下：
这里写图片描述

其中p∈R,p≥1<script type="math/tex" id="MathJax-Element-64">p\in R,p \geq1</script>，对于任何的函数f<script type="math/tex" id="MathJax-Element-65">f</script>,满足：

（1）f(x)=0⇒x=0<script type="math/tex" id="MathJax-Element-66">f(x)=0 \Rightarrow x=0</script>

（2）f(x+y)≤f(x)+f(y)<script type="math/tex" id="MathJax-Element-67">f(x+y) \leq f(x) +f(y)</script>

（3）∀α∈R,f(αx)=∣α∣f(x)<script type="math/tex" id="MathJax-Element-68">\forall \alpha \in R,f(\alpha x) = \mid \alpha \mid f(x)</script>

p=1表示L1范数，p=2为L2<script type="math/tex" id="MathJax-Element-69">L^2</script>范数，也叫欧拉范数，||x||∞=max|xi|<script type="math/tex" id="MathJax-Element-70">||x||^∞ =max |x_i|</script>,为无穷范数，取矩阵一行中的最大绝对值。