机器学习--随机变量分布
一、随机变量:
(1)、 离散型随机变量:
若随机变量全部可能取到的值是有限多个或可列无
限多个。
(2)、非离散型随机变量:
连续型随机变量
奇异型随机变量
1.离散型r.v.的分布律
设离散型r.v.X所有可能取值为XK (k=1,2,3,……)
P(X=xk)=Pk,k=1,2,.... P ( X = x k ) = P k , k = 1 , 2 , . . . . <script type="math/tex" id="MathJax-Element-21">P(X=x_k)=P_k,k=1,2,....</script>
满足 pk>=0,k=1,2,... p k >= 0 , k = 1 , 2 , . . . <script type="math/tex" id="MathJax-Element-22">p_k>=0,k=1,2,... </script> 且 ∑∞k=1Pk=1 ∑ k = 1 ∞ P k = 1 <script type="math/tex" id="MathJax-Element-23">\sum_{k=1}^{\infty}P_k=1</script>
则称(1)式为离散型r.v.X的概率分布或分布律
2.求分布律的步骤:
(1) 明确X的一切可能取值;
(2) 利用概率的计算方法计算X取各个确定值的概率, 即可写出X的分布律.
3.几种重要的离散型r.v.的分布律:
(1) 0–1分布:
| X | 0 | 1 |
|---|---|---|
| pk p k <script type="math/tex" id="MathJax-Element-24">p_k</script> | 1-p | p |
其中0< p <1, P{X=K}=Pk(1−p)1−k,k=0,1 P { X = K } = P k ( 1 − p ) 1 − k , k = 0 , 1 <script type="math/tex" id="MathJax-Element-25">P\{X=K\}=P^k(1-p)^{1-k},k=0,1</script>
(2) 贝努利试验 (二项分布):
定义:设试验E只有两个可能结果A与非A ,且P(A)=p(0 < p <1),将试验E独立重复地进行n次,这样的试验称为贝努利试验。
二、随机变量的分布函数
1、分布函数的概念
定义: 设X是随机变量,对任意实数x, 事件{X≤x}的概率
P{X≤x}称为随机变量X的分布函数。记为F(x), 即F(x)= P {X≤x}.
(1): P{x1<X<x2}=P{X≤x2}−P{X≤x1}=F(x2)−F(x1) P { x 1 < X < x 2 } = P { X ≤ x 2 } − P { X ≤ x 1 } = F ( x 2 ) − F ( x 1 ) <script type="math/tex" id="MathJax-Element-6">P\{x_1
(2) 无论是离散型r.v.还是非离散型r.v. ,分布函数都可以描述其统计规律性.
2、分布函数的性质
单调不减性:若 x1 x 1 <script type="math/tex" id="MathJax-Element-7">x_1</script> < x2 x 2 <script type="math/tex" id="MathJax-Element-8">x_2</script>, 则F(x1)≤F(x2);
归一 性:对任意实数x, 0≤F(x)≤1, 且
F(−∞)=limx−∞F(x)=0,F(+∞)=limx+∞F(x)=1 F ( − ∞ ) = l i m x − ∞ F ( x ) = 0 , F ( + ∞ ) = l i m x + ∞ F ( x ) = 1 <script type="math/tex" id="MathJax-Element-9">F(-\infty)=lim_{x - \infty}F(x) = 0,F(+\infty)=lim_{x +\infty}F(x) =1</script>
右连续性:对任意实数x,
F(x0+0)=limxx+0F(x)=F(x0) F ( x 0 + 0 ) = l i m x x + 0 F ( x ) = F ( x 0 ) <script type="math/tex" id="MathJax-Element-10">F(x_0 + 0) = lim_{x x{^+}{_0}}F(x) =F(x_0)</script>
反之,具有上述三个性质的实函数,必是某个随机变量的分布函数。故该三个性质是分布函数的充分必要性质
三、连续型随机变量
1、概率密度
1、 定义: 对于随机变量X, 若存在非负函数f(x), (−∞<x<+∞) ( − ∞ < x < + ∞ ) <script type="math/tex" id="MathJax-Element-11">(-\infty
使对任意实数x, 都有
F(x)=P(X<=x)=∫x−∞f(u)du F ( x ) = P ( X <= x ) = ∫ − ∞ x f ( u ) d u <script type="math/tex" id="MathJax-Element-12">F(x) = P(X<=x) = \int_{-\infty}^xf(u)du</script>
则称X为连续型随机变量, f(x)为X的概率密度函数,简
称概率密度或密度函数. 常记为 X~ f(x) , (−∞<x<+∞) ( − ∞ < x < + ∞ ) <script type="math/tex" id="MathJax-Element-13">(-\infty
2、概率密度函数的性质:
(1)非负性:
f(x)≥0, (−∞<x<+∞) ( − ∞ < x < + ∞ ) <script type="math/tex" id="MathJax-Element-14">(-\infty
(2)归一性:
∫+∞−∞F(x)dx=1 ∫ − ∞ + ∞ F ( x ) d x = 1 <script type="math/tex" id="MathJax-Element-15">\int_{-\infty}^{+\infty}F(x)dx=1</script>
性质(1)、 (2)是概率密度函数的充要性质;
(3):
P{x1<X<=x2}=F(x2)−F(x1)=∫x2x1f(x)dx,(x1<=x2) P { x 1 < X <= x 2 } = F ( x 2 ) − F ( x 1 ) = ∫ x 1 x 2 f ( x ) d x , ( x 1 <= x 2 ) <script type="math/tex" id="MathJax-Element-16">P\{x_1
(4)若x是f(x)的连续点,则
dF(x)dx=f(x) d F ( x ) d x = f ( x ) <script type="math/tex" id="MathJax-Element-17">\dfrac{dF(x)}{dx}=f(x)</script>
四、几个常用的连续型分布
1、均匀分布
2、正太分布(高斯分布):
正态分布是实践中应用最为广泛,在理论上研究最多的分布
之一,故它在概率统计中占有特别重要的地位。
1)、设随机变量X的概率密度为:
f(x)=12π∂−−−√e−(x−u)22∂2,−∞<X<+∞ f ( x ) = 1 2 π ∂ e − ( x − u ) 2 2 ∂ 2 , − ∞ < X < + ∞ <script type="math/tex" id="MathJax-Element-18">f(x)=\dfrac{1}{\sqrt{2\pi\partial}}e^-\dfrac{(x-u)^2}{2\partial^2} , -\infty
其中u,σ(σ>0)为常数,则称X服从参数为u,σ的正太分布,记作X~N(u,
σ2 σ 2 <script type="math/tex" id="MathJax-Element-19">σ^2</script>)
正态分布有两个特性:
a、单峰对称 密度曲线关于直线x=u对称
b、σ的大小直接影响概率的分布
σ越大,曲线越平坦, 在x轴方向抖动越厉害
σ越小,曲线越陡峻。
3、标准正太分布:
参数u= O, σ2 σ 2 <script type="math/tex" id="MathJax-Element-20">σ^2</script>=1的正态分布称为标准正态分布,记作X~N(0, 1)。
DAMO开发者矩阵,由阿里巴巴达摩院和中国互联网协会联合发起,致力于探讨最前沿的技术趋势与应用成果,搭建高质量的交流与分享平台,推动技术创新与产业应用链接,围绕“人工智能与新型计算”构建开放共享的开发者生态。
更多推荐


所有评论(0)