一、背景（为什么要有变分推断？）

简单来说便是需要根据已有数据推断需要的分布P；当P不容易表达，不能直接求解时，可以尝试用变分推断的方法。即，寻找容易表达和求解的分布Q，当Q和P的差距很小的时候，Q就可以作为P的近似分布代替P。

 

二、公式推导

 

 三、总结

变分推断是利用已知分布通过调整使其符合我们需要却难以用公式表达的分布。由ELOB和KL散度的关系，通过得到ELOB的上界间接获得散度

　　　　KL(Q(z)||P(z|x))

对于ELOB的上界，又可以通过转化为相关的散度求解

　　　　KL(\Bbb{E}_{i\neq j}[\ln{P(x,z)}]||Q_j(z_j))

\begin{align*} KL(\Bbb{E}_{i\neq j}[\ln{P(x,z)}]||Q_j(z_j))\to ELOB\to KL(Q(z)||P(z|x)) \to 调整后的Q(z) \end{align*}
　　

用一张图来表示Q分布的变化:

 

 

参考文献：

【1】Variational Inference 变分推断

【2】机器学习-白板推导系列-变分推断（Variational Inference）

转载于:https://www.cnblogs.com/nxf-rabbit75/p/10382266.html

# 人工智能
Logo
DAMO开发者矩阵

DAMO开发者矩阵，由阿里巴巴达摩院和中国互联网协会联合发起，致力于探讨最前沿的技术趋势与应用成果，搭建高质量的交流与分享平台，推动技术创新与产业应用链接，围绕“人工智能与新型计算”构建开放共享的开发者生态。

更多推荐

cover

盘点第二届世界人形机器人运动会的“乐子”与“门道”

avatar DAMO开发者矩阵
cover

维特智能定制小型化姿态传感方案 助力具身智能机器人企业实现遥操作数据采集

avatar DAMO开发者矩阵

2026年AI办公智能体Work Agent品类科普

Work Agent的一级类目为智能体工作平台，面向个人、团队和企业三类用户群体，核心任务是完成文档、表格、PPT、网页和系统搭建等复杂任务，把用户的想法直接转化为可交付的落地成果。它和大众熟悉的聊天机器人、普通AI Agent有非常明确的边界差异。聊天机器人更像坐在你对面的专业顾问，你提出问题它会给出对应的思路和建议，但所有后续的执行动作都需要你自己动手完成。普通AI Agent大多是面向特定垂

avatar DAMO开发者矩阵