自从接触深度学习后，每每遇到相关数学公式都头疼。其中变分推断出现的频率之多，让我一见它到便跳过直接看与其相关的结果。所以，经常处于模模糊糊半懂不懂的状态，让我十分痛苦。于是，这几天我便想结束这种痛苦，故仔细的看了相关资料，并作如下小结。
变分推断简单来说便是需要根据已有数据推断需要的分布
；当不容易表达，不能直接求解时，可以尝试用变分推断的方法。即，寻找容易表达和求解的分布
，当和的差距很小的时候，就可以作为的近似分布代替。
数学推导
学过概率论的人一般都会知道贝叶斯公式：%3D%5Cfrac%7BP(x%2Cz)%7D%7BP(x)%7D%20%5Ctag%7B1.1%7D)
同理，%3DP(x%7Cz)P(z)%20%5Ctag%7B1.2%7D)
其中)
被称作后验概率，)
被称为似然度，)
则是先验概率。经过简单的交换可得：%3D%5Cfrac%7BP(x%2Cz)%7D%7BP(z%7Cx)%7D%20%5Ctag%7B1.3%7D)
对(1.3)式左右两侧取底为
的对数,并且右式同除(Q(z)%E4%BD%9C%E7%94%A8%E4%B8%8B%E9%9D%A2%E5%B0%86%E8%A7%A3%E9%87%8A))
：
%26%3D%5Cln%20P(x%2Cz)-%5Cln%20P(z%7Cx)%20%5Ctag%7B1.4%7D%5C%5C%20%26%3D%5Cln%7B%5Cfrac%7BP(x%2Cz)%7D%7BQ(z)%7D%7D-%5Cln%7B%5Cfrac%7BP(z%7Cx)%7D%7BQ(z)%7D%7D%5C%5C%20%26%3D%5Cln%7BP(x%2Cz)%7D-%5Cln%7BQ(z)%7D-%5Cln%7B%5Cfrac%7BP(z%7Cx)%7D%7BQ(z)%7D%7D%5C%5C%20%5Cend%7Balign*%7D)
对于式(1.4)两边取期望：
%7DQ(z)dz%26%3D%5Cln%7BP(x)%7D%5Ctag%7B1.5%7D%5C%5C%20%26%3D%5Cunderbrace%7B%5Cint_z%7B%5Cln%7BP(x%2Cz)%7DQ(z)dz-%5Cint_z%5Cln%7BQ(z)%7DQ(z)dz%7D%7D_%7BL(Q)-Evidence%20Lower%20Bound(ELOB)%7D%5Cunderbrace%7B-%5Cint_z%7B%5Cln%7B%5Cfrac%7BP(z%7Cx)%7D%7BQ(z)%7DQ(z)dz%7D%7D%7D_%7BKL(Q%7C%7CP)%7D%5C%5C%20%5Cend%7Balign*%7D)
计算到此，我们要思考一个问题：何时ELOB达到最大值？这个问题其实很简单，由于KL散度本身大于等于0,所以%7D)
便是ELOB的上界。
我们不是讨论变分推断吗，为什么讨论起
了呢？其实上面我们提到了用去逼近，所以式(1.4)从而引进了)
。而衡量两个分布的相似程度的一种标准便是
散度，的值越小表示两种分布越相似。什么时候最小呢？只要
便是最小，这个条件看似说明了一切，但是我们只知道不知道的分布啊，没法确定两者是否为0，所以便成了一个鸡肋的条件，食之无味，弃之可惜啊。这时候救世主出现了，她的光辉照耀世界～(中二ing，笑)。
式(1.5)分为两部分，既然我们没法确定散度，我们只好利用(可以看做是的函数——即函数的函数(泛函，本学渣只听说过没有正式学习过))。既然
要得到最小，那么就要设法使到达最大。
是时候展示真正的技术了——
下面证明的上界：
![\begin{align*} \ln{P(x)}=&\ln{\int_z{P(x,z)dz}}\\ &=\ln{\int_z{\frac{P(x,z)}{Q(z)}Q(z)dz}}\\ &=\ln{\Bbb{E_{Q(Z)}}[\frac{P(x,z)}{Q(z)}]}\\ (由詹森不等式可得)&\geq{\Bbb{E_{Q(Z)}}[\frac{\ln{P(x,z)}}{Q(z)}]}\\ &=\underbrace{\Bbb{E_{Q(Z)}}[\ln{P(x,z)}]-\Bbb{E_{Q(Z)}}[\ln{Q(z)}]}_{ELOB}\\ \end{align*}](https://math.jianshu.com/math?formula=%5Cbegin%7Balign*%7D%20%5Cln%7BP(x)%7D%3D%26%5Cln%7B%5Cint_z%7BP(x%2Cz)dz%7D%7D%5C%5C%20%26%3D%5Cln%7B%5Cint_z%7B%5Cfrac%7BP(x%2Cz)%7D%7BQ(z)%7DQ(z)dz%7D%7D%5C%5C%20%26%3D%5Cln%7B%5CBbb%7BE_%7BQ(Z)%7D%7D%5B%5Cfrac%7BP(x%2Cz)%7D%7BQ(z)%7D%5D%7D%5C%5C%20(%E7%94%B1%E8%A9%B9%E6%A3%AE%E4%B8%8D%E7%AD%89%E5%BC%8F%E5%8F%AF%E5%BE%97)%26%5Cgeq%7B%5CBbb%7BE_%7BQ(Z)%7D%7D%5B%5Cfrac%7B%5Cln%7BP(x%2Cz)%7D%7D%7BQ(z)%7D%5D%7D%5C%5C%20%26%3D%5Cunderbrace%7B%5CBbb%7BE_%7BQ(Z)%7D%7D%5B%5Cln%7BP(x%2Cz)%7D%5D-%5CBbb%7BE_%7BQ(Z)%7D%7D%5B%5Cln%7BQ(z)%7D%5D%7D_%7BELOB%7D%5C%5C%20%5Cend%7Balign*%7D)
以上我们知道了通过使得最大化的这种间接的方式从而使得散度尽可能的小，那么接下来便是介绍如何使得尽可能的趋近其上界。
假设
={
},现实生活中大多数%5Cneq%7BP(z_1)P(z_2)%5Ccdots%20P(z_n)%7D)
，但是我们选择时可以选我们知道到的，简单的，独立同分布的概率分布(选非独立同分布的我也不拦着)%3DQ(z_1)Q(z_2)%20%5Ccdots%20Q(z_n))
。选好了,好戏也要开场了。
![\begin{align*} \because L(Q) &= \int{Q(z) \ln{P(x,z)}dz}-\int{Q(z)\ln{Q(Z)}dz}\\ &= \underbrace{\int{\prod_{i=1}^{n}{Q_i(z_i)}\ln{P(x,z)dz}}}_{Part1}- \underbrace{\int{\prod_{i=1}^{n}{Q_i(z_i)} \sum_{i=1}^{n}\ln{Q_i(z_i)dz}}}_{Part2} \tag{1.6}\\ Part1&= \int_{z_1} \cdots \int_{z_n} \prod_{i=1}^n Q_i(z_i)\ln{P(x,z)}dz_1 \dots dz_n\\ 当i=j时： Part1 &= \int Q_j(z_j)(\int \cdots \int_{z_{i \neq j}} \prod_{i \neq j}^n Q_i(z_i) \ln P(x,z)\prod_{i\neq j}^ndz_i)dz_j\\ &=\int_{z_j}Q_j(z_j)(\int\cdots \int_{z_{i\neq j}}\ln{P(x,z)}\prod_{i\neq j}^nQ_j(z_j)dz_j)\\ &=\int_{z_j}Q_j(z_j)(\Bbb{E}_{i\neq j}[\ln{P(x,z)}])dz_j\\ 同理，可推出Part2:\\ Part2&=\sum_{i=1}^n(\int_{z_i}Q_i(z_i)\ln Q_i(z_i)dz_i)\\ \end{align*}](https://math.jianshu.com/math?formula=%5Cbegin%7Balign*%7D%20%5Cbecause%20L(Q)%20%26%3D%20%5Cint%7BQ(z)%20%5Cln%7BP(x%2Cz)%7Ddz%7D-%5Cint%7BQ(z)%5Cln%7BQ(Z)%7Ddz%7D%5C%5C%20%26%3D%20%5Cunderbrace%7B%5Cint%7B%5Cprod_%7Bi%3D1%7D%5E%7Bn%7D%7BQ_i(z_i)%7D%5Cln%7BP(x%2Cz)dz%7D%7D%7D_%7BPart1%7D-%20%5Cunderbrace%7B%5Cint%7B%5Cprod_%7Bi%3D1%7D%5E%7Bn%7D%7BQ_i(z_i)%7D%20%5Csum_%7Bi%3D1%7D%5E%7Bn%7D%5Cln%7BQ_i(z_i)dz%7D%7D%7D_%7BPart2%7D%20%5Ctag%7B1.6%7D%5C%5C%20Part1%26%3D%20%5Cint_%7Bz_1%7D%20%5Ccdots%20%5Cint_%7Bz_n%7D%20%5Cprod_%7Bi%3D1%7D%5En%20Q_i(z_i)%5Cln%7BP(x%2Cz)%7Ddz_1%20%5Cdots%20dz_n%5C%5C%20%E5%BD%93i%3Dj%E6%97%B6%EF%BC%9A%20Part1%20%26%3D%20%5Cint%20Q_j(z_j)(%5Cint%20%5Ccdots%20%5Cint_%7Bz_%7Bi%20%5Cneq%20j%7D%7D%20%5Cprod_%7Bi%20%5Cneq%20j%7D%5En%20Q_i(z_i)%20%5Cln%20P(x%2Cz)%5Cprod_%7Bi%5Cneq%20j%7D%5Endz_i)dz_j%5C%5C%20%26%3D%5Cint_%7Bz_j%7DQ_j(z_j)(%5Cint%5Ccdots%20%5Cint_%7Bz_%7Bi%5Cneq%20j%7D%7D%5Cln%7BP(x%2Cz)%7D%5Cprod_%7Bi%5Cneq%20j%7D%5EnQ_j(z_j)dz_j)%5C%5C%20%26%3D%5Cint_%7Bz_j%7DQ_j(z_j)(%5CBbb%7BE%7D_%7Bi%5Cneq%20j%7D%5B%5Cln%7BP(x%2Cz)%7D%5D)dz_j%5C%5C%20%E5%90%8C%E7%90%86%EF%BC%8C%E5%8F%AF%E6%8E%A8%E5%87%BAPart2%3A%5C%5C%20Part2%26%3D%5Csum_%7Bi%3D1%7D%5En(%5Cint_%7Bz_i%7DQ_i(z_i)%5Cln%20Q_i(z_i)dz_i)%5C%5C%20%5Cend%7Balign*%7D)
下面证明
变量为两个时，可得：
![\int_{x_1}\int_{x_2}[f(x_1)+f(x_2)]P(x_1)P(x_2)dx_1dx_2=\int_{x_1}f(x_1)P(x_1)dx_1+\int_{x_2}f(x_2)P(x_2)dx_2](https://math.jianshu.com/math?formula=%5Cint_%7Bx_1%7D%5Cint_%7Bx_2%7D%5Bf(x_1)%2Bf(x_2)%5DP(x_1)P(x_2)dx_1dx_2%3D%5Cint_%7Bx_1%7Df(x_1)P(x_1)dx_1%2B%5Cint_%7Bx_2%7Df(x_2)P(x_2)dx_2)
推至N个时，得证。当
，即只对某个
感兴趣时,可简写为：
%5Cln%20Q_j(z_j)dz_j%2Bconst%5C%5C%20%5Cend%7Balign*%7D)
再令：![\ln{\overline{P}_j(x,z_j)}=\Bbb{E}_{i\neq j}[\ln{P(x,z)}]](https://math.jianshu.com/math?formula=%5Cln%7B%5Coverline%7BP%7D_j(x%2Cz_j)%7D%3D%5CBbb%7BE%7D_%7Bi%5Cneq%20j%7D%5B%5Cln%7BP(x%2Cz)%7D%5D)
可得：
![L(Q_j)=Part1-Part2=\int_{z_j}Q_j(z_j)\ln{[\frac{\overline{P}_j(x,z_j)}{Q_j(z_j)}]}dz_j+const \to-KL(\Bbb{E}_{i\neq j}[\ln{P(x,z)}]||Q_j(z_j))](https://math.jianshu.com/math?formula=L(Q_j)%3DPart1-Part2%3D%5Cint_%7Bz_j%7DQ_j(z_j)%5Cln%7B%5B%5Cfrac%7B%5Coverline%7BP%7D_j(x%2Cz_j)%7D%7BQ_j(z_j)%7D%5D%7Ddz_j%2Bconst%20%5Cto-KL(%5CBbb%7BE%7D_%7Bi%5Cneq%20j%7D%5B%5Cln%7BP(x%2Cz)%7D%5D%7C%7CQ_j(z_j)))
推导到这，豁然开朗。原来最后也要化为一个
散度，故最大值为0当且仅当![\ln{Q_i(z_j)=\Bbb{E}_{i\neq j}[\ln{P(x,z)}]}](https://math.jianshu.com/math?formula=%5Cln%7BQ_i(z_j)%3D%5CBbb%7BE%7D_%7Bi%5Cneq%20j%7D%5B%5Cln%7BP(x%2Cz)%7D%5D%7D)
。最后，简单说明如何获得稳定
的迭代过程：
%26%3D%5Cint_%7BQ_2%7D%5Ccdots%20%5Cint_%7BQ_n%7D%5Cln%7BP(x%2Cz)%7DQ_2(z_2)%5Ccdots%20Q_n(z_n)dz_2%5Ccdots%20dz_n%5C%5C%20%5Cln%20Q_2%5E*(z_2)%26%3D%5Cint_%7BQ_1%7D%5Ccdots%20%5Cint_%7BQ_n%7D%5Cln%7BP(x%2Cz)%7DQ_1%5E*(z_1)%5Ccdots%20Q_n(z_n)dz_1%5Ccdots%20dz_n%5C%5C%20%5Cvdots%5C%5C%20%5Cln%20Q_n%5E*(z_n)%26%3D%5Cint_%7BQ_1%7D%5Ccdots%20%5Cint_%7BQ_%7Bn-1%7D%7D%5Cln%7BP(x%2Cz)%7DQ_1%5E*(z_1)%5Ccdots%20Q_%7Bn-1%7D%5E*(z_%7Bn-1%7D)dz_1%5Ccdots%20dz_%7Bn-1%7D%5C%5C%20%5Cend%7Balign*%7D)
经过多次算法迭代，收敛于固定值，从而得到最大，进而确定所需散度与分布。
综述
变分推断是利用已知分布通过调整使其符合我们需要却难以用公式表达的分布。由和散度的关系，通过得到的上界间接获得%7C%7CP(z%7Cx)))
散度。对于的上界，又可以通过转化为相关的![KL(\Bbb{E}_{i\neq j}[\ln{P(x,z)}]||Q_j(z_j))](https://math.jianshu.com/math?formula=KL(%5CBbb%7BE%7D_%7Bi%5Cneq%20j%7D%5B%5Cln%7BP(x%2Cz)%7D%5D%7C%7CQ_j(z_j)))
散度求解。
![\begin{align*} KL(\Bbb{E}_{i\neq j}[\ln{P(x,z)}]||Q_j(z_j))\to ELOB\to KL(Q(z)||P(z|x)) \to 调整后的Q(z) \end{align*}](https://math.jianshu.com/math?formula=%5Cbegin%7Balign*%7D%20KL(%5CBbb%7BE%7D_%7Bi%5Cneq%20j%7D%5B%5Cln%7BP(x%2Cz)%7D%5D%7C%7CQ_j(z_j))%5Cto%20ELOB%5Cto%20KL(Q(z)%7C%7CP(z%7Cx))%20%5Cto%20%E8%B0%83%E6%95%B4%E5%90%8E%E7%9A%84Q(z)%20%5Cend%7Balign*%7D)
用一张图来表示分布的变化。
文中配图来源于《徐亦达机器学习》
