【机器学习】六、概率图模型

迷南。 2024-02-19 09:28 16阅读 0赞

![format_png][]

今天我们对**概率图模型（Probabilistic Graphical Model，PGM）**做一个总结。

**模型表示**

概率图模型，是指一种用图结构来描述多元随机变量之间条件独立关系的概率模型。

它提出的背景是为了更好研究复杂联合概率分布的数据特征，假设一些变量的**条件独立性**，由此我们把概率图模型分为**有向图**和**无向图**，并且介绍了它们的模型表示、条件独立性。

**有向图模型**又称**贝叶斯网络**或**信念网络**，其联合概率分布可以分解为**每个随机变量Xk的局部条件概率的乘积形式：**

**![format_png 1][]**

贝叶斯网络的条件独立性体现在三种形式：**tail-to-tail，****head-to-tail**，**head-to-head。**

**无向图模型**又称**马尔科夫随机场**或**马尔科夫网络，**它的联合概率分布由**Hammersley Clifford定理**保证，能够因子分解为定义在**最大团上的正函数的乘积**：

![format_png 2][]

马尔科夫随机场的条件独立性体现在**局部马尔可夫性、****全局马尔可夫性和成对马尔可夫性，**他们是相互等价的：

**![format_png 3][]**

接着我们介绍了判断变量条件独立性的方法——**D分离，**最后我们得到更一般的算法来确定以下形式之一的独立性问题：

*  **给定Z，X和Y是否条件独立**
 *  **X和Y边际独立吗**

文章链接：

[概率图模型(模型表示)][Link 1]

[概率图模型(D分离)][D]

**模型推断**

概率图模型只是为了简便研究模型方便而提出的工具，通常我们把**得到联合概率分布参数的过程称为Learning问题**，得到参数后，最终要进行推断，称为**Inference问题**，一般情况下，推断问题分为**精确推断**和**近似推断。**

**精确推断**有变量消除法（VE）和信念传播法（BP）。**变量消除法的思想，它的核心是每次对一个变量求积分。**

VE算法存在很明显的两个缺点：计算步骤无法存储；消除的最优次序是一个NP-hard问题。因此要对此算法进行改进，得到**信念传播算法**（BP），该算法的流程主要有三步：

**step1:任取⼀个节点 作为根节点**

**step2:对这个根节点的邻居中的每⼀个节点，收集信息**

**step3:对根节点的邻居，分发信息**

**近似推断**又分为**确定性近似**和**随机性近似。**

很多情况，无法用最大似然估计（MLE）直接求得参数，模型由一些不可观测的变量决定，它们无法直接观测，需要引入隐变量来定义它们。通常情况可以用**期望最大化（EM算法）**求解，它是一种迭代算法，主要思想是**把一个难于处理的似然函数最大化问题用一个易于最大化的序列取代，而其极限是原始问题的解。**

![format_png 4][]

**E步本质是求隐变量z的后验分布p(z|x,θ)**，想方设法把隐变量z积分掉，M步求似然函数最大值的参数θ。

**变分推断（VI）**是一种**确定性近似**方法，它的初始算法是**基于平均场**假设理论，不过该算法存在两个局限：假设太强，期望的积分可能无法计算。由此对算法改进，得到**随机梯度变分推断**（SGVI），利用重参数技巧和蒙特卡洛采样得到目标函数的梯度，进而采取梯度下降得到近似解。

**随机性近似**推断的典型是**马尔科夫链蒙特卡洛方法**（MCMC），主要思想是**通过构建马尔可夫链概率序列，使其收敛到平稳分布p(z)。**

蒙特卡洛采样是一种随机模拟方法，核心是求解x的概率分布p(x)，以及如何基于概率分布去采集n个样本点。采样的目标是**采集到的样本能够代表总体**，要满足两点：

*  **样本趋向****于高概率****的区域**
 *  **样本之间必须独立**

常用的采样方法有**概率分布采样（CDF Sampling）**、**拒绝采样（Rejection Sampling）**和**重要性采样（Importance Sampling）**。

**马尔可夫链**是一种时间和状态都是离散的随机变量序列，它由**状态空间和转移矩**阵定义，通常情况我们研究**齐次马尔可夫链**（未来状态的条件概率分布仅依赖于现在状态）。

**平稳分布**就是表示在某一个时刻后，分布不再改变。我们通过蚱蜢的例子来深入介绍了平稳分布，它表示了停留在某一状态的概率与从随机采样的前期状态转移到它的概率相同。

但并不是所有马氏链都是平稳分布，所以我们想找到一种构建有平稳分布的马氏链。这就引入了平稳分布的充分条件——**细致平衡。**

**细致平衡条件将平稳分布的序列和⻢尔可夫链的转移矩阵联系在⼀起**，把转移矩阵作为提议矩阵（提议函数），通过它可以不断⽣成样本点，就可以完成采样了，这个就是MCMC。主要用到**MH算法，**面对**高维空间**的话，用到MH的优化算法——**Gibbs采样**

文章传送门：

[模型推断：VE与BP][VE_BP]

[EM算法][EM]

[变分推断（Variational Inference）][Variational Inference]

[MCMC（蒙特卡洛采样）][MCMC]

[MCMC（马尔可夫链）][MCMC 1]

[MCMC（MH算法）][MCMC_MH]

**具体模型**

最简单的图模型是**朴素贝叶斯**，它是一个强假设：即给定y的情况下，特征之间相互独立：

![format_png 5][]

引⼊单个隐变量后，发展出了**高斯混合模型（GMM）** ：

![format_png 6][]

如果单个隐变量变成**序列的隐变量**，就得到了**动态空间模型（Dynamic Model）****：**

![format_png 7][]

引⼊**齐次马尔科夫假****设**和**观测独立假设**就有**隐马尔科夫模型（HMM）****，****卡尔曼滤波****和****粒子滤波.**

HMM的隐状态假设是离散的，卡尔曼滤波的隐状态假设是连续的，但观测变量服从高斯分布，而粒子滤波是非线性非高斯情况下的动态模型。

为了打破**观测独立性**，引⼊了⼀种**最大熵马尔科夫模型**（**MEMM**）**，**它把最大熵原理与隐马尔科夫模型结合：

![format_png 8][]

为了克服 MEMM 中的局域问题，⼜引⼊了**条件随机场（CRF）**，CRF 是⼀个⽆向图，其中，破坏了**⻬次⻢尔可夫假设**，如果隐变量是⼀个链式结构，那么⼜叫线性链 CRF。

![format_png 9][]

在⽆向图的基础上，引⼊隐变量得到了**玻尔兹曼机**，这个图模型的概率密度函数是⼀个指数族分布。对隐变量和观测变量作出⼀定的限制，就得到了**受限玻尔兹曼机（RBM）**

![format_png 10][]

我们看到，不同的概率图模型对下⾯⼏个特点作出假设：

**1.** **方****向-边的性质**

**2. 离散/连续/混合-点的性质**

**3. 条件独立性-边的性质**

**4. 隐变量-点的性质**

**5. 指数族-结构特点**

此外，我们介绍五种聚类算法：基于质心的K-means算法，基于概率分布的GMM算法，基于密度的DBSCAN算法，基于无向图的谱聚类，以及基于层次聚类的BIRCH算法，其中K-means可以看成GMM的特殊情形。

最后，我们很久前介绍过了**贝叶斯线性回归**和**高斯过程回归（GPR）**，它也可以看成概率图模型，我们是专门为了介绍一种调参方法而提前介绍这两个模型——**贝叶斯优化（BOA）**，它可以在无法确定函数表达式的前提下，找到函数的最值点。

文章传送门：

[高斯混合模型（GMM）][GMM]

[隐马尔可夫模型（背景介绍）][Link 2]

[隐马尔可夫模型（前向算法与后向算法）][Link 3]

[隐马尔可夫模型（Baum Welch算法与Viterbi算法）][Baum Welch_Viterbi]

[隐马尔可夫模型（模型推断五大问题）][Link 4]

[隐马尔可夫模型（算法流程&实例演示）][Link 5]

[线性动态系统LDS（别名:卡尔曼滤波）][LDS]

[粒子滤波（Particle Filter）][Particle Filter]

[条件随机场CRF（一）][CRF]

[条件随机场CRF（二）][CRF 1]

[条件随机场CRF（三）][CRF 2]

[受限波尔茨曼机（RBM）][RBM]

[高斯网络（GBN与GMN）][GBN_GMN]

[聚类算法（K-means）][K-means]

[聚类算法（谱聚类）][Link 6]

[聚类算法（BIRCH）][BIRCH]

[聚类算法（DBSCAN）][DBSCAN]

[聚类算法（相似度与性能度量）][Link 7]

[贝叶斯线性回归][Link 8]

[高斯过程回归(GPR)][GPR]

[贝叶斯优化][Link 9]

对于上面的概率图模型，我们有部分给出了编程实现，有部分还没有，以后会陆续介绍。目前重点是把原理介绍清楚，对机器学习有个整体把握。熟悉这些工具，加上其原理的思想，在我们工作中灵活应用，希望对亲爱的读者你有用！

我们不久后开始深度学习的内容，再难，我也想你一起学算法！！！

[format_png]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9SYkhicGRmVWhUVUgxdHZDWmVmWWpUc1JOSEtpY1Y5aWNvTzFRV2paYm5WNlNxdE5ZYlJORHJpYTBOZm4zcVZjRWJXWWVhdzV0dWVMSm01dlNqMTZxRHNpYkEvNjQw?x-oss-process=image/format,png
[format_png 1]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9SYkhicGRmVWhUVWZXQkdkbTN4NXpnM2FlekdGWURZb0hIVU1sWUoxTEV5MVFkSEFIU0JVSUlHcXpkSDcyc3pwUkNpYjRENU14U0I5aWFpYnhhYmVWTjdnUS82NDA?x-oss-process=image/format,png
[format_png 2]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9SYkhicGRmVWhUWDl1Z0pzNVFJcUI5U1JVYzlpYnFFdjBCbUtyTmlhWGV1Z2xIYXh4OWo5aWJUR3lWNGlieHlRek0yWlV3UFJLT3NYbkZ5dXdjU3NUNnNwR2cvNjQw?x-oss-process=image/format,png
[format_png 3]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9SYkhicGRmVWhUVWZXQkdkbTN4NXpnM2FlekdGWURZb2dSbUZrcmpFVWdmMVBtTjlCZm9YS0ZyZ3RBQVoxNXRaWVhOYVllQzVTaGNGMUduUFhEM3JBQS82NDA?x-oss-process=image/format,png
[Link 1]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322d5ccc45a44af74a6174321ef264558af6ebf9b7171794909d9775d6a10528710f2094d5&idx=1&mid=2247490045&scene=21&sn=11ec08f89427c7b48e70f2af16785150#wechat_redirect
[D]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322e8bcc45a79da9d3672e2d71eecd4dbe98933bd29fa184bbe578fd84ee11d80a3d7624e2&idx=1&mid=2247490090&scene=21&sn=9b116390941cb52d83ab9b26485e6798#wechat_redirect
[format_png 4]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9SYkhicGRmVWhUWFlpY1YwUGR1cW4xSFFZZVdEdUhPME5ScmZpYXBlcUdWaWNXcnkyU1B5VmliclBhVGRiY3lnRkZ3YzhTM1Rla0NpYTREWkV4NHNXTVBSbXVRLzY0MA?x-oss-process=image/format,png
[VE_BP]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322e30cc45a72693ae01f03b54e747e2f40b333677682b41638c700751a6f44c3e83eb51ab&idx=1&mid=2247490193&scene=21&sn=fef48414aa69c4c7edcf512f6329c64d#wechat_redirect
[EM]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322f29cc45a63fd218f44b0e3911fcadcfacca4fc65d91c3c764d34aca8bce5fa7cbfde55d&idx=1&mid=2247490440&scene=21&sn=6781c5b9a4c3a595c5a8ed3550cbf674#wechat_redirect
[Variational Inference]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322f54cc45a6424f0848f3668064e7fb21e4f5c14a4df323c0c7987de46ccbe64c20aa43f1&idx=1&mid=2247490549&scene=21&sn=dc9d293b820dac08bd7ca2e9a050e1a2#wechat_redirect
[MCMC]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322917cc45a001d6f4f280862a9dae8e71c2bfea53f57313ed1d4fb5cbc744f28da37e7301&idx=1&mid=2247490998&scene=21&sn=abe951eddfda91ac1fec89a878e83ead#wechat_redirect
[MCMC 1]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322962cc45a07403b0b9cb28053ce72813552dbfb55869ac08cf345b51cde4b8b0da70d060&idx=1&mid=2247491011&scene=21&sn=3a8031c8d73c37e5ac9e7d4f196cb209#wechat_redirect
[MCMC_MH]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322973cc45a06591c01b0c31f3edada62a352d0279a745ff886e5c9e18a50b1b6eb5459530&idx=1&mid=2247491026&scene=21&sn=4bca46d38b87d260113fea8275016551#wechat_redirect
[format_png 5]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9tbWJpei5xcGljLmNuL21tYml6X3BuZy9SYkhicGRmVWhUV2J1cHdlVGtxdmM1aWFLMWxBbmRJZUZXbzJVWGQ0cXZJS3hyZWhYRzNkaWJjbGVOc0EzcWN1ZEk2MmpUSG9pYXdGWnVoSUZ5Tlp4bTR4QS82NDA?x-oss-process=image/format,png
[format_png 6]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/19/8ee7d8780c9748f688de33414af2b3b9.png
[format_png 7]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/19/5a55e7f7f0da43f4ae85ca1343e59207.png
[format_png 8]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/19/31ab9af890764a07bd44d52d6f59295f.png
[format_png 9]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/19/46e85f67336e43af88008d4bb43b609c.png
[format_png 10]: https://image.dandelioncloud.cn/pgy_files/images/2024/02/19/2208483551684e64a66e7039e9acea08.png
[GMM]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322f10cc45a60622766ce289fdcda94a9df2fd37717d2e550934df55dc9ce3f9df806341cd&idx=1&mid=2247490481&scene=21&sn=b9d9c5d833e8b3544fd2273e2add4c85#wechat_redirect
[Link 2]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322947cc45a051b1a14f7f44a2d48526223575f02b01489d8f9ec038fa8751a2418945fda7&idx=1&mid=2247491046&scene=21&sn=0bc5a97cba82be5fac6e111db7496082#wechat_redirect
[Link 3]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322abacc45a3ac8bb8d4ea068abf634ad02d02364f38d6a74a94377a5422121a982ce7c540&idx=1&mid=2247491099&scene=21&sn=ad83da8535989d72ebd3a84b6ff5475b#wechat_redirect
[Baum Welch_Viterbi]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322ae6cc45a3f0145053b355602a947e9067687e943d04e7b2065e35688e177d9be24caea9&idx=1&mid=2247491143&scene=21&sn=4e48a0d4e42bc6c21396cb1042c98c06#wechat_redirect
[Link 4]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322ac4cc45a3d29eee873ae7ca208f734814bbfca3382047ff17b898565b5d101745193636&idx=1&mid=2247491173&scene=21&sn=24fb2855d972444cba83fd373ebecc15#wechat_redirect
[Link 5]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322a6ecc45a378553c82d9cbf91fc21d79e97d744de453ad2961460e53d77e6b645a1faad8&idx=1&mid=2247491279&scene=21&sn=e4e263831d0b27102da383c40a555046#wechat_redirect
[LDS]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322a42cc45a35429b261d6df5e5b7bbc1c9437c0f42c0b9cdf1c8b928ffb7a12407fae7c12&idx=1&mid=2247491299&scene=21&sn=862efdfc8074a3092f93b4568c2b32b1#wechat_redirect
[Particle Filter]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322b82cc45a29476e847a4d41ec2aa606e8816cc2c32b0c96941de92f49f04f8e71567e7c0&idx=1&mid=2247491363&scene=21&sn=c7618cd9c05f028d6e644b6adfe7fc93#wechat_redirect
[CRF]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322b3dcc45a22b6613adee4cb0c9bbeb3afcd1d46bea570926a1d357762553f9cc79340f14&idx=1&mid=2247491484&scene=21&sn=c812abeeec39856dc9787582fffa8663#wechat_redirect
[CRF 1]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322b6ccc45a27a42fa170229b07ca8d7ae6b5cf77c3ddcfc00805eecdc7a497bd92295d5cb&idx=1&mid=2247491533&scene=21&sn=9c1dc49aff19402160f33665d1db6b3a#wechat_redirect
[CRF 2]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb31d4b3cc465da57280ff636e10a349c7ef65a37e20b1f3f627a99437156de015f2736c0955&idx=1&mid=2247491602&scene=21&sn=295a284a9716fe258e2a06d573369b9f#wechat_redirect
[RBM]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb31d620cc465f36dbc5e9bb3a5e212f665a96ff40006b2b8f74925b595bc1f4831f98e0e158&idx=1&mid=2247492225&scene=21&sn=451ce74cc982ea58b7ea08f0e981c54b#wechat_redirect
[GBN_GMN]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb31d490cc465d86aebe6ae5dab59e7eb375ab9063065eb4cee0bc9a254869ca7ab092e17c52&idx=1&mid=2247491633&scene=21&sn=36dd5f57c34c6e2c37dfbc3dffce4b51#wechat_redirect
[K-means]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb31d4eccc465dfaac5205da89e7a5eb4a44564be505b11e8db833f5936dae65cd944924b233&idx=1&mid=2247491661&scene=21&sn=0f1103ffdad18fa5c56aa7ac8ec1bf69#wechat_redirect
[Link 6]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb31d42fcc465d3980c20e18f0990fc6afe2a5b860a568e857df56b97757d7e047137cd9aa26&idx=1&mid=2247491726&scene=21&sn=d98cc8322250f1a5ca4741fe6c127264#wechat_redirect
[BIRCH]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb31d59ccc465c8aa9f39f004457ff5d0600085091a2e9fd5f24d21e004e23538ace599c93ec&idx=1&mid=2247491901&scene=21&sn=e457ae90895e48759f928d37b698b918#wechat_redirect
[DBSCAN]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb31d52ccc465c3a3cb9f7832e4374a5a14f06ce8c9f0663db1b547fd0fc9de266269356f0ed&idx=1&mid=2247491981&scene=21&sn=8525f93a444133b15bf39e0f01a32c0b#wechat_redirect
[Link 7]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb31d565cc465c73cdecfbfc1088d86d343f34086df4ec60768f234fc4533f5f4be1013d8787&idx=1&mid=2247492036&scene=21&sn=4132e6ae447e30c4dfa4fa9ef9b78361#wechat_redirect
[Link 8]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb323b57cc45b241cd71d9650d27de6158f74d97979f39d67921e4d514d7b29f3d4b07f4f0c0&idx=1&mid=2247487478&scene=21&sn=82012db7c07ceb41410efaf8acdaa2bc#wechat_redirect
[GPR]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb322475cc45ad63460c2face92698ff7377512f58fb6d93aaa55d11d6ab194a640bd531cadf&idx=1&mid=2247487700&scene=21&sn=d38ea5334a6d9729b06aa66aa7ea448f#wechat_redirect
[Link 9]: http://mp.weixin.qq.com/s?__biz=MzU0MDgxMjc1MA%3D%3D&chksm=fb3226a7cc45afb1ae3f705f1fff89d12589e54a156b2bc9e8c184c2aab750585907907e5add&idx=1&mid=2247488006&scene=21&sn=4a6e654fbceb1f8c34e43cd4b0008b94#wechat_redirect