PGM：概率图模型Graphical Model

ゝ一世哀愁。 2022-07-24 10:26 199阅读 0赞

http://[blog.csdn.net/pipisorry/article/details/51461878][blog.csdn.net_pipisorry_article_details_51461878]

# 概率图模型Graphical Models简介    #

完全通过代数计算来对更加复杂的模型进行建模和求解。然而,我们会发现,使用概率分布的图形表示进行分析很有好处。这种概率分布的图形表示被称为概率图模型( probabilistic graphical models )。  
这些模型提供了几个有用的性质:  
• 它们提供了一种简单的方式将概率模型的结构可视化,可以用于设计新的模型。  
• 通过观察图形,我们可以更深刻地认识模型的性质,包括条件独立性质。  
• 高级模型的推断和学习过程中的复杂计算可以根据图计算表达,图隐式地承载了背后的数学表达式。

## 为什么要引入概率图模型？ ##

对于一般的统计推断问题，概率模型能够很好的解决，那么引入概率图模型又能带来什么好处呢？  
    LDPC码的译码算法中的置信传播算法的提出早于因子图，这在一定程度上说明概率图模型不是一个从不能解决问题到解决问题的突破，而是采用概率图模型能够更好的解决问题。《模式识别和机器学习》这本书在图模型的开篇就阐明了在概率模型中运用图这一工具带来的一些好的性质，包括  
    1. They provide a simple way to visualize the structure of a probabilistic model and can be used to design and motivate new models.  
    2. Insights into the properties of the model, including conditional independence properties, can be obtained by inspection of the graph.  
    3. Complex computations, required to perform inference and learning in sophisticated models, can be expressed in terms of graphical manipulations, in which underlying mathematical expressions are carried along implicitly.  
    简而言之，就是图使得概率模型可视化了，这样就使得一些变量之间的关系能够很容易的从图中观测出来；同时有一些概率上的复杂的计算可以理解为图上的信息传递，这是我们就无需关注太多的复杂表达式了。最后一点是，图模型能够用来设计新的模型。所以多引入一数学工具是可以带来很多便利的，我想这就是数学的作用吧。

## PGM的结构是从以下三点来进行的 ##

Reprentation：如何建模以表示现实世界中的不确定性和各个量之间的关系。  
    Inference：如何从我们建立的模型中去推知我们要求的问题（概率）.  
    Learnig：对于我的数据来说，什么模型是相对正确的？  
    这一思路致力于建立一个解决问题的框架，很多机器学习算法可以从这一框架下来理解。

\[《Probabilistic Graphical Models：Principles and Techniques》(以下简称PGM)\]

## 结构化概率模型 ##

![Center][]

![Center 1][]

## 概率图模型 ##

![Center 2][]

![Center 3][]

Note: 这种断言并不代表季节与充血是独立的！

![Center 4][]

![Center 5][]

### 表示、推理和学习概述 ###

...

\[《Probabilistic Graphical Models：Principles and Techniques》(以下简称PGM)\]

[皮皮blog][blog]

# Graphical Model的基本类型 #

基本的Graphical Model 可以大致分为两个类别：贝叶斯网络(Bayesian Network)和马尔可夫随机场(Markov Random Field)。  
它们的主要区别在于采用不同类型的图来表达变量之间的关系：贝叶斯网络采用有向无环图(Directed Acyclic Graph)来表达因果关系，马尔可夫随机场则采用无向图(Undirected Graph)来表达变量间的相互作用。  
这种结构上的区别导致了它们在建模和推断方面的一系列微妙的差异。一般来说，贝叶斯网络中每一个节点都对应于一个先验概率分布或者条件概率分布，因此整体的联合分布可以直接分解为所有单个节点所对应的分布的乘积。  
而对于马尔可夫场，由于变量之间没有明确的因果关系，它的联合概率分布通常会表达为一系列势函数（potential function）的乘积。通常情况下，这些乘积的积分并不等于1，因此，还要对其进行归一化才能形成一个有效的概率分布——这一点往往在实际应用中给参数估计造成非常大的困难。

值得一提的是，贝叶斯网络和马尔可夫随机场的分类主要是为了研究和学习的便利。在实际应用中所使用的模型在很多时候是它们的某种形式的结合。比如，一个马尔可夫随机场可以作为整体成为一个更大的贝叶斯网络的节点，又或者，多个贝叶斯网络可以通过马尔可夫随机场联系起来。这种混合型的模型提供了更丰富的表达结构，同时也会给模型的推断和估计带来新的挑战。

一个图由结点( nodes )(也被称为端点( vertices ))和它们之间的链接( links )(也被称为边( edges )或弧( arcs ))组成。在概率图模型中,每个结点表示一个随机变量(或一组随机变量),链接表示这些变量之间的概率关系。这样,图描述了联合概率分布在所有随机变量上能够分解为一组因子的乘积的方式,每个因子只依赖于随机变量的一个子集。

贝叶斯网络( Bayesian network ),也被称为有向图模型( directed graphical model )。这个模型中,图之间的链接有一个特定的方向,使用箭头表示。

另一大类图模型是马尔科夫随机场( Markov random fields ),也被称为无向图模型( undirected graphical models )。这个模型中,链接没有箭头,没有方向性质。

有向图对于表达随机变量之间的因果关系很有用,而无向图对于表示随机变量之间的软限制比较有用。

为了求解推断问题,通常比较方便的做法是把有向图和无向图都转化为一个不同的表示形式,被称为因子图( factor graph )。

## **有向图模型（贝叶斯网络）** ##

举个例子，譬如有一组变量![This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image, and in most browsers you can drag the image onto your desktop or another program.][This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program.]，如果每个变量只与其前一个变量有关（1阶马尔可夫过程），那么以下等式成立

![This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image, and in most browsers you can drag the image onto your desktop or another program.][This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 1]

那么如何用图来表示这一关系呢？自然，我们要表示的是右边的式子，右边的式子表示了变量之间的联系。而当我们观察条件概率时，我们发现我们必须要指明哪个是条件。如果我们采用变量为节点，采用无向图这种节点等价的关系显然不能直接描述条件概率，因此这里选择了有向图来描述这一关系，即![This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image, and in most browsers you can drag the image onto your desktop or another program.][This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 2]表示为

[![image][]][image 1]

那么此时上述的1阶马尔可夫过程表示为，注意其中没有箭头指向![This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image, and in most browsers you can drag the image onto your desktop or another program.][This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 3]，故表示![This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image, and in most browsers you can drag the image onto your desktop or another program.][This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 4]意味着无条件。

[![image][image 2]][image_image 2]

有向图模型，或称贝叶斯网络，描述的是条件概率，或许这就是其被称为贝叶斯网络的原因吧。此处不再细说，更多内容（包括d-separation等）可参考后文提及的相关资料。

## **无向图模型（马尔可夫随机场）** ##

构造有向图模型需要变量之间显式的、很强的约束关系。即首先要有条件概率分布关系，其次还要是可求的。为了达到这一目的，很有可能我们要做很多不切实际的假设。譬如朴素贝叶斯（[Naive Bayes][]）的假设就相当的Naive。如下所示，其假设往往是不成立的。

![\\begin\{align\}p(C\_k \\vert x\_1, \\dots, x\_n) & \\varpropto p(C\_k, x\_1, \\dots, x\_n) \\\\                             & \\varpropto p(C\_k) \\ p(x\_1 \\vert C\_k) \\ p(x\_2\\vert C\_k) \\ p(x\_3\\vert C\_k) \\ \\cdots \\\\                             & \\varpropto p(C\_k) \\prod\_\{i=1\}^n p(x\_i \\vert C\_k)\\,.\\end\{align\}][begin_align_p_C_k _vert x_1_ _dots_ x_n_ _ _varpropto p_C_k_ x_1_ _dots_ x_n_ _ _ _varpropto p_C_k_ _ p_x_1 _vert C_k_ _ p_x_2_vert C_k_ _ p_x_3_vert C_k_ _ _cdots _ _ _varpropto p_C_k_ _prod_i_1_n p_x_i _vert C_k_._end_align]

那什么是更弱的假设呢？很多时候我们知道两个变量之间一定是相关的，但我们不知道到底是怎么相关的。这时候我们也可以用其相关性来构造概率图模型。相关是不分方向的，此时我们应该选择无向图来表示。

和相关对应的是独立（实际上是不相关，这里不做区分了），我们可以这样来构造图模型，如果两个节点之间独立，那么没有路使其相连。条件独立即去掉条件中节点后，两节点之间没有路相连。具体可由《PATTERN RECOGNITION and MACHINE LEARNING》中的例子阐述

[![image][image 3]][image_image 3]

如上图所示，A中节点到B集合中节点的每一条路都通过了C中节点，这代表着![This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image, and in most browsers you can drag the image onto your desktop or another program.][This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 5]。无向图模型很完美的将这种弱的关系表现出来了，有一种很神奇的感觉，但光表示是没有多大用处的，我们还是要计算概率。对于变量![This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image, and in most browsers you can drag the image onto your desktop or another program.][This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program.]，显然有![This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image, and in most browsers you can drag the image onto your desktop or another program.][This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 6]

但更显然的是我们不应该这样做，因为没有意义。所以他们是这样做的，为什么可以？我也没弄明白，我只是感觉了一下，觉得差不多……思想是一样的，就是把概率分开，分开了才能体现特点。

将图中的节点分成多个小的集合*X**c*

，其中集合内的点两两之间有边相连接，这些集合被称为cliques，那么概率分布满足

其中*Z*

是归一化因子（使得概率之和为1），  Φ

函数是势能函数，恒正。取为

## **因子图** ##

按理来说，无向+有向就全了。为什么还有一类呢？或许严格来说不应该将因子图和上述两类并列的，但我不知道放到哪里去……

因子，从名字中就强调了的两个字一定是其重要组成部分。而上述的两类图表现出的变量之间最终的关系实际上就是将概率分布化为了多个式子的乘积。对于多项式而言，我们有因式分解。譬如在解高次方程的时候，我们非常希望方程能够分解为多个低次方程的乘积。那么，对于概率分布函数而言，我们也希望能够这样做，即

其中，![This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image, and in most browsers you can drag the image onto your desktop or another program.][This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 11]是![This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image, and in most browsers you can drag the image onto your desktop or another program.][This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 12]中变量的子集，至于到底能够如何分解是取决于问题的，就好象多项式的分解取决于其具体形式。对于一个实际的问题，如果有以下关系

那么这一个式子的因子图表示如下

[![image][image 4]][image_image 4]

从这个例子，我们总结一下因子图是什么。因子图有两类节点，一是变量节点，另一类为因子节点。这两类节点的内部没有边直接相连，变量的概率分布可以因式分解为因子节点的函数的乘积，因子节点的函数变量包括与其直接相连的变量节点。

三类图各有特点，适用于不同的场合，且这三类图是可以相互转换的。转换方式此处不做描述。

## Graphical Model的新发展方向 ##

在传统的Graphical Model的应用中，模型的设计者需要在设计阶段就固定整个模型的结构，比如它要使用哪些节点，它们相互之间如何关联等等。但是，在实际问题中，选择合适的模型结构往往是非常困难的——因为，我们在很多时候其实并不清楚数据的实际结构。为了解决这个问题，人们开始探索一种新的建立概率模型的方式——结构学习。在这种方法中，模型的结构在设计的阶段并不完全固定。设计者通常只需要设定模型结构所需要遵循的约束，然后再从模型学习的过程中同时推断出模型的实际结构。

结构学习直到今天仍然是机器学习中一个极具挑战性的方向。结构学习并没有固定的形式，不同的研究者往往会采取不同的途径。比如，结构学习中一个非常重要的问题，就是如何去发现变量之间的内部关联。对于这个问题，人们提出了多种截然不同的方法：比如，你可以先建立一个完全图连接所有的变量，然后选择一个子图来描述它们的实际结构，又或者，你可以引入潜在节点(latent node)来建立变量之间的关联。

Probabilistic Graphical Model的另外一个重要的发展方向是非参数化。与传统的参数化方法不同，非参数化方法是一种更为灵活的建模方式——非参数化模型的大小（比如节点的数量）可以随着数据的变化而变化。一个典型的非参数化模型就是基于狄利克莱过程(Dirichlet Process)的混合模型。这种模型引入狄利克莱过程作为部件(component)参数的先验分布，从而允许混合体中可以有任意多个部件。这从根本上克服了传统的有限混合模型中的一个难题，就是确定部件的数量。在近几年的文章中，非参数化模型开始被用于特征学习。在这方面，比较有代表性的工作就是基于Hierarchical Beta Process来学习不定数量的特征。

[皮皮blog][blog]

# 基于Graphical Model 的统计推断 (Inference) #

完成模型的设计之后，下一步就是通过一定的算法从数据中去估计模型的参数，或推断我们感兴趣的其它未知变量的值。在贝叶斯方法中，模型的参数也通常被视为变量，它们和普通的变量并没有根本的区别。因此，参数估计也可以被视为是统计推断的一种特例。

除了最简单的一些模型，统计推断在计算上是非常困难的。一般而言，确切推断(exact inference)的复杂度取决于模型的tree width。对于很多实际模型，这个复杂度可能随着问题规模增长而指数增长。于是，人们退而求其次，转而探索具有多项式复杂度的近似推断(approximate inference)方法。

### 主流的近似推断方法有三种： ###

(1)基于平均场逼近(mean field approximation)的variational inference。这种方法通常用于由Exponential family distribution所组成的贝叶斯网络。其基本思想就是引入一个computationally tractable的upper bound逼近原模型的log partition function，从而有效地降低了优化的复杂度。大家所熟悉的EM算法就属于这类型算法的一种特例。

(2)Belief propagation。这种方法最初由 [Judea Pearl][]提出用于树状结构的统计推断。后来人们直接把这种算法用于带环的模型（忽略掉它本来对树状结构的要求）——在很多情况下仍然取得不错的实际效果，这就是loop belief propagation。在进一步的探索的过程中，人们发现了它与Bethe approximation的关系，并由此逐步建立起了对loopy belief propagation的理论解释，以及刻画出它在各种设定下的收敛条件。值得一提的是，由于 [Judea Pearl][]对人工智能和因果关系推断方法上的根本性贡献，他在2011年获得了计算机科学领域的最高奖——图灵奖。

基于message passing的方法在最近十年有很多新的发展。 [Martin Wainwright][]在2003年提出Tree-reweighted message passing，这种方法采用mixture of trees来逼近任意的graphical model，并利用mixture coefficient和edge probability之间的对偶关系建立了一种新的message passing的方法。这种方法是对belief propagation的推广。  
[Jason Johnson][]等人在2005年建立的walk sum analysis为高斯马尔可夫随机场上的belief propagation提供了系统的分析方法。这种方法成功刻画了belief propagation在高斯场上的收敛条件，也是后来提出的多种改进型的belief propagation的理论依据。 [Thomas Minka][]在他PhD期间所建立的expectation propagation也是belief propagation的在一般Graphical Model上的重要推广。

(3)蒙特卡罗采样(Monte Carlo sampling)。与基于优化的方法不同，蒙特卡罗方法通过对概率模型的随机模拟运行来收集样本，然后通过收集到的样本来估计变量的统计特性（比如，均值）。采样方法有三个方面的重要优点。第一，它提供了一种有严谨数学基础的方法来逼近概率计算中经常出现的积分（积分计算的复杂度随着空间维度的提高呈几何增长）。第二，采样过程最终获得的是整个联合分布的样本集，而不仅仅是对某些参数或者变量值的最优估计。这个样本集近似地提供了对整个分布的更全面的刻画。比如，你可以计算任意两个变量的相关系数。第三，它的渐近特性通常可以被严格证明。对于复杂的模型，由variational inference或者belief propagation所获得的解一般并不能保证是对问题的全局最优解。在大部分情况下，甚至无法了解它和最优解的距离有多远。如果使用采样，只要时间足够长，是可以任意逼近真实的分布的。而且采样过程的复杂度往往较为容易获得理论上的保证。

蒙特卡罗方法本身也是现代统计学中一个非常重要的分支。对它的研究在过去几十年来一直非常活跃。在机器学习领域中，常见的采样方法包括Gibbs Sampling, Metropolis-Hasting Sampling (M-H),  Importance Sampling, Slice Sampling, 以及Hamiltonian Monte Carlo。其中，Gibbs Sampling由于可以纳入M-H方法中解释而通常被视为M-H的特例——虽然它们最初的motivation是不一样的。

\[[【综述】(MIT博士）林达华老师－"概率模型与计算机视觉”][MIT]\]

from: [http://blog.csdn.net/pipisorry/article/details/51461878][blog.csdn.net_pipisorry_article_details_51461878]

ref: \[《Probabilistic Graphical Models：Principles and Techniques》(以下简称PGM)\]

\[[概率图模型简介][Link 1]《An introduction to graphical models》 Kevin P. Murphy\]

[blog.csdn.net_pipisorry_article_details_51461878]: http://blog.csdn.net/pipisorry/article/details/51461878
[Center]: /images/20220722/325e310ff1814adcb3e03a17ff42d696.png
[Center 1]: /images/20220722/a9fa2e4bab304e50904702b6ddd23341.png
[Center 2]: /images/20220722/962970eb942a449cb2ff325c75425167.png
[Center 3]: /images/20220722/3aad670f4d454877b1c4b1cec7ad830d.png
[Center 4]: /images/20220722/1a332f17c8fd44ae9d5d69aae2175677.png
[Center 5]: /images/20220722/8f82cf8f2e234388b806c64ced76ade5.png
[blog]: http://blog.csdn.net/pipisorry
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program.]: /images/20220722/5539d97b99264b8e97d2398846e9e223.png
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 1]: /images/20220722/2da6259009c3411dbc8e119421bd08cc.png
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 2]: /images/20220722/35fc9000b08140bbab91ba312fe472fe.png
[image]: /images/20220722/6992df0426f840e387ce45a6b36f126e.png
[image 1]: http://images.cnitblog.com/blog/663760/201503/092002518247365.png
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 3]: http://latex.codecogs.com/gif.latex?x_1
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 4]: /images/20220722/c0cc43035b1349afa5cd62c1cebe0d41.png
[image 2]: http://images.cnitblog.com/blog/663760/201503/092002541999523.png
[image_image 2]: /images/20220722/653cf36f17214d998c8e6867e2a103b4.png
[Naive Bayes]: http://en.wikipedia.org/wiki/Naive_Bayes_classifier
[begin_align_p_C_k _vert x_1_ _dots_ x_n_ _ _varpropto p_C_k_ x_1_ _dots_ x_n_ _ _ _varpropto p_C_k_ _ p_x_1 _vert C_k_ _ p_x_2_vert C_k_ _ p_x_3_vert C_k_ _ _cdots _ _ _varpropto p_C_k_ _prod_i_1_n p_x_i _vert C_k_._end_align]: /images/20220722/36ecdb373cce4b439fc3acf03b433ce5.png
[image 3]: http://images.cnitblog.com/blog/663760/201503/092002556993782.png
[image_image 3]: /images/20220722/1db4efdd5b3549f682cb600d7dcbfd93.png
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 5]: http://latex.codecogs.com/gif.latex?A%20%5Cperp%5C%21%5C%21%5C%21%5Cperp%20B%20%5Cmid%20C
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 6]: /images/20220722/7c71d846358f4e029e54d9010601f9e6.png
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 7]: /images/20220722/f19a6671e2074f6ca10f2c558083199f.png
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 8]: /images/20220722/c300a2b563d540c097c1657cf171447b.png
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 9]: /images/20220722/eb8cf3784620427db38fab63c53ae377.png
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 10]: /images/20220722/34c4885bd02947149d11e9939ff47176.png
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 11]: /images/20220722/72f332c4d5794cbeb695d8b1a3b498c1.png_s
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 12]: /images/20220722/72f332c4d5794cbeb695d8b1a3b498c1.png
[This is the rendered form of the equation. You can not edit this directly. Right click will give you the option to save the image_ and in most browsers you can drag the image onto your desktop or another program. 13]: /images/20220722/5cb7cfa28b6b406b8b069a7ad81f6703.png
[image 4]: http://images.cnitblog.com/blog/663760/201503/092002570583998.png
[image_image 4]: /images/20220722/a9bd253861fa4bf39ffbcfef5472b87f.png
[Judea Pearl]: http://bayes.cs.ucla.edu/jp_home.html
[Martin Wainwright]: http://www.cs.berkeley.edu/%7Ewainwrig/
[Jason Johnson]: http://ssg.mit.edu/%7Ejasonj/
[Thomas Minka]: http://research.microsoft.com/en-us/um/people/minka/
[MIT]: http://www.sigvc.org/bbs/thread-728-1-1.html
[Link 1]: http://crescentmoon.info/2014/02/24/%E6%A6%82%E7%8E%87%E5%9B%BE%E6%A8%A1%E5%9E%8B%E7%AE%80%E4%BB%8B/