概率图模型入门：从贝叶斯网络、马尔可夫随机场到隐马尔可夫模型

概率图模型

前言

概率图模型是用图来表示变量概率依赖关系的理论，结合概率论与图论的知识，利用图来表示与模型有关的变量的联合概率分布。由图灵奖获得者 Pearl 开发出来。概率图模型理论分为概率图模型表示理论，概率图模型推理理论和概率图模型学习理论。近 10 年它已成为不确定性推理的研究热点，在人工智能、机器学习和计算机视觉等领域有广阔的应用前景。

基本的概率图模型包括贝叶斯网络、马尔可夫随机场和隐马尔可夫模型。

分类

01 根据边的有无方向性

有向图模型，也称为贝叶斯网络（Bayesian Network，BN），其网络结构使用有向无环图；
无向图模型，也称为马尔可夫随机场（Markov Network，MN），其网络结构为无向图；
局部有向模型，即同时存在有向边和无向边的模型，包括条件随机场（Conditional Random Field，CRF）和链图（Chain Graph）。

02 根据表示的抽象级别不同

基于随机变量的概率图模型，如贝叶斯网络、马尔可夫随机场、条件随机场和链图等；
基于模板的概率图模型．这类模型根据应用场景不同又可分为两种：
- 暂态模型，包括动态贝叶斯网（Dynamic Bayesian Network，DBN）和状态观测模型，其中状态观测模型又包括线性动态系统（Linear Dynamic System，LDS）和隐马尔可夫模型（Hidden Markov Model，HMM）；
- 对象关系领域的概率图模型，包括盘模型（Plate Model，PM）、概率关系模型（Probabilistic Relational Model，PRM）和关系马尔可夫网（Relational Markov Network，RMN）。

贝叶斯网络

前言

贝叶斯网络（Bayesian network），又称信度网络（belief network）或是有向无环图模型（directed acyclic graphical model），是一种概率图模型。

前置知识点

边缘概率（又称先验概率）是某个事件发生的概率。边缘概率是这样得到的：在联合概率中，把最终结果中那些不需要的事件通过合并成它们的全概率，而消去它们（对离散随机变量用求和得全概率，对连续随机变量用积分得全概率），这称为边缘化（marginalization），比如 A 的边缘概率表示为 P(A)，B 的边缘概率表示为 P(B)。

贝叶斯定理则基于下述贝叶斯公式：

P(A\mid B)=\frac{P(B\mid A)P(A)}{P(B)}

贝叶斯网络的定义

贝叶斯网络，又称信念网络，或有向无环图模型，是一种概率图模型。它是一种模拟人类推理过程中因果关系的不确定性处理模型，其网络拓朴结构是一个有向无环图（DAG）。

例如，假设节点 E 直接影响到节点 H，即 E->H，则用从 E 指向 H 的箭头建立结点 E 到结点 H 的有向弧 (E,H)，权值（即连接强度）用条件概率 P(H|E) 来表示：

E\xrightarrow{P(H\mid E)}H

简言之，把某个研究系统中涉及的随机变量，根据是否条件独立绘制在一个有向图中，就形成了贝叶斯网络。其主要用来描述随机变量之间的条件依赖，用圈表示随机变量（random variables），用箭头表示条件依赖（conditional dependencies）。

则节点 X 的联合概率可表示为：

p(x)=\prod_{i\in I}p(x_{i}\mid x_{\mathrm{pa}(i)})

其余略。

马尔可夫随机场

前言

马尔可夫随机场（Markov Random Field），是建立在马尔可夫模型和贝叶斯理论基础之上的。是一种概率图模型。它包含两层意思：一是什么是马尔可夫，二是什么是随机场。

马尔可夫性质：它指的是一个随机变量序列按时间先后关系依次排开的时候，第 N+1 时刻的分布特性，与 N 时刻以前的随机变量的取值无关。拿天气来打个比方。如果我们假定天气是马尔可夫的，其意思就是我们假设今天的天气仅仅与昨天的天气存在概率上的关联，而与前天及前天以前的天气没有关系。其它如传染病和谣言的传播规律，就是马尔可夫的。

随机场：当给每一个位置中按照某种分布随机赋予相空间的一个值之后，其全体就叫做随机场。我们不妨拿种地来打个比方。其中有两个概念：位置（site），相空间（phase space）。“位置”好比是一亩亩农田；“相空间”好比是种的各种庄稼。我们可以给不同的地种上不同的庄稼，这就好比给随机场的每个“位置”，赋予相空间里不同的值。所以，俗气点说，随机场就是在哪块地里种什么庄稼的事情。

数学描述

在随机场的基础上添加马尔科夫性质，从而得到马尔科夫随机场。

把马尔科夫随机场映射到无向图中，此无向图中的节点都与某个随机变量相关，连接着节点的边代表与这两个节点有关的随机变量之间的关系，所以，马尔科夫随机场其实表达出随机变量之间有些关系因素是必须要考虑的，而另外则有些是可以不用考虑的。

马尔科夫随机场的某个随机变量，仅仅只与其相邻的随机变量有关，与那些不相邻的随机变量无关。

设 $\delta$ 为 S 上的邻域系统，若随机场 $X=\{X_s,s\in S\}$ 满足如下条件：

$P\{X=x\}>0,\forall x\in A$
$P\left\{X_s=x_s\mid X_r=x_r,r\neq s,\forall r\in\delta\left(s\right)\right\}=P\left\{X_s=x_s\mid X_r=x_r,\forall r\in\delta\left(s\right)\right\}$

则称 X 为以 $\delta$ 为邻域系统的马尔科夫随机场，上式称为马尔科夫随机场的局部特性。

其他略。

隐马尔可夫模型

前言

隐马尔可夫模型（Hidden Markov Model，HMM）是统计模型，它用来描述一个含有隐含未知参数的马尔可夫过程。其难点是从可观察的参数中确定该过程的隐含参数。然后利用这些参数来作进一步的分析，例如模式识别。

是在被建模的系统被认为是一个马尔可夫过程与未观测到的（隐藏的）的状态的统计马尔可夫模型。

基本知识点

01 基本理论

隐马尔可夫模型是马尔可夫链的一种，它的状态不能直接观察到，但能通过观测向量序列观察到。每个观测向量都是通过某些概率密度分布表现为各种状态，每一个观测向量是由一个具有相应概率密度分布的状态序列产生。

所以，隐马尔可夫模型是一个双重随机过程——具有一定状态数的隐马尔可夫链和显示随机函数集。

02 基本算法

针对以下三个问题，人们提出了相应的算法

评估问题：直接计算法（概念上可行，计算上不科学）、前向算法、后向算法
解码问题：
- Viterbi 算法：使用动态规划求解概率最大（最优）路径。
- 近似算法：选择每一时刻最有可能出现的状态，从而得到一个状态序列。
学习问题：Baum-Welch 算法（向前向后算法）、监督学习算法

03 基本概述

一种 HMM 可以呈现为最简单的动态贝叶斯网络。

在简单的马尔可夫模型（如马尔可夫链），所述状态是直接可见的观察者，因此状态转移概率是唯一的参数。在隐马尔可夫模型中，状态是不直接可见的，但输出依赖于该状态下，是可见的。每个状态通过可能的输出记号有了可能的概率分布。因此，通过一个 HMM 产生标记序列提供了有关状态的一些序列的信息。注意，“隐藏”指的是，该模型经其传递的状态序列，而不是模型的参数；即使这些参数是精确已知的，我们仍把该模型称为一个“隐藏”的马尔可夫模型。隐马尔可夫模型以它在时间上的模式识别所知，如语音，手写，手势识别，词类的标记，乐谱，局部放电和生物信息学应用。

隐马尔可夫模型可以被认为是一个概括的混合模型中的隐藏变量（或变量），它控制的混合成分被选择为每个观察，通过马尔可夫过程而不是相互独立相关。隐马尔可夫模型已推广到两两马尔可夫模型和三重态马尔可夫模型，允许更复杂的数据结构的考虑和非平稳数据建模。

模型表达

隐马尔可夫模型（HMM）可以用五个元素来描述，包括2个状态集合和3个概率矩阵：

隐含状态 $S$
- 这些状态之间满足马尔可夫性质，是马尔可夫模型中实际所隐含的状态。这些状态通常无法通过直接观测而得到。（例如 $S_{1}$ 、 $S_{2}$ 、 $S_{3}$ 等等)
可观测状态 $O$
- 在模型中与隐含状态相关联，可通过直接观测而得到。(例如 $O_{1}$ 、 $O_{2}$ 、 $O_{3}$ 等等，可观测状态的数目不一定要和隐含状态的数目一致）
初始状态概率矩阵 $\pi$
- 表示隐含状态在初始时刻 $t=1$ 的概率矩阵，(例如 $t=1$ 时， $P(S_{1})=p_{1}$ 、 $P(S_{2})=p_{2}$ 、 $P(S_{3})=p_{3}$ ，则初始状态概率矩阵 $\pi=\left[ p_{1} \quad p_{2}\quad p_{3} \right]$ .
隐含状态转移概率矩阵 $A$ 。
- 描述了 HMM 模型中各个状态之间的转移概率。
- 其中 $A_{ij} = P( S_{j} \mid S_{i} ),1\leq i,j\leq N$ 表示在 $t$ 时刻、状态为 $S_i$ 的条件下，在 $t+1$ 时刻状态是 $S_j$ 的概率。
观测状态转移概率矩阵 $B$ （Confusion Matrix，混淆矩阵）。
- 令 $N$ 代表隐含状态数目， $M$ 代表可观测状态数目，则：
- $B_{ij} = P( O_{i} \mid S_{j} ), 1\leq i\leq M,1\leq j\leq N$
- 表示在 $t$ 时刻、隐含状态是 $S_j$ 条件下，观察状态为 $O_i$ 的概率。

总结：一般的，可以用 $\lambda=(A,B,\pi)$ 三元组来简洁的表示一个隐马尔可夫模型。隐马尔可夫模型实际上是标准马尔可夫模型的扩展，添加了可观测状态集合和这些状态与隐含状态之间的概率关系。

马尔可夫模型和 HMM

马尔可夫模型（Markov Chain，MC）
- 有顺序的状态转移模型
- 序列中的每一个结点可以取值为若干状态之一，每个结点只有一种状态
- 这个状态序列可以无限长
- 该模型可以用来沿着这个状态链“以概率的形式根据历史状态预测未来状态”
- 每个状态的预测只以最近的一个状态作为依据：t5 的状态预测只用 t4 的状态作为依据
- 马尔可夫模型例子：天气状态链，股票走势状态链，文本链
隐马尔可夫模型（HMM）
- 两层模型：一个由可见层和隐藏层组成的两层模型
- 底层隐藏层由马尔可夫状态链组成
- 可见层由普通状态结点组成
- 训练该模型的算法：Baum-Welch 算法
- 关键点：显示层的结点状态是可以直接观测获取的；作为隐藏层的马尔可夫链的各结点状态不直接可见，需要用可见层的状态去推测
- 应用场景：在一定程度上相关，但又不是绝对相关的两种事情进行建模分析的。假如知道儿子每天的活动：打球，看书，访友，每天只有一种状态，推测在该天儿子当地的天气情况，因此显示层就是儿子每天的日常活动，隐藏层就是每天的天气，是一个马尔可夫的时间状态链的模型。
- 显示层与隐藏层的状态不是绝对的映射关系：天气隐藏状态只是一种可能的状态，不是绝对靠谱的事件发生序列。也就是晴天可能打球，但打球不一定就是晴天

参考资料：

《Machine Learning》学习笔记十五概率图模型 https://zhuanlan.zhihu.com/p/75111888
概率图模型 https://baike.baidu.com/item/%E6%A6%82%E7%8E%87%E5%9B%BE%E6%A8%A1%E5%9E%8B
贝叶斯网络 https://baike.baidu.com/item/%E8%B4%9D%E5%8F%B6%E6%96%AF%E7%BD%91%E7%BB%9C
超详细讲解贝叶斯网络(Bayesian network) https://www.cnblogs.com/USTC-ZCC/p/12786860.html
马尔可夫随机场 https://baike.baidu.com/item/%E9%A9%AC%E5%B0%94%E5%8F%AF%E5%A4%AB%E9%9A%8F%E6%9C%BA%E5%9C%BA
隐马尔可夫模型 https://baike.baidu.com/item/%E9%9A%90%E9%A9%AC%E5%B0%94%E5%8F%AF%E5%A4%AB%E6%A8%A1%E5%9E%8B/7932524
隐尔可夫模型|HMM基础综述 https://zhuanlan.zhihu.com/p/108738234