信念网络的概念源自概率论中的链式法则。链式法则形如P（e,a,b,c,d)=P(e|abcd)P(a|bcd)P(b|cd)P(c|d)P(d)通式我就不写了（源自条件概率的公式）。什么意思呢？就是我们要考察一个多因素的复杂问题，我们可以将其展开为多个简单概率之积来计算。而如果引入独立性因素，求得P(e,a,b,c,d)的概率分布的问题将被大大简化，只需要把依赖关系带进去，就可以得到P的概率分布。
上述5因素的P的分布需要建立一张32行的表（2的5次方种组合，每个因素都有T or F两个选项的话），要得到这个概率分布需要做32种不同的实验来得到P的联合概率分布。如果用信念网络，则上面这个问题就简单多了。因为实际中我们往往知道他们之间关系，而这个额外关系的引入则会大大简化问题。如果他们的依赖关系如下图，则依据条件概率的独立性得到P(e,a,b,c,d)=P(e|a)P(a|bd)P(b)P(c|d)P(d)，大大简化了链式法则的关系，我们只需要知道式子左边的这些简单概率分布（10种组合）就可以得到P(e,a,b,c,d)的联合分布，将问题的规模减到了原来的三分之一。
下图中这个因素的独立性关联的图就是信念网络，其本质基于联合概率分布的链式法则加上变量之间的依赖关系化简问题的有力工具。信念网络的意义在于，如果你知道了各种因素的联系，在不了解全局的情况下可以通过局部信息来还原全局信息！
分享到:
閱讀更多 老郭講算法 的文章
