信念網絡的概念源自概率論中的鏈式法則。鏈式法則形如P（e,a,b,c,d)=P(e|abcd)P(a|bcd)P(b|cd)P(c|d)P(d)通式我就不寫了（源自條件概率的公式）。什麼意思呢？就是我們要考察一個多因素的複雜問題，我們可以將其展開為多個簡單概率之積來計算。而如果引入獨立性因素，求得P(e,a,b,c,d)的概率分佈的問題將被大大簡化，只需要把依賴關係帶進去，就可以得到P的概率分佈。
上述5因素的P的分佈需要建立一張32行的表（2的5次方種組合，每個因素都有T or F兩個選項的話），要得到這個概率分佈需要做32種不同的實驗來得到P的聯合概率分佈。如果用信念網絡，則上面這個問題就簡單多了。因為實際中我們往往知道他們之間關係，而這個額外關係的引入則會大大簡化問題。如果他們的依賴關係如下圖，則依據條件概率的獨立性得到P(e,a,b,c,d)=P(e|a)P(a|bd)P(b)P(c|d)P(d)，大大簡化了鏈式法則的關係，我們只需要知道式子左邊的這些簡單概率分佈（10種組合）就可以得到P(e,a,b,c,d)的聯合分佈，將問題的規模減到了原來的三分之一。
下圖中這個因素的獨立性關聯的圖就是信念網絡，其本質基於聯合概率分佈的鏈式法則加上變量之間的依賴關係化簡問題的有力工具。信念網絡的意義在於，如果你知道了各種因素的聯繫，在不瞭解全局的情況下可以通過局部信息來還原全局信息！
分享到:
閱讀更多 老郭講算法 的文章
