貝葉斯網(wǎng)絡(luò)

1、35貝葉斯貝葉斯網(wǎng)絡(luò)貝葉斯貝葉斯網(wǎng)絡(luò)是一系列變量的聯(lián)合概率分布的圖形表示。一般包含兩個部分，一個就是貝葉斯貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)圖，這是一個有向無環(huán)圖（DAG），其中圖中的每個節(jié)點代表相應(yīng)的變量，節(jié)點之間的連接關(guān)系代表了貝葉斯貝葉斯網(wǎng)絡(luò)的條件獨立語義。另一部分，就是節(jié)點和節(jié)點之間的條件概率表（CPT），也就是一系列的概率值。如果一個貝葉斯貝葉斯網(wǎng)絡(luò)提供了足夠的條件概率值，足以計算任何給定的聯(lián)合概率，我們就稱，它是可計算的，即可推理的。3.5.1

2、貝葉斯貝葉斯網(wǎng)絡(luò)基礎(chǔ)首先從一個具體的實例（醫(yī)療診斷的例子）來說明貝葉斯貝葉斯網(wǎng)絡(luò)的構(gòu)造。假設(shè)：命題S(moker)：該患者是一個吸煙者命題C(oalMiner)：該患者是一個煤礦礦井工人命題L(ungCancer)：他患了肺癌命題E(mphysema)：他患了肺氣腫命題S對命題L和命題E有因果影響，而C對E也有因果影響。命題之間的關(guān)系可以描繪成如右圖所示的因果關(guān)系網(wǎng)。因此，貝葉斯貝葉斯網(wǎng)有時也叫因果網(wǎng)，因為可以將連接結(jié)點的弧認為是表達了

3、直接的因果關(guān)系。圖35貝葉斯貝葉斯網(wǎng)絡(luò)的實例圖中表達了貝葉斯貝葉斯網(wǎng)的兩個要素：其一為貝葉斯貝葉斯網(wǎng)的結(jié)構(gòu)，也就是各節(jié)點的繼承關(guān)系，其二就是條件概率表CPT。若一個貝葉斯貝葉斯網(wǎng)可計算，則這兩個條件缺一不可。貝葉斯貝葉斯網(wǎng)由一個有向無環(huán)圖（DAG）及描述頂點之間的概率表組成。其中每個頂點對應(yīng)一個隨機變量。這個圖表達了分布的一系列有條件獨立屬性：在給定了父親節(jié)點的狀態(tài)后，每個變量與它在圖中的非繼承節(jié)點在概率上是獨立的。該圖抓住了概率分布的

4、定性結(jié)構(gòu)，并被開發(fā)來做高效推理和決策。貝葉斯貝葉斯網(wǎng)絡(luò)能表示任意概率分布的同時，它們?yōu)檫@些能用簡單結(jié)構(gòu)表示的分布提供了可計算優(yōu)勢。假設(shè)對于頂點xi，其雙親節(jié)點集為Pai，每個變量xi的條件概率P(xi|Pai)。則頂點集合X=x1x2…xn的聯(lián)合概率分布可如下計算：。雙親結(jié)點。該結(jié)點得上一代結(jié)點。該等式暗示了早先給定的圖結(jié)構(gòu)有條件獨立語義。它說明貝葉斯貝葉斯網(wǎng)絡(luò)所表示的聯(lián)合分布作為一些單獨的局部交互作用模型的結(jié)果具有因式分解的表示形式。

5、從貝葉斯貝葉斯網(wǎng)的實例圖中，我們不僅看到一個表示因果關(guān)系的結(jié)點圖，還看到了貝葉斯貝葉斯網(wǎng)中的每個變量的條件概率表（CPT）。因此一個完整的隨機變量集合的概率的完整說明不僅包含這些變量的貝葉斯貝葉斯網(wǎng)，還包含網(wǎng)中變量的條件概率表。圖例中的聯(lián)合概率密度：P(SCLE)=P(E|SC)P(L|S)P(C)P(S)推導(dǎo)過程：P(SCLE)=P(E|SCL)P(L|SC)P(C|S)P(S)（貝葉斯貝葉斯定理）如果采用概述中的例題數(shù)據(jù)，則有P(E

6、|S)＝0.90.30.3(10.3)=0.48從這個例子中，不難得出這種推理的主要操作：1）按照給定證據(jù)的V和它的所有雙親的聯(lián)合概率，重新表達給定證據(jù)的詢問結(jié)點的所求條件概率。2）回到以所有雙親為條件的概率，重新表達這個聯(lián)合概率。3）直到所有的概率值可從CPT表中得到，推理完成。3522診斷推理同樣以概述中的例題為例，我們計算“不得肺氣腫的不是礦工“的概率P(~C|~E)即在貝葉斯葉斯網(wǎng)中，從一個子結(jié)點計算父結(jié)點的條件概率。也即從結(jié)果

7、推測一個起因，這類推理叫做診斷推理。使用Bayes公式就可以把這種推理轉(zhuǎn)換成因果推理。P(~C|~E)＝P(~E|~C)P(~C)P(~E)，從因果推理可知P(~E|~C)=P(~ES|~C)P(~E~S|~C)=P(~E|S~C)P(S)P(~E|~S~C)P(~S)=(10.3)0.4(10.10)(10.4)=0.82由此得：P(~C|~E)＝P(~E|~C)P(~C)P(~E)(貝葉斯貝葉斯公式)＝0.82(10.3)P(~E)

8、＝0.574P(~E)同樣的，P(C|~E)＝P(~E|C)P(C)P(~E)＝0.340.3P(~E)＝0.102P(~E)由于全概率公式：P(~C|~E)P(C|~E)＝1代入可得P(~E)=0.676所以，P(~C|~E)＝0.849這種推理方式主要利用Bayes規(guī)則轉(zhuǎn)換成因果推理。3523辯解如果我們的證據(jù)僅僅是～E（不是肺氣腫），象上述那樣，我們可以計算～C患者不是煤礦工人的概率。但是如果也給定～S（患者不是吸煙者），那么～C

9、也應(yīng)該變得不確定。這種情況下，我們說～S解釋～E，使～C變得不確定。這類推理使用嵌入在一個診斷推理中的因果推理。作為思考題，讀者可以沿著這個思路計算上式。在這個過程中，貝葉斯貝葉斯規(guī)則的使用，是辯解過程中一個重要的步驟。3.5.3D分離在本節(jié)最開始的貝葉斯貝葉斯網(wǎng)圖中，有三個這樣的結(jié)點：S，L，E。從直觀來說，L的知識（結(jié)果）會影響S的知識（起因），S會影響E的知識（另一個結(jié)果）。因此，在計算推理時必須考慮的相關(guān)因素非常多，大大影響了算