馬爾科夫邏輯網(wǎng)絡(luò)在引文匹配和中文命名實體識別中的應(yīng)用研究.pdf

1、在人工智能的研究領(lǐng)域中，許多實際的應(yīng)用問題，如知識表示、自動推理、機器學(xué)習(xí)、規(guī)劃以及自然語言處理技術(shù)等，都具有不確定性和復(fù)雜的關(guān)系結(jié)構(gòu)雙重特征。統(tǒng)計概率方法能夠有效的處理不確定性問題，而一階邏輯語言卻能夠成功的解決許多復(fù)雜性問題。因此，人工智能需要統(tǒng)一概率化模型和一階邏輯理論。馬爾科夫邏輯(Markovr Loigc)作為這樣一種描述，滿足了它的要求。馬爾科夫邏輯是一種功能強大且形式簡單的語言，它很好的統(tǒng)一了概率化模型和一階邏輯理論。馬

2、爾科夫邏輯理論的應(yīng)用領(lǐng)域非常廣泛，包括集合分類、鄰接預(yù)測、基于鄰接的聚類、社會網(wǎng)絡(luò)分析模型以及目標(biāo)識別等。 本文在前人成果及前期工作的基礎(chǔ)上，重點研究了馬爾科夫邏輯網(wǎng)絡(luò)在引文匹配問題和中文命名實體識別問題中的應(yīng)用。本論文的主要創(chuàng)新點可以歸納如下： (1)本文在應(yīng)用馬爾科夫邏輯理論到引文匹配問題時，發(fā)現(xiàn)Poon—Domingos模型不能很好的處理稀疏型和稠密型的引文記錄，特別是混合型引文記錄。針對這個問題，我們提出了一種可

3、推廣的聯(lián)合推理模型，該模型能夠有效的解決這個問題。但是，在實驗時我們發(fā)現(xiàn)當(dāng)我們的模型的參數(shù)j＞4時，系統(tǒng)資源就消耗殆盡了。其主要原因是在我們的一階邏輯規(guī)則中包含了大量了析取式(“v”)和存在性(“()”)標(biāo)識符，而Alchemy卻不能有效的軟化它們。為了克服這個困難，我們提出遞歸的隨機域方法(RecursiveRandom Field—RRF)。RRF卻能夠有效的軟化析取式(“v”)和存在性(“()”)標(biāo)識符．RRF就是Nested M

4、IN，即本身就是一個MLN．在權(quán)重學(xué)習(xí)和推理上，RRF使MCMC和ICM推理，使用BP來學(xué)習(xí)權(quán)重。在做實驗時，我們把每一個MLN都轉(zhuǎn)變?yōu)镽RF，然后再訓(xùn)練樣本和測試數(shù)據(jù)集。很明顯，這樣能有效的減少計算成本，降低時間成本，減少了內(nèi)存的負(fù)荷。 (2)本文在研究中文命名實體識別時。發(fā)現(xiàn)語言學(xué)知識能夠很好的用一階邏輯規(guī)則描述，故把馬爾科夫邏輯理論應(yīng)用到中文命名實體識別任務(wù)中。首先，我們考慮到必須先識別出簡單的命名實體，所以必須使用Boo

5、sting算法作為識別任務(wù)的第一步。然后，我們寫出一階邏輯規(guī)則來識別復(fù)雜的命名實體。這一步是此任務(wù)的重點，因為一階邏輯規(guī)則的好壞直接影響到整個識別任務(wù)的準(zhǔn)確率。在這一步，我們不但要考慮識別右邊界的規(guī)則，更重要的是考慮左邊界如何有效的識別。由于左邊界的識別比右邊界的識別困難得多，所以我們添加了更多的規(guī)則。最后，我們利用全局信息來識別縮寫的命名實體。這種三層混合模型，從很大程度上提高的中文命名實體識別的準(zhǔn)確率，達到了非常滿意的結(jié)果。