依存句法分析的置信度研究.pdf

1、句法分析是自然語言處理的核心問題,對信息抽取、信息檢索、機器翻譯等應用有重要的支撐作用。依存句法以其形式簡潔、易于標注、便于應用等優(yōu)點為人所重視。雖然目前依存句法分析算法研究取得了一定的進展,但是其準確率仍然不能滿足實際應用的需要。針對這一問題,本課題并沒有將全部研究重點放在提高依存句法分析的準確率上,而是提出了對依存句法分析結(jié)果進行置信度分析這一新問題,通過對依存句法樹中每條依存弧的置信度進行計算,將置信度高的依存搭配用于特定應用系統(tǒng)

2、,從而提高這些系統(tǒng)的準確率。
　　目前主要有兩種主流的依存分析機制,一種是基于轉(zhuǎn)移的依存分析,另一種是基于圖的依存分析。針對這兩種依存分析方法的不同,本文提出了相應的計算置信度的方法。基于轉(zhuǎn)移的依存分析通過構(gòu)造優(yōu)化的轉(zhuǎn)移序列來對句子進行解碼,從而生成一棵依存句法樹。其學習方式有局部學習(Local Learning)和全局學習(Global Learning)兩種方式。針對局部學習的轉(zhuǎn)移模型,本文提出基于似然概率以及基于重采樣的置

3、信度計算方法;針對全局學習的轉(zhuǎn)移模型,本文提出基于K-Best結(jié)果投票的置信度計算方法?；趫D的依存分析通過尋找最大生成樹的方法獲取一個句子的依存分析結(jié)果。其學習過程一般使用在線學習(Online Learning)算法。依存分析的圖模型一般為線性模型,因此與基于轉(zhuǎn)移的依存模型不同,其無法直接得到一條依存弧的似然概率。針對這一問題,本文首先利用圖模型的輸出近似估計依存弧的邊緣概率,并以此作為該依存弧的置信度。同時,本文提出一種有指導的基

4、于Logistic回歸的置信度估計方法,該方法能夠充分地利用更豐富的特征,并且通過有效的學習方式對特征進行賦權(quán)。
　　另外,本文還提出了若干種置信度估計的評價方法,一方面可用以評價置信度計算結(jié)果的優(yōu)劣,另一方面也為置信度計算提供了優(yōu)化目標。
　　最后,本文將含有置信度的依存句法分析結(jié)果應用于篇章級情感分析以及半指導依存句法分析,以觀察其有效性。實驗結(jié)果證明,對置信度信息的合理應用能夠在一定程度上提高上層應用及依存句法分析自身