基于統(tǒng)計學習的統(tǒng)計詞義識別方法研究.pdf

1、如何解決語言的歧義問題一直困擾著自然語言處理技術的研究人員。語言的歧義最重要的一個表現(xiàn)就是一詞多義現(xiàn)象。如何根據(jù)歧義詞出現(xiàn)的上下文語言環(huán)境識別出正確詞義是詞義識別要解決問題。在自然語言理解領域,詞義識別是應用基礎研究課題,也是自然語言理解的重點和難點之一。
　　 早期的詞義識別研究以基于規(guī)則的方法為主,近些年米隨著計算技術和存儲技術的改進和提高,統(tǒng)計學習方法越來越受到廣泛的歡迎,迅速成為了主流的研究方法。有監(jiān)督的學習方法應用于詞

2、義識別可以獲得較高的識別精度,但是該類方法需要有規(guī)模足夠大的訓練樣本,這樣的樣本不是容易獲得。無監(jiān)督的方法不需要人工標注訓練樣本,但是詞義識別相對效果不是十分理想。
　　 本文分析了統(tǒng)計詞義識別研究需要解決的幾個關鍵性問題。從詞典資源和語料庫資源的建設到詞義識別問題的建模方法,以及詞義分類問題的特征選擇,對所涉及的問題都一進行了討論。在這些基礎上,本文最后給出了詞義類擴展思想,并探討了如何將其應用于統(tǒng)計詞義識別的研究上。

3、　　 本文研究成果和創(chuàng)新如下:
　　 1.從詞義的可計算性角度探討詞義刻畫與詞義識別的關系,探討如何通過科學控制詞義刻畫粒度來重新整合現(xiàn)有的詞典資源,建設新的機讀詞典,更好地為同義識別的應用服務。實驗分析說明詞義刻畫粒度的大小直接影響了詞義識別的精度,適當控制詞義粒度再不產(chǎn)生二義性的前提下可以提高詞義識別的精度。本文提出在詞義再刻畫的基礎上整合現(xiàn)有詞典資源,建設面向詞義計算的新的分類詞典;
　　 2.在探討而向詞義識別

4、的特征選擇方法的基礎上提出以信息增益改進貝葉斯模型的詞義識別新方法。實驗中以樸素貝葉斯模型、最大熵方法和支持向量機建立的詞義分類器作為參照模型,討論信息增益改進貝葉斯模型的效果。實驗結果顯示參照系中使用最大熵和支持向量機構建的詞義分類器都比樸素貝葉斯模型強,其中基于支持向量機的詞義分類器最好,而經(jīng)過信息增益改進的貝葉斯模型在詞義識別上表現(xiàn)更突出,實驗結果比SVM還要高出1.4個百分點,獲得了對比實驗中最優(yōu)的識別結果;
　　 3.

5、從語料庫資源難于大規(guī)模建設的角度出發(fā),實驗分析和探討了人造歧義詞技術的使用問題,并在此基礎卜提出替換詞的概念,以及基于替換詞技術的詞義識別新方法。實驗結果表明,人造歧義詞技術可以幫助研究者緩解訓練語料短缺的壓力,源于此的替換詞技術可以讓研究者避開人工標注訓練樣本,實現(xiàn)一種無監(jiān)督的詞義識別方法。實驗結果表明基于替換詞技術的詞義識別方法具有較高的識別精度;
　　 4.針對詞義識別訓練語料規(guī)模不足夠大的問題,提出了詞義類擴展思想和基于

6、詞義類擴展的詞義識別新方法。該方法通過詞義類擴展,可以在有限訓練語料中獲得更多的詞義信息,提高訓練的效率,改善詞義識別的效果,此外詞義類擴展技術可以從無詞義標注(無詞義標記等先驗知識)的生語料中統(tǒng)計相關詞語信息,以此來為小規(guī)模的訓練樣本提供補充。實驗結果表明基于詞義類擴展思想的方法提高了訓練語料的使用效率,改善了有監(jiān)督詞義識別的效果,這為增強小規(guī)模訓練樣本的統(tǒng)計學習效果提供一個嶄新的思路。
　　 綜上所述,本文在資源建設、詞義識