融合統(tǒng)計與規(guī)則技術(shù)的蒙古語詞法分析研究.pdf

1、詞是語言中最小的能獨立運用的單位,是自然語言處理的基本單位。詞法分析是自然語言處理的一個基礎(chǔ)課題,其主要研究內(nèi)容是進行詞語切分和詞語標(biāo)注。
　　 語言學(xué)上,按照詞的形態(tài)結(jié)構(gòu)對各種語言進行劃分,漢語屬于分析型語言,而蒙古語是黏著型語言。漢語詞基本上沒有專門表示語法意義的附加成分,形態(tài)變化也很少;而蒙古語詞內(nèi)有專門表示語法意義的附加成分詞綴,一個詞綴表達一種語法意義,詞由詞干和詞綴相結(jié)合構(gòu)成。目前,蒙古語詞法分析研究是詞法分析研究領(lǐng)

2、域的熱點問題。
　　 本文針對蒙古語詞的形態(tài)結(jié)構(gòu)特點,采用統(tǒng)計語言模型與語言學(xué)規(guī)則相結(jié)合的方法,進行蒙古語詞法分析。所完成的主要工作如下:
　　 1)針對蒙古語詞由詞干和詞綴構(gòu)成的特點,按照詞形態(tài)結(jié)構(gòu)設(shè)計了一種生成式的概率統(tǒng)計語言模型。首先,把蒙古語句子的詞法分析結(jié)果描述為有向圖,圖中節(jié)點表示分析結(jié)果中的詞干、詞綴及其相應(yīng)標(biāo)注,而邊則表示節(jié)點之間的轉(zhuǎn)移或生成關(guān)系;然后,使用訓(xùn)練程序把訓(xùn)練數(shù)據(jù)轉(zhuǎn)換成語言模型;最后,解碼器載

3、入上述語言模型并使用動態(tài)規(guī)劃算法整句解碼,找出最優(yōu)詞法分析結(jié)果。實驗表明,基于生成式的統(tǒng)計語言模型提高了詞級聯(lián)合切分與標(biāo)注的準(zhǔn)確率,準(zhǔn)確率可達到93.5％。
　　 2)在上述生成式統(tǒng)計模型的基礎(chǔ)上,進一步加入“蒙古語語法信息詞典”數(shù)據(jù)規(guī)范作為語言學(xué)構(gòu)詞規(guī)則,加入語言學(xué)規(guī)則后,一方面,在動態(tài)規(guī)劃整句解碼過程中,以詞的詞干作為觸發(fā)條件,利用數(shù)據(jù)規(guī)范規(guī)則修正解碼器候選結(jié)果概率值,給予正確候選分析結(jié)果更高概率值;另一方面,按照詞類對專有