CRFs模型下的中文自動(dòng)分詞研究.pdf

1、中文自動(dòng)分詞是中文信息處理的一項(xiàng)重要的基礎(chǔ)性任務(wù)，是機(jī)器翻譯、問答系統(tǒng)、自動(dòng)文摘等技術(shù)的基礎(chǔ)，也是實(shí)現(xiàn)中文搜索引擎所必須的關(guān)鍵技術(shù)之一。然而由于漢語自身的復(fù)雜性，分詞問題一直是中文自然語言處理的難題。 本文在已有研究的基礎(chǔ)上，利用條件隨機(jī)場(chǎng)(CRFs)模型進(jìn)行漢語自動(dòng)分詞的研究。旨在提高漢語分詞系統(tǒng)的性能，為后期詞法分析和其它自然語言處理任務(wù)服務(wù)。 本文的核心工作可以概括為以下幾個(gè)方面： (1)簡(jiǎn)要介紹了相關(guān)模型

2、理論，并進(jìn)一步介紹了以最大熵理論為驅(qū)動(dòng)發(fā)展起來的CRFs模型。CRFs模型是目前最為優(yōu)秀的無向圖條件概率模型，主要用于標(biāo)記和分割序列數(shù)據(jù)。它克服了最大熵等模型的標(biāo)記偏置問題：同時(shí)，能夠考慮節(jié)點(diǎn)之間的聯(lián)系，從而可以利用上下文特征獲得全局最優(yōu)的標(biāo)注結(jié)果。 (2)通過對(duì)基于字的CRFs的標(biāo)注結(jié)果進(jìn)行分析發(fā)現(xiàn)，CRFs模型中的標(biāo)注錯(cuò)誤大都擁有較低的邊緣概率，分別使用正向最大匹配(FMM)方法和基于類的隱馬爾可夫模型對(duì)這部分邊緣概率較低的

3、樣本綜合邊緣概率較高的樣本進(jìn)行修正，以優(yōu)化系統(tǒng)的識(shí)別效果。實(shí)驗(yàn)證明，在CRFs邊緣概率基礎(chǔ)上進(jìn)行的分詞其結(jié)果明顯好于單純的CRFs的標(biāo)注結(jié)果。 (3)對(duì)建立在CRFs模型框架上的，基于字標(biāo)注的分詞方法和一種新型的基于詞標(biāo)注的分詞方法進(jìn)行了綜合比較。并在此基礎(chǔ)上，根據(jù)漢語的特點(diǎn)，嘗試使用角色特征信息，來改善基于詞標(biāo)注的CRFs方法對(duì)未登錄詞的識(shí)別。 本文的主要貢獻(xiàn)有：(1)提出了利用CRFs邊緣概率來改善CRFs分詞性能的