基于感知器算法的高效中文分詞與詞性標注系統(tǒng)設(shè)計與實現(xiàn).pdf

1、分詞、詞性標注是自然語言處理的基礎(chǔ)性課題,是很多其他自然語言處理任務(wù)的基礎(chǔ),同時在很大程度上影響著后續(xù)任務(wù)的最終性能。構(gòu)建一個高性能、高效率的中文分詞、詞性標注系統(tǒng)具有重要的學(xué)術(shù)意義和應(yīng)用價值。
　　本文著眼于構(gòu)建一個性能優(yōu)異、高效率的分詞、詞性標注系統(tǒng)。本文的研究內(nèi)容主要包括三方面:詞典和統(tǒng)計相結(jié)合的分詞、詞性標注方法,系統(tǒng)效率優(yōu)化和性能提升以及基于感知器(Perceptron)算法的模型增量訓(xùn)練。
　　本文使用詞典與統(tǒng)計

2、相結(jié)合的分詞、詞性標注方法,不僅使分詞、詞性標注達到了一個較好的性能,而且通過將詞典信息融入統(tǒng)計模型實現(xiàn)了中文分詞領(lǐng)域自適應(yīng)以及詞性標注效率的提升。在此基礎(chǔ)上本文實現(xiàn)了基于感知器的并行訓(xùn)練算法,在保證性能的前提下大幅度提高模型訓(xùn)練效率。此外,本文還通過對模型文件的壓縮來提高速度以及減小內(nèi)存需求。同時,本文使用半指導(dǎo)方法利用大規(guī)模未標注數(shù)據(jù)進一步提升詞性標注準確率。然后我們利用感知器算法屬于在線(Online)算法的優(yōu)點,提出了基于感知器

3、算法的模型增量訓(xùn)練方法,并通過實驗驗證了增量訓(xùn)練方法在相同領(lǐng)域的有效性。最后我們通過對跨領(lǐng)域中文分詞增量訓(xùn)練結(jié)果不理想的原因進行深入分析,將Stacked Learning框架引入跨領(lǐng)域中文分詞中。
　　實驗結(jié)果表明,本文的分詞、詞性標注系統(tǒng)在性能上達到了目前分詞、詞性標注的最好性能,而且通過使用并行訓(xùn)練算法,可以大幅度的提高訓(xùn)練效率。實驗結(jié)果也驗證了本文提出的增量訓(xùn)練方法在相同領(lǐng)域數(shù)據(jù)中對于分詞、詞性標注任務(wù)的有效性。同時通過對