半監(jiān)督的命名實(shí)體識別.pdf

1、命名實(shí)體識別的指的是識別出文本中的人名、地名等專有名稱和有意義的時間、日期等數(shù)量短語并加以歸類。命名實(shí)體識別的主要過程有實(shí)體邊界的識別和確定實(shí)體的類型(如人名、地名或組織機(jī)構(gòu)名)。命名實(shí)體識別的研究主體是命名實(shí)體。命名實(shí)體通常由3個大類和7個小類組成.3大類是：實(shí)體類、時間類和數(shù)字類；7小類是:人名、地名、時間、日期、貨幣、機(jī)構(gòu)名和百分比.由于實(shí)體數(shù)量眾多、結(jié)構(gòu)復(fù)雜、不同的文化背景會有較大差別等因素使得命名實(shí)體識別工作變的非常復(fù)雜。目前

2、國內(nèi)外主要采用的方法是基于規(guī)則的方法、基于統(tǒng)計(jì)的方法和兩者相結(jié)合的方法.在解決命名實(shí)體識別的具體問題上又可以分為監(jiān)督式的學(xué)習(xí)、半監(jiān)督式的學(xué)習(xí)和無監(jiān)督式的學(xué)習(xí)。
　　 本文中設(shè)計(jì)并實(shí)現(xiàn)了一個半監(jiān)督的NER系統(tǒng),該系統(tǒng)由訓(xùn)練子系統(tǒng)和標(biāo)注子系統(tǒng)兩部分組成。訓(xùn)練子系統(tǒng)從種子實(shí)體出發(fā),經(jīng)過搜索引擎檢索、識別候選實(shí)體和噪音過濾等步驟生成確定類型的命名實(shí)體列表.噪音過濾技術(shù)的好壞直接影響命名實(shí)體識別的結(jié)果.不同的語言環(huán)境和不同的實(shí)體類型都會影

3、響噪音過濾的算法,因而對于不同的文本不同的實(shí)體類型可以使用不同的噪音過濾方法來得到更好的結(jié)果.噪音過濾分為詞匯級別的噪音過濾和語義的噪音過濾。詞匯級別的噪音過濾中,本文提出并實(shí)現(xiàn)了基于詞匯特征的噪音過濾、信息冗余的噪音過濾和兩者結(jié)合的噪音過濾的方法。實(shí)驗(yàn)表明詞匯特征和信息冗余相結(jié)合的過濾方法要優(yōu)于任何一種方法單獨(dú)進(jìn)行過濾.在迭代的噪音過濾之后還提出并實(shí)現(xiàn)了統(tǒng)計(jì)語義的噪音過濾,但由于算法運(yùn)行時間過長,不能加入到噪音過濾的迭代過程中,只能在