基于網(wǎng)絡(luò)百科的中文實(shí)體鏈接研究.pdf

1、隨著時(shí)代的發(fā)展、網(wǎng)絡(luò)的普及，互聯(lián)網(wǎng)已經(jīng)成為了一個(gè)巨大的信息庫(kù)，越來(lái)越多的人開始從互聯(lián)網(wǎng)上獲取知識(shí)。如何讓用戶快速獲得文本中感興趣詞的信息，如何用已有的知識(shí)庫(kù)標(biāo)注網(wǎng)絡(luò)文本中大量的生詞，已經(jīng)成為自然語(yǔ)言處理領(lǐng)域的一個(gè)研究熱點(diǎn)。實(shí)體鏈接系統(tǒng)是一個(gè)從文本中識(shí)別出實(shí)體并把它鏈接到現(xiàn)有知識(shí)庫(kù)中相應(yīng)實(shí)體上的系統(tǒng)。通過(guò)實(shí)體鏈接，用戶將更加快速、更加方便的了解文本中實(shí)體的信息，進(jìn)而更加快速的理解文本。同時(shí)，實(shí)體鏈接還極大的促進(jìn)了語(yǔ)義網(wǎng)構(gòu)建、知識(shí)庫(kù)構(gòu)建、信

2、息檢索、問(wèn)答系統(tǒng)等技術(shù)的發(fā)展。近年來(lái)，網(wǎng)絡(luò)上出現(xiàn)了大量的平臺(tái)，人們利用這些平臺(tái)來(lái)進(jìn)行交流。這其中，就產(chǎn)生了大量的數(shù)據(jù)，這些數(shù)據(jù)都是以文本的形式存在。在短文本中，由于用戶水平的不同，表達(dá)方式的不同，這些文本數(shù)據(jù)存在大量的錯(cuò)別字、簡(jiǎn)稱、別名、網(wǎng)絡(luò)用語(yǔ)、口語(yǔ)、昵稱、模糊不清和不規(guī)范的表達(dá)，采用傳統(tǒng)的實(shí)體識(shí)別和鏈接系統(tǒng)對(duì)這些短文本進(jìn)行實(shí)體識(shí)別和鏈接效果并不好。在長(zhǎng)文本中，文中存在大量的共指，如何將這些共指正確的實(shí)體指稱鏈接到知識(shí)庫(kù)，是一個(gè)有待解

3、決的問(wèn)題。
　　本文主要工作如下:
　　(1)研究了網(wǎng)絡(luò)爬蟲技術(shù)。采用了基于模板和正則表達(dá)式的方法對(duì)網(wǎng)絡(luò)上的代理IP進(jìn)行自動(dòng)抽取，該方法滿足了批量獲取代理IP的需求，提升了網(wǎng)絡(luò)爬蟲系統(tǒng)的穩(wěn)定性。同時(shí)，針對(duì)互動(dòng)百科、百度百科以及豆瓣網(wǎng)，找到了獲取它們?nèi)縐RL的方法，設(shè)計(jì)并實(shí)現(xiàn)了網(wǎng)絡(luò)數(shù)據(jù)采集系統(tǒng)。對(duì)采集的數(shù)據(jù)源碼進(jìn)行抽取，構(gòu)建了中文知識(shí)庫(kù)和同義詞表。另外，從中文知識(shí)庫(kù)中提取出人名，利用百度知心來(lái)擴(kuò)充同義詞表。
　　(2)

4、針對(duì)短文本中實(shí)體存在大量縮寫、簡(jiǎn)稱的問(wèn)題，提出了交大中文分詞系統(tǒng)與詞典、在線百科相結(jié)合的實(shí)體識(shí)別算法。在實(shí)體鏈接，采用了同義詞表、維基百科重定向以及改進(jìn)的PED（拼音編輯距離）與LCS（最長(zhǎng)公共子序列）相結(jié)合的方法。在實(shí)體消歧中，提出了基于后綴補(bǔ)全的消歧算法和基于在線百科鏈接權(quán)重的消歧算法。
　　(3)針對(duì)長(zhǎng)文本實(shí)體鏈接，提取維基百科的特征構(gòu)建了名稱-實(shí)體表。在候選實(shí)體生成中，采用了名稱-實(shí)體表匹配、拼音匹配、流行度匹配以及基于上