基于維基百科的雙語語料挖掘技術(shù)研究.pdf

1、大規(guī)模雙語平行或可比較語料庫是構(gòu)建高質(zhì)量統(tǒng)計(jì)機(jī)器翻譯系統(tǒng)的重要基礎(chǔ)資源。目前大規(guī)模雙語語料庫的建設(shè)存在著很大的困難，在規(guī)模、時(shí)效性和領(lǐng)域平衡性等方面還不能滿足處理真實(shí)文本的需要。
　　 本文充分利用維基百科中大量存在的雙語平行或可比較資源，研究自動(dòng)獲取的方法并驗(yàn)證其有效性，從而獲取滿足雙語平行或可比較語料。
　　 從某個(gè)特定的網(wǎng)頁中，需要定義一種啟發(fā)式信息來概括這類多語種平行或可比較文本存在的共同特征，以此作為一個(gè)有效的

2、入口，來獲取我們關(guān)心的資源。維基百科中雙語平行或可比較資源是完全存在于兩個(gè)平行或可比較的單語網(wǎng)頁中。本文針對(duì)這種資源定義了有效的啟發(fā)式信息，從而很好地解決了大規(guī)模數(shù)據(jù)的來源問題。
　　 網(wǎng)絡(luò)作者在進(jìn)行雙語平行或可比較網(wǎng)頁URL命名時(shí)往往具有一定的規(guī)律性。本文提出了一種自動(dòng)發(fā)現(xiàn)一個(gè)具有URL命名規(guī)律性算法，從而從維基百科中找出盡可能多的可信的中英文候選網(wǎng)頁配比對(duì)。
　　 雙語平行或可比較的網(wǎng)頁文本不同于一般的雙語對(duì)照文本，

3、其中不僅存在有用的雙語對(duì)照信息，還存在一定的無關(guān)噪音信息等；此外，網(wǎng)頁文本中的詞匯量也大大超出任何一本雙語詞典的范圍。這些都造成了對(duì)雙語平行或可比較網(wǎng)頁進(jìn)行句子對(duì)齊的難度。本文基于維基百科的網(wǎng)頁結(jié)構(gòu)，充分利用雙語平行或可比較網(wǎng)頁HTML結(jié)構(gòu)相似性這一優(yōu)點(diǎn)，提出了一種基于標(biāo)簽序列最長(zhǎng)公共子串的DOM樹對(duì)齊改進(jìn)算法的雙語平行或可比較句對(duì)的抽取技術(shù)，從而取得到了很好的效果。
　　 最后，我們實(shí)現(xiàn)了上述三個(gè)方面的技術(shù)，搭建了一個(gè)可以在維