基于半監(jiān)督學(xué)習(xí)的統(tǒng)計(jì)機(jī)器翻譯研究.pdf

1、互聯(lián)網(wǎng)的飛速發(fā)展所產(chǎn)生的越來越多的雙語數(shù)據(jù),使得基于統(tǒng)計(jì)的機(jī)器翻譯( SMT)成為了機(jī)器翻譯領(lǐng)域的主流方法。然而相比已標(biāo)注數(shù)據(jù)(雙語句對(duì),詞對(duì)齊結(jié)果等),可用于統(tǒng)計(jì)機(jī)器翻譯的未標(biāo)注數(shù)據(jù)(單語的句子,未標(biāo)注對(duì)齊的雙語句對(duì)等)更容易獲得,其數(shù)量也遠(yuǎn)遠(yuǎn)大于已標(biāo)注的數(shù)據(jù)。如何利用未標(biāo)注數(shù)據(jù)提高統(tǒng)計(jì)機(jī)器翻譯的質(zhì)量成為一個(gè)熱門的研究方向。半監(jiān)督的學(xué)習(xí)方法,能夠利用未標(biāo)注數(shù)據(jù)參與模型的訓(xùn)練和優(yōu)化,提高統(tǒng)計(jì)模型的性能,在SMT中的應(yīng)用也越來越受到重視。

2、本篇博士論文將深入地研究如何將半監(jiān)督的學(xué)習(xí)方法(包括自學(xué)習(xí)、互學(xué)習(xí)和基于圖的學(xué)習(xí))應(yīng)用于統(tǒng)計(jì)機(jī)器翻譯的各個(gè)階段(包括詞匯對(duì)齊、規(guī)則抽取,特征權(quán)重訓(xùn)練、翻譯重排序和解碼),提高統(tǒng)計(jì)機(jī)器翻譯的質(zhì)量。論文組織如下:
　　1.針對(duì)基于反向轉(zhuǎn)換文法詞匯對(duì)齊中的1-1對(duì)齊約束,本文通過引入短語對(duì)和層次短語對(duì)提出了增強(qiáng)的反向轉(zhuǎn)換文法,并使用半監(jiān)督訓(xùn)練方法來訓(xùn)練對(duì)數(shù)線性模型中的特征值和特征權(quán)重,以提高基于反向轉(zhuǎn)換文法的詞匯對(duì)齊的性能,從而可以抽取

3、更為準(zhǔn)確的翻譯規(guī)則,提高SMT的性能。
　　2.針對(duì)基于句法的SMT(SSMT)的規(guī)則抽取中詞匯對(duì)齊和句法分析不一致的問題,本文提出了基于邊界集的目標(biāo)化自學(xué)習(xí)方法和基于強(qiáng)制對(duì)齊的重訓(xùn)練方法,來利用詞對(duì)齊信息修正句法分析結(jié)果中的錯(cuò)誤,從而改善了翻譯規(guī)則的質(zhì)量,提高了SSMT的性能。
　　3.針對(duì)特征權(quán)重訓(xùn)練中的領(lǐng)域適應(yīng)問題,本文提出了基于最小貝葉斯風(fēng)險(xiǎn)的自學(xué)習(xí)和互學(xué)習(xí)方法。為解決自學(xué)習(xí)和互學(xué)習(xí)訓(xùn)練過程中的不穩(wěn)定現(xiàn)象,本文使用了

4、基于最小貝葉斯風(fēng)險(xiǎn)的句子級(jí)系統(tǒng)融合方法來選擇合適的翻譯候選參與自學(xué)習(xí)和互學(xué)習(xí)的訓(xùn)練,顯著地提高了目標(biāo)領(lǐng)域上的翻譯性能。
　　4.針對(duì)翻譯結(jié)果的一致性問題(即相似的輸入句子應(yīng)該得到相似的翻譯結(jié)果),本文使用了基于圖的半監(jiān)督方法,將SMT看做結(jié)構(gòu)學(xué)習(xí)問題,并針對(duì)該問題提出了結(jié)構(gòu)化的標(biāo)記傳播算法。本文進(jìn)一步地將結(jié)構(gòu)化標(biāo)記傳播算法獲得的一致置信度作為特征,應(yīng)用于常用的對(duì)數(shù)線性模型中,將該模型應(yīng)用于SMT的重排序和解碼,提高了SMT的性能。