基于深度學(xué)習(xí)的跨語言信息抽取研究.pdf

1、基于機(jī)器學(xué)習(xí)的信息抽取方法性能依賴訓(xùn)練語料的質(zhì)量和數(shù)量。然而標(biāo)注數(shù)據(jù)在不同語言分布不均衡，阻礙了中文的信息抽取研究。針對(duì)這一問題，研究人員提出跨語言信息抽取方法，利用資源豐富語言（源語言）的標(biāo)注數(shù)據(jù)來訓(xùn)練資源匱乏語言（目標(biāo)語言）的信息抽取系統(tǒng)。然而，語言鴻溝和機(jī)器翻譯錯(cuò)誤影響了信息抽取的性能。本文研究基于深度學(xué)習(xí)的中英文跨語言信息抽取技術(shù)，主要包括以下內(nèi)容:
　　(1)基于降噪自動(dòng)編碼機(jī)(DAE)的雙視圖跨語言信息抽取
　　

2、提出基于DAE的雙視圖跨語言信息抽取方法。在源語言和目標(biāo)語言向量重構(gòu)過程中，DAE適當(dāng)引入噪音，減少翻譯錯(cuò)誤對(duì)分類性能的影響。同時(shí)，在中英文兩個(gè)視圖，分別構(gòu)建分類模型，融合兩個(gè)模型的分類結(jié)果，減少語言鴻溝對(duì)分類性能的影響。在跨語言情感分類和跨語言模糊限制語識(shí)別兩個(gè)任務(wù)進(jìn)行實(shí)驗(yàn)，證明DAE模型和雙視圖方法均能有效提高跨語言信息抽取性能。
　　(2)基于雙語詞表示的跨語言信息抽取
　　提出基于雙語詞表示的跨語言信息抽取方法，雙語

3、詞表示的學(xué)習(xí)分為無監(jiān)督和有監(jiān)督兩個(gè)學(xué)習(xí)階段。無監(jiān)督學(xué)習(xí)階段利用DAE進(jìn)行中英文雙語詞表示學(xué)習(xí)，捕獲中英文雙語語義信息。有監(jiān)督學(xué)習(xí)階段將訓(xùn)練語料的標(biāo)注信息嵌入雙語詞表示，提高信息抽取性能。實(shí)驗(yàn)表明，雙語詞表示能夠有效捕獲雙語語義信息和標(biāo)注信息，克服雙視圖方法難以深入融合兩種語言的不足。
　　(3)基于聯(lián)合表示學(xué)習(xí)的跨語言信息抽取
　　提出基于聯(lián)合表示學(xué)習(xí)的跨語言信息抽取方法。采用長(zhǎng)短時(shí)記憶遞歸網(wǎng)絡(luò)(LSTM)，學(xué)習(xí)中英文雙語表

4、示。在詞語義表示基礎(chǔ)上，引入上卞文情感（模糊）信息表示，聯(lián)合訓(xùn)練情感詞（模糊限制語）在特定語境下的語義和情感（模糊）信息。實(shí)驗(yàn)表明LSTM能夠有效實(shí)現(xiàn)跨語言信息抽取。同時(shí)，詞語義表示與上下文情感（模糊）信息的聯(lián)合表示學(xué)習(xí)能夠進(jìn)一步提高跨語言信息抽取的性能。
　　本文研究了基于深度學(xué)習(xí)的跨語言信息抽取方法，減少了翻譯錯(cuò)誤、語言鴻溝等對(duì)跨語言分類性能的影響，獲得了有效的雙語語義信息和標(biāo)注信息，提高了跨語言信息抽取性能，為深度學(xué)習(xí)理論在