基于深度學習的中文代詞消解及其在問答系統(tǒng)中的應用.pdf

1、自然語言中存在的指代和省略現(xiàn)象使得有一些話語獨立來看存在語義缺失，這給機器理解帶來了巨大的挑戰(zhàn)。如何利用上下文信息對話語進行語義恢復是一項重要的研究任務。代詞消解是語義恢復的重要方法，目前很多方法還停留在淺層的、顯性的語義特征，并沒有挖掘更深層次的語義關聯(lián)。本文使用詞向量作為輸入，利用深度學習方法挖掘出較深層次的語義特征，實現(xiàn)中文代詞消解算法，并應用到問答系統(tǒng)中。
　　首先，研究中文顯性代詞消解表述對的深層語義特征表示方法。之前的

2、代詞消解算法抽取表述對的顯性語義特征，如性別、數(shù)量，本文引入詞向量，表示代詞、候選先行語及上下文在語言學和隱含語義方面的特征，并與顯性語義特征合并，共同作為表述對特征，訓練神經(jīng)網(wǎng)絡分類器，相比于二者單獨的使用，性能取得了顯著的提升。
　　接著，研究中文零代詞消解算法，包括零代詞識別和消解兩個子任務。本文在零代詞識別方面提出了基于循環(huán)神經(jīng)網(wǎng)絡、不依賴句法分析的算法；在消解方面沿用了顯性代詞消解的表述對模型，放棄其中的顯性語義特征，增

3、加更多有效的詞向量特征，如相關動詞和賓語，提出了基于神經(jīng)網(wǎng)絡的零代詞消解算法；然后，通過引入長短期記憶網(wǎng)絡，計算表述對的更深層語義特征表示，提出了基于長短期記憶網(wǎng)絡的進階消解算法。本文提出的零代詞消解算法在識別和消解子任務上超越了基線方法。
　　最后，設計實現(xiàn)了交互式問答系統(tǒng)。其中，提出了基于詞語共現(xiàn)模型的省略恢復算法，與代詞消解一同構成語義補全模塊，應用到系統(tǒng)中，利用短期歷史提問信息，從指代和省略兩個方面，對待檢索問題進行語義補