基于深度卷積神經(jīng)網(wǎng)絡(luò)的實體關(guān)系抽取.pdf

1、實體關(guān)系抽取一直以來就是自然語言處理領(lǐng)域研究的一個熱點問題。能夠準(zhǔn)確的識別出兩個實體之間的語義關(guān)系在信息抽取任務(wù)中是至關(guān)重要的，同時對于知識庫的創(chuàng)建以及信息檢索等領(lǐng)域都具有重要的意義。隨著深度學(xué)習(xí)在圖像和視覺等領(lǐng)域的迅猛發(fā)展，近年來深度學(xué)習(xí)也被引入到自然語言處理領(lǐng)域，成為了研究的熱點。由于傳統(tǒng)的實體關(guān)系抽取方法在模型學(xué)習(xí)之前都需要人工手動的選取一些離散的特征，特征選取的好壞直接關(guān)系到最終的抽取結(jié)果。我們無法預(yù)知什么樣的特征最有效，而且特

2、征的數(shù)量也不是越多越好，多數(shù)是依賴專家經(jīng)驗來判斷特征的有效性。同時特征的選擇過程大多依賴于現(xiàn)有的自然語言處理（NLP）工具，費時費力，且易造成錯誤傳播。與傳統(tǒng)的方法相比，基于深度學(xué)習(xí)機(jī)制的關(guān)系抽取算法可以自動的從原始的語料中學(xué)習(xí)到特征，不僅減少了對于NLP工具的依賴，而且充分利用了文本的結(jié)構(gòu)信息。同時，前人的研究成果證明了深度學(xué)習(xí)模型中的卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）以其獨特的網(wǎng)絡(luò)結(jié)構(gòu)可

3、以對特征進(jìn)行更好的學(xué)習(xí)。
　　本研究采用深度卷積神經(jīng)網(wǎng)絡(luò)完成實體關(guān)系抽取任務(wù)。首先，提出基于句子的衡量詞重要性的 TP-ISP(term proportion-inverse sentence proportion)算法，通過該算法得到每個類別中各個詞的tpisp值，根據(jù)該值的大小結(jié)合排序算法得到關(guān)于每個詞重要性的排序結(jié)果；然后選取排名靠前的詞作為表征該類別的核心詞特征，同原始句子的詞向量特征和詞位置特征一同作為網(wǎng)絡(luò)的初始輸入，減

4、少了現(xiàn)有的使用深度學(xué)習(xí)的方法中僅僅依賴單一詞向量學(xué)習(xí)特征的不足。通過加入該類別核心詞特征，增加了類別間的區(qū)分度，同時也彌補(bǔ)了網(wǎng)絡(luò)自動學(xué)習(xí)特征的不足；最后在網(wǎng)絡(luò)訓(xùn)練階段，采用分段最大池化策略，即選取每一段中得分值最高的特征，將這些特征組合起來作為最終分類器的輸入特征。這一策略一定程度上減少了傳統(tǒng)的最大池化策略對于信息的丟失問題。此外，由于中文語料匱乏等原因在此方面研究較少，因此以COAE（Chinese Opinion Analysis