基于半監(jiān)督和深度學(xué)習(xí)的生物實(shí)體關(guān)系抽取.pdf

1、近年來，隨著生物醫(yī)學(xué)文獻(xiàn)的快速增長，生物文獻(xiàn)中的信息抽取技術(shù)已經(jīng)得到廣泛的研究，目前為止，生物醫(yī)學(xué)文獻(xiàn)信息抽取中的大部分工作都涉及到關(guān)系抽取。生物領(lǐng)域中的關(guān)系抽取主要集中于從生物醫(yī)學(xué)文本中識別出生物醫(yī)學(xué)實(shí)體名稱（蛋白質(zhì)、藥物、疾病、基因等），進(jìn)而提取生物實(shí)體之間的語義關(guān)系。本文主要研究疾病-病癥、病癥-治療物質(zhì)和蛋白質(zhì)關(guān)系抽取，提出了基于半監(jiān)督學(xué)習(xí)和深度學(xué)習(xí)的方法分別解決實(shí)體抽取過程中存在的缺少標(biāo)注語料集和人工特征構(gòu)建的問題。
　

2、　本文采用Co-Training和Tri-Training兩個半監(jiān)督學(xué)習(xí)的方法構(gòu)建疾病-病癥模型和病癥-治療物質(zhì)模型。在訓(xùn)練過程中使用特征核、圖核和樹核作為Co-Training和Tri-Training方法的輸入視圖。在Tri-Training的訓(xùn)練過程中采用組合學(xué)習(xí)的方法將分類器集成在一起。實(shí)驗(yàn)結(jié)果表明，Co-Training和Tri-Training方法都可以利用未標(biāo)注語料集在初始語料集少的情況下提升訓(xùn)練性能。并且在實(shí)驗(yàn)中Tri-

3、Training方法的性能要優(yōu)于Co-Training方法。使用半監(jiān)督學(xué)習(xí)方法進(jìn)行疾病-病癥和病癥-治療物質(zhì)關(guān)系抽取時，需要構(gòu)建大量的人工特征，這些特征的質(zhì)量直接影響實(shí)驗(yàn)結(jié)果。而且大量人工特征的構(gòu)建既費(fèi)時又費(fèi)力。針對這個問題，本文提出了基于卷積神經(jīng)網(wǎng)絡(luò)的疾病-病癥和病癥-治療物質(zhì)關(guān)系抽取的方法。該方法可以從輸入語料中自動學(xué)習(xí)特征，獲取特征的層次結(jié)構(gòu)，降低人工構(gòu)造特征的成本。同時本文使用Tri-Training的方法擴(kuò)充語料集。實(shí)驗(yàn)表明與

4、Tri-Training方法相比卷積神經(jīng)網(wǎng)絡(luò)的方法可以獲得更好的實(shí)驗(yàn)結(jié)果。使用半監(jiān)督學(xué)習(xí)方法進(jìn)行關(guān)系抽取時存在兩個方面的問題，一方面，半監(jiān)督學(xué)習(xí)方法在未標(biāo)注語料選取時選用分類器標(biāo)注一致的樣本，這將損失掉一部分信息。另一方面，在未標(biāo)注樣本加入訓(xùn)練集的過程中，這些樣本可能會被標(biāo)注錯誤。為了解決這兩個問題，本文提出了基于改進(jìn)的Tri-Training進(jìn)行蛋白質(zhì)關(guān)系抽取的方法。該方法在對未標(biāo)注語料選取時選用三個分類器標(biāo)注最不一致的樣本。并使用主