基于弱監(jiān)督學(xué)習(xí)的實(shí)體關(guān)系抽取方法研究.pdf

1、大數(shù)據(jù)相關(guān)產(chǎn)業(yè)與技術(shù)的發(fā)展使得科技信息服務(wù)業(yè)面臨前所未有的機(jī)遇和挑戰(zhàn)，需要對現(xiàn)有的應(yīng)用進(jìn)行研究與改進(jìn)，這些應(yīng)用都廣泛而深入的依賴知識圖譜，如:搜索引擎、個(gè)人智能助手、機(jī)器翻譯和問答系統(tǒng)等。
　　作為從無結(jié)構(gòu)文本中構(gòu)建知識圖譜（或稱知識庫）的關(guān)鍵性步驟，上述應(yīng)用從實(shí)體關(guān)系抽取中受益良多。而作為弱監(jiān)督學(xué)習(xí)實(shí)體關(guān)系抽取的兩種重要方法，Rel-LDA和Type-LDA，近年來頗受重視。但是，這兩個(gè)模型繼承了LDA模型的“詞袋假設(shè)”，存在諸

2、多限制。為打破這一限制，本文結(jié)合TNG模型的在多元語法特征方面的長處，提出了Rel-TNG和Type-TNG兩個(gè)模型，并詳細(xì)給出了兩個(gè)模型的吉布斯采樣算法。在此基礎(chǔ)上，本文基于GENIA和EPI語料進(jìn)行了試驗(yàn)。試驗(yàn)結(jié)果表明，雖然本文提出的模型和Rel-LDA、Type-LDA兩個(gè)模型在表現(xiàn)方面的差異沒有統(tǒng)計(jì)顯著性，但是，當(dāng)引入先驗(yàn)數(shù)據(jù)，Rel-TNG和Type-TNG的表現(xiàn)明顯優(yōu)于前者
　　主題模型實(shí)體關(guān)系抽取大規(guī)模應(yīng)用的主要障礙

3、是高昂的計(jì)算成本，在資源有限的情況下，這表現(xiàn)為模型訓(xùn)練速度緩慢。究其根本原因，相關(guān)的成本產(chǎn)生于:不同CPU上變量的同步以保持一致性;多種候選關(guān)系時(shí)的采樣過程等。幸運(yùn)的是，已有的一些研究可以大大降低計(jì)算成本。本文針對Rel-TNG和Type-TNG模型的大規(guī)模應(yīng)用進(jìn)行了具體分析，得出結(jié)論:1）Alias方法和稀疏性方法不適用于實(shí)體關(guān)系抽取主題模型;2）同步AD方法和異步AD方法作為近似方法，在模型的訓(xùn)練質(zhì)量上與原始的采樣方法存在可忽略的區(qū)