基于深度學(xué)習(xí)的屬性抽取技術(shù)研究.pdf

1、如何將大量的非結(jié)構(gòu)化信息轉(zhuǎn)換為人們易于理解的結(jié)構(gòu)化信息，提取語義信息，已成為近年來研究的熱點(diǎn)。實(shí)體的屬性抽取方法，是將非結(jié)構(gòu)化數(shù)據(jù)轉(zhuǎn)換為結(jié)構(gòu)化數(shù)據(jù)的一種重要手段，是自然語言處理任務(wù)的一個重要子任務(wù)。雖然，已經(jīng)有不少的方法提出用來完成屬性抽取任務(wù)，但是這些方法中仍然存在一些問題需要解決。本文針對這些方法中存在的問題進(jìn)行深入研究，提出了一種基于長短期記憶網(wǎng)絡(luò)的多實(shí)例多標(biāo)簽的算法，主要按照以下順序展開工作:
　　首先展示了屬性抽取較為流

2、行的幾種方法，主要有基于規(guī)則的方法、有監(jiān)督的和無監(jiān)督的機(jī)器學(xué)習(xí)方法。這些方法存在對人工和其他自然語言處理工具依賴性過大，無法應(yīng)用到目標(biāo)關(guān)系，性能還有待提升等問題。
　　針對上述問題，本文提出的方法使用遠(yuǎn)程監(jiān)督的方式生成模型訓(xùn)練和測試所需要的樣本，減少對人工的依賴。使用多實(shí)例多標(biāo)簽?zāi)Ｐ徒鉀Q遠(yuǎn)程監(jiān)督生成樣本中的多實(shí)例多標(biāo)簽現(xiàn)象。多實(shí)例多標(biāo)簽?zāi)Ｐ屠脦в须[變量的圖模型建模一個實(shí)體對有多個實(shí)例，以及不同實(shí)例可能對應(yīng)不同標(biāo)簽因而存在多個標(biāo)簽

3、的問題。
　　同時，使用深度學(xué)習(xí)的方法自動學(xué)習(xí)大量樣本數(shù)據(jù)的內(nèi)部規(guī)律。利用詞向量作為模型需要的特征，能夠表達(dá)詞與詞之間的相似性，減少對其它自然語言處理工具的依賴，防止錯誤的傳播和累加。使用長短期記憶網(wǎng)絡(luò)訓(xùn)練模型，充分利用了句子的時序信息，通過句子前后的上下文關(guān)系，學(xué)習(xí)了句子中存在的語法關(guān)系和語義關(guān)系。長短期記憶網(wǎng)絡(luò)能夠選擇性的丟棄一些無用信息，而保留重要的有用信息，對于學(xué)習(xí)較長句子中的內(nèi)在關(guān)系非常有效。此外，本文還利用了實(shí)體的類型