基于知識整合的詞匯語義相似度計算方法研究.pdf

1、隨著大數(shù)據(jù)時代的到來，海量的文本數(shù)據(jù)在提供高價值信息的同時，也給文本語義理解帶來了嚴(yán)峻的挑戰(zhàn)。單詞是文本的最小組成單元，其語義相似度是挖掘詞匯關(guān)聯(lián)的重要依據(jù)，有助于計算機準(zhǔn)確理解語句和文檔的內(nèi)容。根據(jù)詞匯語義資源，典型的語義相似度計算方法包含兩類:基于知識庫(Knowledge Base)和基于語料庫(Corpus)。知識庫能夠提供詞匯的語義描述和結(jié)構(gòu)化信息，但是嚴(yán)重依賴于領(lǐng)域?qū)＜业臉?gòu)建和維護，詞匯覆蓋率較低，缺乏可擴展性。而語料庫雖然

2、包含豐富的詞匯，但是其非結(jié)構(gòu)性導(dǎo)致難以從中提取詞匯的有效語義特征。為了克服單類語義資源的不足，本文基于WordNet的圖結(jié)構(gòu)和詞匯的低維向量表示，分別從概念信息含量的量化模型、語義增強的詞向量、度量方法的優(yōu)化組合三方面，研究了知識庫和語料庫中語義知識的整合。本文的主要研究成果如下:
　　(1)提出了一種基于IC加權(quán)最短路徑的概念語義相似度計算方法CSSM-ICSP(Concept Semantic Similarity Measu

3、rement Based on IC-weighted Shortest Path)。該方法利用WordNet中概念的邊長、深度、密度等結(jié)構(gòu)屬性以及信息含量(Information Content，IC)，計算概念之間的路徑距離并非線性地轉(zhuǎn)化為概念語義相似度。首先，用概念深度的相關(guān)函數(shù)對概念密度進行平滑，構(gòu)造基于WordNet的固有IC混合(Intrinsic IC Hybrid，IIH)計算模型，該模型改進了傳統(tǒng)IC計算模型未考慮概念

4、深度的不足;其次，將概念的IC差值作為邊長的權(quán)重，衡量處于不同深度的概念語義關(guān)系的強度差異。利用IC加權(quán)的路徑距離、深度差異率和歸一化路徑距離，建立概念距離計算模型。此外，為了實現(xiàn)WordNet與語料的語義知識整合，該方法將基于語料的統(tǒng)計IC模型引入固有IC模型。實驗結(jié)果表明，在詞對相似度公共測試集M&C、R&G、WS-353和WS-sim上，相比基于WordNet的其它方法，本文提出的方法具有較高的皮爾森線性相關(guān)系數(shù)。
　　(2

5、)提出了一種基于多語義融合的單詞語義相似度計算方法WSSM-MSF(Word Semantic Similarity Measurement Based on Multiple Semantic Fusion)。該方法旨在構(gòu)建有效的詞匯語義表征，改善基于向量空間的語義相似性度量。由于文檔所表達的語義內(nèi)容可以表示為句子、短語或單詞的向量組合，該方法基于向量的代數(shù)運算，利用WordNet中概念的多個語義屬性，包括同義詞(Synset)、注釋

6、(Gloss)、上位詞(Hypemym)和下位詞(Hyponym)，構(gòu)造多語義融合(Multiple Semantic Fusion，MSF)模型，以此生成概念向量和語義增強詞向量，實現(xiàn)基于語義特征的異構(gòu)知識整合。為了避免傳統(tǒng)詞袋模型帶來的數(shù)據(jù)稀疏、特征高維等問題，該方法采用連續(xù)詞袋模型CBOW（Continuous Bag-of-Words），從大規(guī)模文本語料中學(xué)習(xí)出低維、稠密的實數(shù)詞向量。實驗結(jié)果表明，本文提出的語義增強的詞向量相對

7、于原始詞向量具有更好的表示語義特征的能力，能夠提高詞對相似度評測的計算準(zhǔn)確度，以及語義Web服務(wù)匹配的查準(zhǔn)率和召回率。
　　(3)提出了一種基于差分進化(Differential Evolutionary，DE)算法的單詞語義相似度計算方法WSSM-DE(Word Semantic Similarity Measurement Based on Differential Evolutionary)。該方法將多種度量方法的優(yōu)化組合問

8、題演化為解空間中的隨機尋優(yōu)過程，將基于WordNet或基于低維向量的計算語義相似度作為DE算法中種群個體的多維分量，通過基于個體差異的啟發(fā)式全局搜索，獲得分量上的權(quán)值和最優(yōu)解，以此實現(xiàn)WordNe與語料的語義知識整合?；谧顑?yōu)個體的每一維分量值的變化，分析了在語義計算任務(wù)中詞向量可能隸屬的空間。在詞對相似度評測任務(wù)上的實驗結(jié)果表明，本文提出的方法不僅優(yōu)于基于單一語義源的相似度計算方法，而且優(yōu)于基于有監(jiān)督優(yōu)化組合的計算方法，包括基于排序?qū)W