開放域中文問答系統(tǒng)關(guān)鍵技術(shù)研究.pdf

1、人類在日常的工作和生活中需要借助大量的知識來解決面臨的各種各樣的問題，但畢竟個人所掌握的知識有限，需要實時查閱和獲取知識。目前，人們常常借助搜索引擎通過互聯(lián)網(wǎng)實現(xiàn)這一目的。然而，搜索引擎的輸入是用戶并不習慣的關(guān)鍵詞組合形式，不能準確和完整地表達用戶的搜索意圖，其返回的結(jié)果是大量網(wǎng)頁的集合，并非用戶所希望獲取的簡潔而具體的答案，往往需要用戶進行二次查找。
　　 問答系統(tǒng)允許用戶以自然語言提問，有利于清晰地表達問題的語義信息，返回的

2、是簡潔而準確的答案，與傳統(tǒng)搜索引擎相比具有獨特的高效實用優(yōu)勢。因此，問答系統(tǒng)成為信息檢索領(lǐng)域中繼搜索引擎之后的又一個研究熱點，尤其是不限定問題范圍的開放域自動問答系統(tǒng)，具有極高的理論研究價值和廣闊的應(yīng)用前景。
　　 本文圍繞問答系統(tǒng)的問題分析、信息檢索和答案抽取各階段的關(guān)鍵技術(shù)，結(jié)合前人的研究成果，在問題分類特征的選取、關(guān)鍵詞擴展，答案源獲取、答案推薦和大規(guī)模問答對庫的優(yōu)化等方面進行了研究，主要研究成果如下：
　　 (1

3、)針對以關(guān)鍵詞或者關(guān)鍵詞的首義原作為問題分類特征的局限性，提出基于核心詞的主要義原作為問題主要分類特征的分類算法。關(guān)鍵詞作為分類特征常因為特征向量維數(shù)過高導致處理速度過慢，關(guān)鍵詞的首義原作為問題分類特征會因為首義原抽象程度過高影響關(guān)鍵詞語義的準確表達。實驗證明，核心詞的主要義原作為分類特征克服了上述不足，具有較好的分類效果。
　　 (2)針對關(guān)鍵詞同義擴展導致準確率降低的不足，提出一種限定語義距離的關(guān)鍵詞同義擴展的精簡算法。該算

4、法先利用《同義詞詞林》進行同義擴展，再利用《知網(wǎng)》義原樹計算擴展后的關(guān)鍵詞之間的語義距離，依據(jù)事先限定的語義距離閾值剔除相似度較小的噪音數(shù)據(jù)，實現(xiàn)關(guān)鍵詞集合的精簡，此外還可以通過修改語義距離閾值實現(xiàn)關(guān)鍵詞擴展集合的動態(tài)調(diào)整，進而實現(xiàn)信息檢索的準確率和召回率的整體平衡。
　　 (3)針對答案抽取技術(shù)貧乏的現(xiàn)狀，結(jié)合互聯(lián)網(wǎng)問答社區(qū)的興起，提出一種基于兩階段相似度計算法的答案推薦技術(shù)。通過網(wǎng)頁下載、網(wǎng)頁去重和主題信息提取等步驟獲得大量

5、百度知道的問答對。先采用耗時較少的TF-IDF方法對問題相似度排序，再利用準確率較高的語義相似度方法對排序靠前的10個問句進行二次計算和排序，最后把問答對庫中相似度最高的問題所對應(yīng)的答案推薦給用戶，彌補了答案抽取技術(shù)的不足。
　　 (4)針對問答對質(zhì)量參差不齊的現(xiàn)象，提出通過問答對的滿意度屬性值實現(xiàn)問答對庫自動優(yōu)化的方法。系統(tǒng)為每一個問答對增加一個“用戶滿意度”屬性以記錄用戶對問答對的滿意度，定期依據(jù)滿意度值的大小評估問答對的質(zhì)