基于擴展的VSM中文文本分類方法.pdf

1、隨著因特網(wǎng)的迅猛發(fā)展，作為網(wǎng)絡主要資源的文本信息也在高速增長。如何有效組織和管理這些信息，并快速、準確、全面的從中找到用戶所需要的信息是當前信息科學和技術領域面臨的重要問題。文本分類作為處理和組織大量文本數(shù)據(jù)的關鍵技術，可以在較大程度上解決信息雜亂現(xiàn)象的問題，幫助人們準確高效的定位信息和分流信息，因此具有廣泛的應用前景。
　　 文本自動分類最常用的方法是基于向量空間模型。通常采用關鍵詞作為向量構建向量空間模型。早期研究是基于知識

2、的，通過人工建立分類規(guī)則確定特征項，隨著統(tǒng)計機器學習理論和統(tǒng)計自然語言處理技術的發(fā)展，使用機器學習的方法確定特征項得到應用，并取得了良好的效果?？墒怯捎谑艿接柧氄Z料庫資源和訓練時間的限制，機器學習能力也有局限性。有很多對類別有貢獻的特征項，通過常規(guī)的機器學習是得不到的。用這樣的特征向量集生成的向量空間模型在進行文本分類時就不會達到滿意的效果，所以機器學習生成的向量空間模型是需要重新構造的。
　　 本文提出了一種基于擴展空間向量模

3、型（VSM）的方法用于中文文本分類。該方法對每類文本特征項進行分析，并通過合適的艦則抽取了最能代表主題的特征義原，然后用Hownet對這些特征義原擴展，并賦予擴展的特征項適當權值來說明其描述能力。接著聯(lián)合同義詞典將原始向量空間模型，和擴展的向量空間模型融合成新的特征向量空間。最后選擇合適的分類器用重構的VSM模型進行分類。本文重點研究了抽取特征義原，設定特征項合適的權值和重構向量空間模型方法。實驗表明，該方法能增加有效的向量空間維數(shù)，使