基于潛在語義結構的文本層次分類.pdf

1、隨著網(wǎng)絡的迅速發(fā)展，網(wǎng)頁，電子郵件，數(shù)據(jù)庫數(shù)字圖書館等電子文本成幾何級數(shù)不斷增長，如何有效地處理這些海量數(shù)據(jù)，并將其按照某種給定的模式進行歸類是一個非常重要的課題。文本分類技術的基本任務就是根據(jù)文檔內容，從給定的標記集中找出一個或者多個最適合于該文檔的標記，現(xiàn)階段較為常用的是基于統(tǒng)計和機器學習的文本分類方法。 傳統(tǒng)的文本分類方法未能考慮類別間的層次結構，而在實際應用中，類別之間有著復雜的關系，這些類別通常組織成一個概念層次樹。這

2、種層次結構可以方便用戶進行瀏覽及搜索等可視化操作。此外，依照層次結構對文檔庫進行分類更能體現(xiàn)文檔之間的語義關系。通常而言，層次分類方法首先將給定的文檔類別按照層次結構組成分類樹，然后對于給定的文檔，按照某個分類算法將它逐層分配到分類樹中某個節(jié)點中。 在文本層次分類研究中，較為通用的數(shù)學模型是向量空間模型。該模型利用特征向量表征文檔，其中特征項一般用詞條表示。然而，該模型只注重了詞形，而未考慮詞義。本文利用潛在語義索引和概率主題模

3、型等方法，有效發(fā)現(xiàn)了文檔集合中的語義信息，并依此信息實現(xiàn)文本層次分類，本文的工作主要體現(xiàn)在以下幾個方面： 首先，對層次分類技術進行了詳盡細地調研和分析。本文介紹了文本層次分類技術的基本方法和關鍵技術，并充分調研國內外相關工作現(xiàn)狀，通過實驗，對文本層次分類方法進行了綜合分析和評估。同時，指出了當前文本層次分類方面的不足，即基于向量空間模型的特征表示方法沒有反映文檔集合中的語義信息，而且易受到噪音的影響，而以后的發(fā)展方向則應該更加側

4、重于從文檔語義著手。 其次，提出了基于概率主題的文本層次分類方法。概率主題模型是一種統(tǒng)計生成模型，它可以從文檔集合中抽取一系列主題，并將這些文檔表示為不同主題依照一定概率混合而成。通過這種模型發(fā)現(xiàn)的主題，能揭示文檔的語義信息，在很多領域都有著廣泛的應用。本文基于概率主題模型，提出了一種新的文本層次分類方法。在20 Newsgroups數(shù)據(jù)集上的實驗結果表明，該方法的分類性能可以超越支持向量機分類方法。 最后，提出了基于類

5、別標簽的文本層次分類模型。在文本層次分類中，類別是以層次的結構組織的，每個類別用一個標簽來標識。雖然文本分類的研究工作已經(jīng)有很多，但是很少有人將類別標簽結合到分類的過程中去。一般來說，在文本分類過程中，在標簽中出現(xiàn)的詞條比其它詞條更加重要。本文提出了一種基于類別標簽的潛在語義索引模型，并全面的探索了類別標簽在文本層次分類中的作用。同時，在該模型中，本文提出了一種自適應的策略，從而更好的利用類別間的層次結構。實驗結果表明，該分類方法可以明