基于監(jiān)督聚類的專利訓練數據修剪研究.pdf

1、我們生活在一個信息爆炸的時代,各行各業(yè)積累了大量的,甚至是海量的數據。根據世界知識產權組織的統(tǒng)計,專利文獻含有世界每年發(fā)明創(chuàng)造成果的90%~95%,世界每年的申請量以100多萬件的速度遞增,目前,累計總量已近4000萬件,充分利用這些專利文獻進行技術創(chuàng)新能夠節(jié)約60%時間、節(jié)省40%的科研資金投入。每一件專利都會依據其內容被分類至某一個國際專利分類碼(International Patent Classification,IPC)中。由

2、于數據的規(guī)模大,完全依靠專家進行分類需要耗費大量的人力物力,這就促進了各種自動專利分類的研究的興起。樸素貝葉斯,最近鄰,決策樹,以及支持向量機等已經應用到文本分類領域,并取得了一定的效果。然而,專利分類是一個大規(guī)模,不平衡,層次化以及多標號的文本分類問題,大多數的傳統(tǒng)分類方法無法處理這樣復雜的問題。即使是性能最好的分類器—支持向量機,由于其求解過程是一個二次規(guī)劃問題,導致訓練時間與訓練樣本個數接近平方級別的關系。因此,呂寶糧和他的合作者

3、提出了最小最大模塊化網絡,它最顯著的特點是并行的,模塊化的結構。其基本思想是“分而治之”：將一個大規(guī)模問題,分解成一些獨立的小規(guī)模問題,分別求解這些小規(guī)模問題,然后合并成大規(guī)模問題的解。本文的貢獻在于,通過引進一種基于高斯零交叉函數最小最大模塊化網絡的監(jiān)督聚類算法,來修剪訓練數據的規(guī)模,并將其成功的應用到專利分類問題中去。文章的主要貢獻在以下幾個方面。1)分析了高斯零交叉函數最小最大模塊化網絡的特點：高度的模塊化,可以輸出“不知道”的能

4、力和增量學習能力。2)分析了高斯零交叉函數最小最大模塊化網絡接收域的特點,根據此接收域,在學習過程中對訓練樣本進行聚類,去除冗余樣本。3)在聚類后,可能有些聚類含有的樣本數很少,這些樣本點可能是噪聲點。我們采用了噪聲去除和聚類合并算法對樣本進行后處理。4)我們在NTCIR-5專利數據庫上進行專利分類的仿真實驗,比較了在聚類和非聚類情況下的各項性能。實驗結果證明,我們提出的聚類算法,可以去除冗余樣本,并保證在較少的訓練數據集下,保持甚至獲