基于知識型數(shù)據(jù)的監(jiān)督學(xué)習(xí).pdf

1、本文研究基于知識型數(shù)據(jù)的學(xué)習(xí)問題。傳統(tǒng)機器學(xué)習(xí)問題主要依賴于帶標(biāo)注的訓(xùn)練樣本來完成建模與預(yù)測。但是一個公認(rèn)的問題是標(biāo)注數(shù)據(jù)是非常費時與費力的，已經(jīng)成為機器學(xué)習(xí)繼續(xù)發(fā)展的一個很大的瓶頸。機器學(xué)習(xí)的一個很重要的應(yīng)用就是網(wǎng)頁，文本數(shù)據(jù)的分類。為了能夠?qū)W(wǎng)頁數(shù)據(jù)進行高質(zhì)量的分類，需要大量的文本訓(xùn)練集。本文注意到一個新的趨勢，就是隨著互聯(lián)網(wǎng)的飛速發(fā)展和廣泛應(yīng)用，越來越多的服務(wù)和應(yīng)用出現(xiàn)在互聯(lián)網(wǎng)上。這些數(shù)據(jù)不僅僅是平面的文本數(shù)據(jù)，同時帶有類標(biāo)，結(jié)構(gòu)

2、等等格外的信息?？紤]到任何人都可以很容易的得到大量的互聯(lián)網(wǎng)數(shù)據(jù)，本文解決的的問題是，通過互聯(lián)網(wǎng)知識對機器學(xué)習(xí)的過程進行監(jiān)督，從而減少機器學(xué)習(xí)算法，特別是文本分類算法對人工標(biāo)注數(shù)據(jù)的依賴。 為了達到這樣的目的，本文從兩個角度來解決問題。第一是設(shè)計知識型數(shù)據(jù)的獲取算法，第二是設(shè)計知識型數(shù)據(jù)進行監(jiān)督學(xué)習(xí)的算法。 對于知識型數(shù)據(jù)獲取的研究算法，本文研究如何將平面的，沒有任何額外信息的網(wǎng)頁數(shù)據(jù)進行自動標(biāo)注，從而使得其成為知識型數(shù)據(jù)。

3、本文的研究思路是依照網(wǎng)絡(luò)上大量存在的層次結(jié)構(gòu)，對網(wǎng)頁數(shù)據(jù)進行自動分類。研究的難點是，待選擇的類的數(shù)量非常龐大，傳統(tǒng)的機器學(xué)習(xí)和分類算法無法取得很好的效果。與此同時，基于知識型的算法要求很高的效率，對于算法的設(shè)計有很大的限制。本文在這方面取得了一定的突破。本文注意到樸素貝葉斯分類器具有速度快，易實現(xiàn)，通用性強等在當(dāng)前問題中非常需要的特性。雖然傳統(tǒng)樸素貝葉斯分類器的效果非常差，通過深入挖掘樸素貝葉斯分類器在大規(guī)模類空間的特性，找到了樸素貝葉

4、斯分類器存在的兩個嚴(yán)重問題，通過修正這些問題，使得樸素貝葉斯分類器的效果得到了大幅度的提升。從而能夠提供可靠的知識型數(shù)據(jù)。 對于設(shè)計知識型數(shù)據(jù)進行監(jiān)督學(xué)習(xí)的算法，本文研究如何利用帶有類標(biāo)信息的知識型數(shù)據(jù)，來取代文檔分類中的訓(xùn)練集，達到相當(dāng)于有訓(xùn)練集的學(xué)習(xí)效果。研究的難點是互聯(lián)網(wǎng)知識型數(shù)據(jù)涵蓋大量的語義信息，而待分類的文本的語義信息比較集中。為了克服這樣一個差距，本文設(shè)計了一個兩階段風(fēng)險最優(yōu)化算法。在第一階段中，該算法生成對于待分