直推式支持向量機的研究學習.pdf

1、直推式支持向量機的研究學習重慶大學碩士學位論文（學術(shù)學位）學生姓名：王利文指導教師：劉瓊蓀教授專業(yè)：概率論與數(shù)理統(tǒng)計學科門類：理學重慶大學數(shù)學與統(tǒng)計學院二O一四年四月重慶大學碩士學位論文中文摘要I摘要支持向量機（SupptVectMachineSVM）是一種建立在統(tǒng)計學習理論基礎(chǔ)上的機器學習方法，最初是由Vapnik等人研究小樣本問題時提出的。隨著統(tǒng)計學習理論的發(fā)展，SVM在理論和應(yīng)用方面都得到了迅速地發(fā)展。特別是將核函數(shù)引入到SVM的

2、學習過程中，提高了算法對高維數(shù)據(jù)的處理能力，在文本分類、醫(yī)療診斷、圖像檢測及數(shù)字驗證等領(lǐng)域得到很好的推廣。標準SVM是基于監(jiān)督學習的分類方法，需要手工對大量樣本標記以獲取足夠的訓練樣本。但在實際工程應(yīng)用中，這一過程不僅效率不高，并且代價較為昂貴。因此，半監(jiān)督學習思想被引入到SVM的訓練學習過程中，典型的包括：Bent等人將SVM規(guī)范化的表現(xiàn)形式中引入聚類假設(shè)的思想，提出的S3VM學習機；Joachims基于直推式學習提出的TSVM算法等

3、。本文對TSVM算法做了詳細的研究，對于TSVM算法中pN較難估計的問題，提出基于無標簽樣本的成對標注法和標簽動態(tài)調(diào)整PTSVM算法。針對訓練樣本集中的有標簽樣本數(shù)不平衡的問題，采取對不同的無標簽樣本設(shè)置不同的懲罰參數(shù)的策略，提出了TSVM的模糊漸進式算法和SemiTSVM算法等。雖然以上幾種改進算法提高了TSVM分類的準確度，但是也增加了算法的訓練時間。針對這一情形，本文采用SLSTSVM模型避免了每次迭代求解QP問題，提高了訓練的速

4、度，同時在每次迭代中采用區(qū)域標注法來實現(xiàn)無標簽樣本的標注，也加快了對無標簽樣本的標注效率。通過仿真實驗可以發(fā)現(xiàn)，SLSTSVM算法在保持PTSVM算法精度的同時，也有效提高了訓練的效率。直推式學習SVM的研究是支持向量機發(fā)展的一個方向，雖然目前TSVM算法的研究已獲得一些進展，但其理論研究仍不夠完善。本文根據(jù)直推式支持向量機的學習算法做了一些理論研究，如何更好挖掘的無標簽樣本信息提高分類器的性能是TSVM算法下一步研究的關(guān)鍵。關(guān)鍵詞關(guān)鍵