相似性分類算法的誤差分析.pdf

1、不論是在非監(jiān)督學習中，還是在監(jiān)督學習中，相似性學習的應用是十分廣泛而且是很有效的。當學習器學習了一些已經(jīng)給出相似性描述的樣本對，學習器就能夠通過分析樣本對幾何接近或者接近的親密程度來對新的樣本進行準確分類或預測。相似性學習的這種特點剛好解決了沒有標記樣本和樣本種類較多兩種情況下機器學習的難題，而且給出了可行的學習算法，因而在理論和實踐上引起了極大的興趣。
　　 本文介紹了相似性分析的意義和常見應用；介紹了常見的相似性度量，如歐氏

2、距離和馬氏距離；利用Hilbert-Schmidt算子和外積算子等工具推導出了算子值大間隔分類器的推廣誤差的界。還從實際問題出發(fā)提出了多核余弦分類器，并給出了其推廣誤差的界。同時，本文還通過最小化目標函數(shù)給出了梯度下降法的算法過程；涉及到了多類問題中的相似性學習過程：為了擁有好的預測能力，利用偏差學習的EP模型得出了訓練樣本中任務數(shù)和每項任務中的樣本數(shù)的下界。
　　 論文結(jié)構(gòu)如下：
　　 第一章:介紹相似性學習的背景、意

3、義、應用和常見的相似性度量。
　　 第二章:主要給出了相似性學習的兩種分類器的推廣誤差的界。介紹了相似性學習的三個假設(shè)，建立了相似性學習的基本框架。本章利用正的Hilbert-Schmidt算子來構(gòu)造分類器，推導出了不依賴于Rademacher復雜度的推廣誤差的界。從幾何直觀的實例中提出了多核余弦相似性分類器，并推導出了它的推廣誤差的界。
　　 第三章:給出了相似性學習的算法。利用得出的推廣誤差的界確定了目標函數(shù)，證明了