分位點學習及其相關問題.pdf

1、分位點回歸學習是統(tǒng)計學習理論中的研究領域之一，最初是由 Koenker和 Hallock提出，目的是為了估計條件分位點函數(shù)f?,?，現(xiàn)有的文獻主要采用再生核Hilbert空間作為假設空間(核為 Mercer核)，這促使我們把系數(shù)正則化的思想引入分位點回歸學習。所謂系數(shù)正則化，即是對廣義核函數(shù)(連續(xù)、有界的二元函數(shù))，通過樣本點得到算法的假設空間，進而利用該假設空間中函數(shù)的線性展開的系數(shù)構造懲罰項。本文具體研究基于?2、?1、?Q(1≤Q

2、≤2)范數(shù)的分位點系數(shù)正則化學習算法。我們利用積分算子的技巧，通過引入正則化函數(shù)fλ和屬于假設空間的函數(shù)^fz,λ，對誤差進行分解，將之分成三部分，即逼近誤差，假設誤差，樣本誤差。采用覆蓋數(shù)的方法以及算子范數(shù)的估計，對上述誤差項分別進行估計，得到算法的誤差界與學習速率。本文的內容分為如下幾部分：
　　第一章主要介紹統(tǒng)計學習理論的發(fā)展歷史和基本框架。
　　第二章介紹正則化回歸學習，首先說明了正則化的基本思想，繼而給出核正則化算