2023年全國(guó)碩士研究生考試考研英語(yǔ)一試題真題(含答案詳解+作文范文)_第1頁(yè)
已閱讀1頁(yè),還剩15頁(yè)未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

1、硬間隔線性支撐向量機(jī)假設(shè)給定一個(gè)特征空間上的訓(xùn)練數(shù)據(jù)集:T=(x1y1),(x2y2),…,(xNyN)其中,為第i個(gè)特征向量或?qū)嵗瑸榈念悩?biāo)記,當(dāng)時(shí),稱為正xi∈Rnyi∈1?1i=12…Nxiyixiyi=1xi例,當(dāng)時(shí),稱為負(fù)例;為樣本點(diǎn)。yi=?1xi(xi,yi)假設(shè)訓(xùn)練數(shù)據(jù)集是線性可分的(存在硬間隔),那么學(xué)習(xí)的目標(biāo)是在特征空間找到一個(gè)分離超平面,能將實(shí)例分到不同的類。分離超平面方程,它由法向量w和截距b決定,可用表示。分離

2、超平面w?xb=0(wb)將特征空間分為兩部分,一部分是正類,一部分是負(fù)類。法向量指向的一側(cè)為正類,另一側(cè)是負(fù)類。一般地,當(dāng)訓(xùn)練數(shù)據(jù)集線性可分時(shí),存在無窮個(gè)分離超平面可將兩類數(shù)據(jù)正確分開,感知機(jī)利用誤分類最小的策略,求得分離超平面,不過這是的解有無窮多。線性可分支撐向量機(jī)利用間隔最大化求最優(yōu)分離超平面,解唯一。一、模型推導(dǎo)1.函數(shù)間隔:一般來說,一個(gè)點(diǎn)距離分離超平面的遠(yuǎn)近可以表示分類預(yù)測(cè)的確信程度。在超平面w?xb=0確定的情況下,能夠

3、相對(duì)地表示(注意:真實(shí)距離為)點(diǎn)距離超平面的遠(yuǎn)近。而的|w?xb||w?xb|∥w∥xw?xb符號(hào)與類標(biāo)記的符號(hào)是否一致能夠表示分類是否正確。所以可用標(biāo)量來表示分類的正確性及確信yy(w?xb)度,值為正表示分類正確,值為負(fù)表示分類錯(cuò)誤。超平面關(guān)于樣本點(diǎn)的函數(shù)間隔為:()(,)=(?)超平面關(guān)于訓(xùn)練數(shù)據(jù)集T的函數(shù)間隔:()==…==…(?)2.幾何間隔:函數(shù)間隔可以表示分類預(yù)測(cè)的正確性及確信度,但是選擇分離超平面時(shí),只有函數(shù)間隔還不夠。

4、因?yàn)橹灰杀壤馗淖僿和b,雖然超平面并沒有改變,但函數(shù)間隔(它是的線性函數(shù))卻依原比例同(wb)等改變。為了將表示的超平面的唯一化,即每個(gè)超平面對(duì)應(yīng)中的唯一向量,可以對(duì)法向量w(wb)Rn1(wb)加以規(guī)范化約束,這時(shí)函數(shù)間隔稱為幾何間隔?!蝫∥=1超平面關(guān)于樣本點(diǎn)的幾何間隔為:()(,)=∥∥=(∥∥?∥∥)超平面關(guān)于訓(xùn)練數(shù)據(jù)集T的幾何間隔為:()==…==…(∥∥?∥∥)3.間隔最大化支撐向量機(jī)學(xué)習(xí)的基本想法是求解能夠正確劃分訓(xùn)練

5、數(shù)據(jù)集并且?guī)缀伍g隔最大的分離超平面。對(duì)于線性可分的訓(xùn)練數(shù)據(jù)集而言,線性可分分離超平面有無窮多個(gè),每一個(gè)都是一個(gè)感知機(jī),但是幾何間隔最大的分離超平面時(shí)唯一的。間隔最大化的直觀解釋是:對(duì)訓(xùn)練數(shù)據(jù)集找到幾何間隔最大的超平面意味著以充分大的卻新都對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行分類。也就是說,不僅將正負(fù)實(shí)例點(diǎn)要分開,而且對(duì)最難分的實(shí)例點(diǎn)(離超平面最近的點(diǎn))也有足夠多大的確信度將它們分開。因此所要優(yōu)化的問題表示為:..(∥∥?∥∥)≥=…w=N∑i=1αiyixi

6、N∑i=1αiyi=0帶入拉格朗日函數(shù),得出()=∑=∑=(?)?∑=((∑=)?)∑==?∑=∑=(?)∑=(2)求()(?∑=∑=(?)∑=)..∑==,≥=…轉(zhuǎn)換為求極小(∑=∑=(?)?∑=)..∑==,≥=…根據(jù)對(duì)偶理論,對(duì)上述對(duì)偶優(yōu)化存在,使是原始問題的解,是對(duì)偶問題的解,因此求解原始問題,w?,b?α?可以轉(zhuǎn)化為求解對(duì)偶問題。3.最優(yōu)解根據(jù)KKT條件(a)?w?L(w?b?α?)=w??∑Ni=1α?iyixi=0(b)?

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁(yè)內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 眾賞文庫(kù)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論