集成Logistic和SVM的分類算法研究.pdf

1、 集成 Logistic 和 SVM 的分類算法研究 重慶大學(xué)碩士學(xué)位論文 學(xué)生姓名：謝 玲 指導(dǎo)教師：劉瓊蓀 教 授 專 業(yè)：概率論與數(shù)理統(tǒng)計 學(xué)科門類：理 學(xué) 重慶大學(xué)數(shù)學(xué)與統(tǒng)計學(xué)院 二 O 一一年四月 重慶大學(xué)碩士學(xué)位論文 中文摘要 I 摘 要 分類是數(shù)據(jù)分析與機器學(xué)習(xí)領(lǐng)域的基本問題之一，國內(nèi)外學(xué)者對分類算法的研究已有大量的成果。Logistic 回歸模型是一種應(yīng)用最為廣泛的多元量化分析技術(shù)，其特點是穩(wěn)健性好，模型

2、的可解釋性較強。支持向量機（SVM）是由 Vapnik提出的統(tǒng)計學(xué)習(xí)理論發(fā)展而來，它在處理小樣本、非線性以及高維數(shù)等問題時具有一些獨特的優(yōu)勢。目前，SVM 已經(jīng)成為機器學(xué)習(xí)領(lǐng)域的研究熱點。 傳統(tǒng)的 Logistic 回歸用于二分類的方法一般以 0.5 為分界點，這樣可能存在較大的誤判風(fēng)險，尤其是對于 0.5 附近模糊區(qū)間的樣本點。針對 logistic 回歸處理分類問題的不足， 本文將支持向量機引入到傳統(tǒng)的 Logistic 回歸分類方

3、法中， 利用支持向量機的輸出結(jié)果為 Logistic 回歸提供支持信念，減少 Logistic 回歸中的誤判風(fēng)險，從而提高分類的正確率。 本文首先概述了 Logistic 回歸模型的原理、 推導(dǎo)和檢驗， 接著詳細介紹了支持向量機及其相關(guān)理論，包括機器學(xué)習(xí)的基本理論、統(tǒng)計學(xué)習(xí)理論、SVM 分類算法以及模型參數(shù)的選擇等。 然后， 在深入分析 Logistic 回歸和支持向量機理論的基礎(chǔ)上， 本文構(gòu)造了一種集成 Logistic 回歸與支持向