正則化機器學習算法及其財務預警應用研究.pdf

1、機器學習算法已廣泛應用于財務危機預警建模。然而，隨著對機器學習算法的不斷深入研究，發(fā)現(xiàn)其在構建模型時存在過擬合和模型系數(shù)非稀疏問題，所以考慮將統(tǒng)計學習理論中的正則化技術引入到機器學習算法中，從而建立正則化機器學習算法的預警模型。本文主要針對邏輯回歸（Logistic Regression，LR）和支持向量機（Support Vector Machine，SVM）提出各種改進的形式以及給出相應的求解算法，并且利用改進后的算法來構建危機預報

2、模型。
　　首先，介紹了課題研究背景與意義，并簡要歸納了國內外預警建模方法的研究現(xiàn)狀。其次，較系統(tǒng)地介紹了LR算法和SVM算法，同時選取了2010年至2012年間的78家A股制造業(yè)上市公司作為樣本公司，而且還選取了29個財務指標變量以及確定了樣本數(shù)據年份的選取。
　　接著，針對LR建模時存在過擬合和模型系數(shù)非稀疏問題，提出了平滑削邊絕對偏離（Smoothly Clipped Absolute Deviation，SCAD）懲

3、罰LR的預警模型，并就該模型的求解給出了實現(xiàn)算法，而且利用收集到的財務樣本數(shù)據驗證了SCAD-LR模型更具優(yōu)越性。還有，針對L1正則化LR問題的難解性，設計了一個高效的內點法，并通過仿真實驗說明了L1-LR模型的稀疏性和分類效果相對更好以及設計的內點法相對較優(yōu)。
　　然后，針對傳統(tǒng)SVM無法很好地刻畫變量間的相關性，提出使用經典高斯函數(shù)的參數(shù)推廣形式——q-高斯函數(shù)作為SVM的核函數(shù)，并將q-高斯核SVM用于構建預警模型。在進行實

4、驗之前，為剔除不顯著的指標變量，對樣本數(shù)據進行了顯著性檢驗，而后將顯著變量的數(shù)據用于對比實驗，結果表明q-高斯核SVM比高斯核SVM具有更高的預報精度和更低的兩類錯誤。
　　最后，為克服傳統(tǒng)SVM存在的對離群點敏感、支持向量個數(shù)多以及分類面參數(shù)非稀疏問題，提出了SCAD懲罰截斷hinge損失SVM的預警模型，并就該模型的求解設計了一個迭代更新求解算法。利用樣本數(shù)據進行實驗，結果表明SCAD-TSVM算法構建的模型在稀疏性、預報精度