最小二乘雙支持向量機的兩種拓展及其在線學習算法研究.pdf

1、最小二乘雙支持向量機是在傳統(tǒng)雙支持向量機模型的基礎上將二次規(guī)劃問題修改為最小二乘形式得到的，該模型只需求解兩個線性方程.最小二乘雙支持向量機在取得理想分類精度的同時，計算時間也大大降低.因此，該模型在機器學習和數(shù)據(jù)挖掘等領域受到人們的廣泛關注.本文針對含有噪聲點的分類和回歸問題，提出了兩種最小二乘雙支持向量機拓展模型，并發(fā)展了在線學習算法.本文的主要工作及創(chuàng)新點如下:
　　(1)為了克服噪聲點對分類精度的影響，通過引入雙重加權機制

2、，提出加權最小二乘雙邊界支持向量機，并發(fā)展了在線學習算法.同時還通過引入一種新的剪切機制，有效地避免了在求解非線性模型時每一步迭代過程都需要更新核矩陣的麻煩.基于三個含噪聲點的UCI數(shù)據(jù)集的仿真實驗表明，線性情況下加權最小二乘雙邊界支持向量機的在線學習算法與最小二乘雙支持向量機、模糊加權最小二乘雙支持向量機和加權最小二乘雙邊界支持向量機的離線學習算法相比，在獲得理想分類精度的同時，計算時間也最短.基于三個含噪聲點的UCI數(shù)據(jù)集和雙月亮數(shù)

3、據(jù)集的實驗表明，具有剪切機制的在線學習算法可以有效地求解非線性加權最小二乘雙邊界支持向量機模型.
　　(2)為了克服噪聲點對預測精度的影響，通過引入一種針對回歸問題的加權機制，提出加權最小二乘雙支持向量回歸，并發(fā)展了在線學習算法.基于四個含噪聲點的UCI數(shù)據(jù)集的仿真實驗表明，線性情況下加權最小二乘雙支持向量回歸的在線學習算法同最小二乘雙支持向量回歸和加權最小二乘雙支持向量回歸的離線算法相比，具有較小的預測誤差，而且計算時間最短.基