28831.基于在線遷移學(xué)習(xí)的概念漂移數(shù)據(jù)流分類算法研究

1、密級(jí)碩士學(xué)位論文（全日制專業(yè)學(xué)位碩士）（全日制專業(yè)學(xué)位碩士）題目基于在線遷移學(xué)習(xí)的概念漂移數(shù)據(jù)流分類算法研究（英文）（英文）Researchonclassificationalgithmofconceptdriftdatastreambasedononlinetransferlearning研究生學(xué)號(hào):1403304003研究生姓名:唐詩(shī)淇指導(dǎo)教師姓名、職稱指導(dǎo)教師姓名、職稱:文益民、教授申請(qǐng)學(xué)位類別:工程碩士領(lǐng)域:軟件工程論文答辯日期

2、:2017年6月8日摘要I摘要邁入大數(shù)據(jù)時(shí)代，很多數(shù)據(jù)以數(shù)據(jù)流的形式快速產(chǎn)生。數(shù)據(jù)流挖掘算法被應(yīng)用于很多領(lǐng)域。如：垃圾郵件分類、視頻行為分析、地震預(yù)報(bào)及新聞推薦等等。不同于傳統(tǒng)關(guān)系型數(shù)據(jù)模型，數(shù)據(jù)流中常常隱含著概念漂移，而傳統(tǒng)的機(jī)器學(xué)習(xí)算法本質(zhì)上都是基于一個(gè)靜態(tài)學(xué)習(xí)環(huán)境而以盡量保證學(xué)習(xí)系統(tǒng)泛化能力為目標(biāo)的一個(gè)尋優(yōu)過程，故其不太適應(yīng)數(shù)據(jù)流場(chǎng)景。因此，概念漂移問題已成為機(jī)器學(xué)習(xí)的熱點(diǎn)研究問題?，F(xiàn)有的大多數(shù)概念漂移檢測(cè)算法一般都是當(dāng)檢測(cè)到發(fā)生

3、概念漂移后才對(duì)分類器進(jìn)行調(diào)整以適應(yīng)新到概念，因此概念漂移檢測(cè)總不可避免存在滯后性。在概念漂移發(fā)生初期由于獲取到的屬于新到概念的樣本較少，使得激活分類器在該時(shí)期由于訓(xùn)練或者調(diào)整不充分造成其對(duì)新到概念的適應(yīng)性較差，分類準(zhǔn)確率難以快速恢復(fù)。所以，在發(fā)生概念漂移后，如何使得分類器能快速適應(yīng)新到概念，對(duì)隱含概念漂移的數(shù)據(jù)流分類問題十分重要。針對(duì)以上問題，本文開展了以下兩個(gè)方面的工作：(1)針對(duì)含重現(xiàn)概念的數(shù)據(jù)流的學(xué)習(xí)與分類問題中的“負(fù)遷移”和概念

4、漂移檢測(cè)的滯后性，提出了一種基于在線遷移學(xué)習(xí)的重現(xiàn)概念漂移數(shù)據(jù)流分類算法RCOTL。RCOTL在檢測(cè)到概念漂移時(shí)選擇性存儲(chǔ)剛學(xué)習(xí)的基分類器，然后計(jì)算最近的樣本與存儲(chǔ)的各歷史分類器之間的領(lǐng)域相似度，以選擇最適合對(duì)后續(xù)樣本進(jìn)行學(xué)習(xí)的源分類器，從而改善從源領(lǐng)域到目標(biāo)領(lǐng)域的知識(shí)遷移。另外，RCOTL還在概念漂移檢測(cè)之前根據(jù)分類準(zhǔn)確率選擇合適的分類器對(duì)后續(xù)樣本分類初步的理論分析解釋了RCOTL為什么能有效克服“負(fù)遷移”，實(shí)驗(yàn)結(jié)果進(jìn)一步表明：RCO

5、TL的確能有效提高分類準(zhǔn)確率，并且在遭遇概念漂移后能更快地適應(yīng)對(duì)后續(xù)樣本的分類。(2)在現(xiàn)有在線遷移學(xué)習(xí)算法中，當(dāng)單個(gè)源領(lǐng)域與目標(biāo)領(lǐng)域相似性不高時(shí)，很難進(jìn)行有效的遷移學(xué)習(xí)。對(duì)此，本文首先提出了一種基于局部分類精度的多源在線遷移學(xué)習(xí)方法LCMSOTL。LCMSOTL存儲(chǔ)多個(gè)源領(lǐng)域分類器，計(jì)算新到樣本與目標(biāo)領(lǐng)域已有樣本之間的距離以及各源領(lǐng)域分類器對(duì)其最近鄰樣本的分類精度，從源領(lǐng)域分類器中挑選局部較優(yōu)的分類器與目標(biāo)領(lǐng)域分類器加權(quán)組合，從而實(shí)現(xiàn)

6、從源領(lǐng)域到目標(biāo)領(lǐng)域的遷移學(xué)習(xí)。然后在LCMSOTL算法的基礎(chǔ)上，本文再提出了基于多源在線遷移學(xué)習(xí)概念漂移數(shù)據(jù)流分類算法CDMSOTL。當(dāng)檢測(cè)到概念漂移后，CDMSOTL利用LCMSOTL整合多個(gè)歷史概念實(shí)現(xiàn)對(duì)新到概念的遷移學(xué)習(xí)，使得分類器能更塊地適應(yīng)新到概念。實(shí)驗(yàn)結(jié)果表明：LCMSOTL能有效地從多個(gè)源領(lǐng)域?qū)崿F(xiàn)選擇性遷移，顯示出較高的分類準(zhǔn)確率，同時(shí)，CDMSOTL能在概念漂移發(fā)生后通過遷移多個(gè)歷史概念的知識(shí)幫助分類器迅速適應(yīng)新到概念。