面向張量數(shù)據(jù)的遷移學(xué)習(xí)研究與應(yīng)用.pdf

1、隨著信息技術(shù)的快速發(fā)展，信息數(shù)據(jù)大量出現(xiàn)在日常生活中。如何高效地從這些信息數(shù)據(jù)中獲取到有用的知識(shí)，顯得日益重要。在傳統(tǒng)機(jī)器學(xué)習(xí)研究過(guò)程中，往往需要假設(shè)測(cè)試數(shù)據(jù)與訓(xùn)練數(shù)據(jù)服從相同分布，并且需要大量的訓(xùn)練數(shù)據(jù)才能訓(xùn)練出性能好的分類(lèi)器。然而在一些新興的領(lǐng)域中難以獲取大規(guī)模帶標(biāo)簽的樣本。若按照傳統(tǒng)的人工專(zhuān)家方式重新標(biāo)記數(shù)據(jù)樣本，會(huì)出現(xiàn)成本高、易出錯(cuò)等問(wèn)題。遷移學(xué)習(xí)研究的重點(diǎn)就是如何克服傳統(tǒng)機(jī)器學(xué)習(xí)這些缺陷。
　　本文基于已有的研究工作，在

2、張量空間中提出了具有遷移學(xué)習(xí)能力的支持張量機(jī)（Transfer Learning-Support Tensor Machine，TL-STM）算法。支持張量機(jī)(SupportTensor Machine，STM)是支持向量機(jī)(Support Vector Machine，SVM)在高階空間的擴(kuò)展。STM通過(guò)在張量空間中訓(xùn)練出一個(gè)分類(lèi)超平面，從而完成對(duì)數(shù)據(jù)的分類(lèi)與識(shí)別。STM在缺少訓(xùn)練數(shù)據(jù)集的領(lǐng)域中，與傳統(tǒng)學(xué)習(xí)一樣無(wú)法得到可靠的分類(lèi)模型。

3、TL-STM算法在缺少大規(guī)模訓(xùn)練數(shù)據(jù)的張量空間中，通過(guò)遷移相關(guān)領(lǐng)域的知識(shí)，從而訓(xùn)練得到性能較好的分類(lèi)器。本文的具體工作如下:
　　(1)探討了SVM分類(lèi)超平面與模型參數(shù)之間的關(guān)系。由SVM算法在處理高階數(shù)據(jù)樣本時(shí)表現(xiàn)出來(lái)的缺陷，引出支持張量機(jī)算法。通過(guò)探索模型參數(shù)之間的關(guān)系得出STM模型參數(shù)是相互關(guān)聯(lián)的，確定采用交替投影的方式進(jìn)行模型求解。
　　(2)在二階張量空間對(duì)支持張量機(jī)進(jìn)行遷移學(xué)習(xí)研究。在訓(xùn)練少量帶標(biāo)簽的樣本時(shí)，結(jié)合

4、源領(lǐng)域超平面遷移知識(shí)，從而得到目標(biāo)領(lǐng)域的分類(lèi)模型。求解分類(lèi)器時(shí)，采用交替投影的計(jì)算機(jī)制將模型轉(zhuǎn)換成求解一系列二次凸規(guī)劃問(wèn)題。通過(guò)計(jì)算設(shè)定的收斂條件，判定函數(shù)是否收斂，進(jìn)而完成模型的求解。最后還對(duì)算法的可行性進(jìn)行了分析與驗(yàn)證。
　　(3)將TL-STM從二階張量空間推廣到高階張量空間。運(yùn)用張量學(xué)習(xí)中的m-模積運(yùn)算將模型轉(zhuǎn)換成求解關(guān)于超平面法向量的凸最優(yōu)化問(wèn)題。通過(guò)求解若干關(guān)于法向量的二次規(guī)劃問(wèn)題，判別收斂條件，最終獲得高階支持張量機(jī)