面向張量數(shù)據(jù)的遷移學習研究與應用.pdf

1、隨著信息技術(shù)的快速發(fā)展，信息數(shù)據(jù)大量出現(xiàn)在日常生活中。如何高效地從這些信息數(shù)據(jù)中獲取到有用的知識，顯得日益重要。在傳統(tǒng)機器學習研究過程中，往往需要假設測試數(shù)據(jù)與訓練數(shù)據(jù)服從相同分布，并且需要大量的訓練數(shù)據(jù)才能訓練出性能好的分類器。然而在一些新興的領域中難以獲取大規(guī)模帶標簽的樣本。若按照傳統(tǒng)的人工專家方式重新標記數(shù)據(jù)樣本，會出現(xiàn)成本高、易出錯等問題。遷移學習研究的重點就是如何克服傳統(tǒng)機器學習這些缺陷。
　　本文基于已有的研究工作，在

2、張量空間中提出了具有遷移學習能力的支持張量機（Transfer Learning-Support Tensor Machine，TL-STM）算法。支持張量機(SupportTensor Machine，STM)是支持向量機(Support Vector Machine，SVM)在高階空間的擴展。STM通過在張量空間中訓練出一個分類超平面，從而完成對數(shù)據(jù)的分類與識別。STM在缺少訓練數(shù)據(jù)集的領域中，與傳統(tǒng)學習一樣無法得到可靠的分類模型。

3、TL-STM算法在缺少大規(guī)模訓練數(shù)據(jù)的張量空間中，通過遷移相關領域的知識，從而訓練得到性能較好的分類器。本文的具體工作如下:
　　(1)探討了SVM分類超平面與模型參數(shù)之間的關系。由SVM算法在處理高階數(shù)據(jù)樣本時表現(xiàn)出來的缺陷，引出支持張量機算法。通過探索模型參數(shù)之間的關系得出STM模型參數(shù)是相互關聯(lián)的，確定采用交替投影的方式進行模型求解。
　　(2)在二階張量空間對支持張量機進行遷移學習研究。在訓練少量帶標簽的樣本時，結(jié)合

4、源領域超平面遷移知識，從而得到目標領域的分類模型。求解分類器時，采用交替投影的計算機制將模型轉(zhuǎn)換成求解一系列二次凸規(guī)劃問題。通過計算設定的收斂條件，判定函數(shù)是否收斂，進而完成模型的求解。最后還對算法的可行性進行了分析與驗證。
　　(3)將TL-STM從二階張量空間推廣到高階張量空間。運用張量學習中的m-模積運算將模型轉(zhuǎn)換成求解關于超平面法向量的凸最優(yōu)化問題。通過求解若干關于法向量的二次規(guī)劃問題，判別收斂條件，最終獲得高階支持張量機