基于Logistic回歸的直推式遷移學習方法研究.pdf

1、傳統(tǒng)的數(shù)據(jù)挖掘方法假設訓練數(shù)據(jù)和測試數(shù)據(jù)服從相同的數(shù)據(jù)分布。然而，在許多情況下，這種同分布假設并不能得到滿足。當分布發(fā)生變化時，傳統(tǒng)的數(shù)據(jù)挖掘方法必須從頭開始，需要用戶重新收集大量的訓練數(shù)據(jù)。在許多現(xiàn)實世界的應用中，重新收集所需的訓練數(shù)據(jù)和再次訓練模型的代價是昂貴的，同時丟棄所有原始領域中的訓練數(shù)據(jù)完全不用也是一種資源的浪費。在這種情況下，遷移學習就變得非常重要了，因為遷移學習可以從現(xiàn)有的數(shù)據(jù)中遷移知識，來幫助將來的學習。
　　

2、 遷移學習是指一個系統(tǒng)認識和運用先前任務中所學到的知識或技能來學習新任務的能力。遷移學習的研究出于這樣一個指導信息：人類可以利用先前所學到的知識來更好更快地解決新的問題。因此，遷移學習不會像傳統(tǒng)的數(shù)據(jù)挖掘方法那樣作同分布的假設。本文中主要針對遷移學習開展了以下工作的研究：
　　 (1)概述了遷移學習的背景知識、基本概念、研究現(xiàn)狀以及應用領域，將遷移學習的現(xiàn)有方法總結(jié)為四種類型，并詳細地分析了各種方法的具體實現(xiàn)以及當前的應用；

3、r>　　 (2)為了使遷移學習能夠完全沒有標記數(shù)據(jù)的目標領域，本文提出了基于Logistic回歸的直推式遷移學習方法(TTLR)，使得分類器在訓練樣本和測試樣本分布不同的情況下能夠適應于目標領域。實驗表明，與傳統(tǒng)的監(jiān)督式分類算法相比，該方法是有效的，并且能夠取得更好的分類效果。
　　 (3)為了能同時處理多個不同的分布，本文給出了基于Logistic回歸的多領域直推式遷移學習方法(MTTLR)，來解決同一時間多領域的知識遷移問