大連理工大學研究生企業(yè)專業(yè)實踐報告

1、大連理工大學 大連理工大學企業(yè)專業(yè)實踐報告 企業(yè)專業(yè)實踐報告學 部（院） ：信息與通信工程學院專 業(yè)：學 生 姓 名：學 號：指 導 教 師：完 成 日 期：2018.03.20大連理工大學Dalian University of Technology企業(yè)專業(yè)實踐報告標數(shù)據(jù)存在分布差異。除此之外，在許多建立分類模型訓練的應用環(huán)境中，可能沒有足夠的標記數(shù)據(jù)， 這就需要人工對這些數(shù)據(jù)進行標注以獲得分類器需要的訓練數(shù)據(jù)。而手動標注數(shù)據(jù)既耗時又

2、費力，這是實際應用中的一個難題，然而如果不滿足這些條件分類器的性能就會降低， 因此充分利用相關領域的分類信息來幫助解決目標域的分類任務是非常有意義的。 遷移學習由于放寬了訓練數(shù)據(jù)和測試數(shù)據(jù)分布相同這一假設， 可以將相關領域的知識或者模型遷移到目標領域來幫助目標領域的學習任務，這樣就可以解決跨域?qū)W習問題。目前，遷移學習已經(jīng)成為機器學習研究領域的熱點之一。 在提高機器學習效率， 提高現(xiàn)有算法性能和算法實用性方面， 遷移學習具有重要意義。 遷

3、移學習被認為是在最低成本的人工監(jiān)督下的機器學習的一種新策略。 在計算機視覺， 自然語言處理和生物信息學等標注數(shù)據(jù)稀缺或者無標注數(shù)據(jù)的目標領域，遷移學習具有很強的現(xiàn)實需求。4. 問題描述給定一個標記的源域和學習任務， 一個無標記的目標域和學習任務， 假設它們的邊緣概率和條件概率都不相同， 學習一個新的特征表示使得邊緣概率分布和條件概率分布之間的差異同時最小化， 從而利用源域中的知識來提高目標域中的目標預測函數(shù)的性能。大多數(shù)現(xiàn)有方法只最小化

4、領域間的邊緣概率分布， 而僅匹配邊緣分布并不能獲得足夠好的的遷移學習性能， 因為源域和目標域間的判別分類面很有可能并不相同， 領域間的條件分布距離也應最小化。 雖然目標領域的邊緣概率分布可由核密度估計得到近似擬合， 但是因為目標域中沒有標記的數(shù)據(jù)， 所以條件概率分布無法準確估計。根據(jù)概率論，主要的計算問題是最小化聯(lián)合概率分布間的距離，通過同時最小化邊緣概率分布之間的距離以及條件概率分布之間的距離， 實現(xiàn)聯(lián)合概率分布的適配。5. 實驗方法

5、首先需要對源域和目標域的特征進行降維重構， 在源域和目標域的樣本中學習得到一個共同的跨域子空間， 即通過非線性降維， 將源域和目標域高維數(shù)據(jù)通過正交變換映射到低維的子空間， 在這個子空間中源域和目標域擁有相近的分布且每個樣本都有緊湊的特征表示。為了簡單和一般性，選擇主成分分析（PCA）進行數(shù)據(jù)重建。PCA 是一種線性映射方法，降維后的表示是由線性映射生成的，而且 PCA方法是基于觀測數(shù)據(jù)的協(xié)方差矩陣的計算來對數(shù)據(jù)進行處理的， 僅涉及數(shù)據(jù)