多任務(wù)學(xué)習(xí)算法研究.pdf

1、多任務(wù)學(xué)習(xí)是指通過同時(shí)學(xué)習(xí)多個(gè)任務(wù)來提升算法的泛化性能?？傮w來說，現(xiàn)有最新的多任務(wù)學(xué)習(xí)算法主要是都通過挖掘任務(wù)聚類和異常任務(wù)的方式，來提升算法的理論和實(shí)際性能。本文將著重研究在上述兩種假設(shè)條件下的多任務(wù)學(xué)習(xí)算法。
　　首先，考慮在未知任務(wù)聚類結(jié)構(gòu)未知的條件下，本文提出了一種靈活的多任務(wù)學(xué)習(xí)算法來實(shí)現(xiàn)子空間的任務(wù)聚類。具體來說，通過采用滿秩的子空間矩陣，并對(duì)表示矩陣使用組稀疏和正交約束，使得目標(biāo)模型仍然位于某個(gè)由自動(dòng)選定的基任務(wù)所生

2、成的低維子空間中。最終的優(yōu)化目標(biāo)被表示為對(duì)于子空間和目標(biāo)模型的聯(lián)合優(yōu)化函數(shù)。除了提供算法的理論分析和證明外，與多個(gè)優(yōu)秀算法的比較實(shí)驗(yàn)也證明了該方法的有效性和高效性。
　　其次，考慮同時(shí)存在任務(wù)聚類和異常任務(wù)情況下，本文提出了一種魯棒的多任務(wù)學(xué)習(xí)算法。與通常采用分解方式的魯棒多任務(wù)學(xué)習(xí)算法不同，本文直接對(duì)目標(biāo)模型采用了混合e11/e21范數(shù)的正則化項(xiàng)，并將優(yōu)化目標(biāo)表示為一個(gè)無約束的非平滑凸優(yōu)化問題。為了可以更有效地求解目標(biāo)函數(shù)，本文

3、針對(duì)上述模型提出了兩種優(yōu)化策略:重加權(quán)最小二乘法和加速近端梯度下降算法。嚴(yán)格的泛化性能分析和大量的實(shí)驗(yàn)證明了算法的有效性。
　　最后，本文將多任務(wù)學(xué)習(xí)算法應(yīng)用于區(qū)分細(xì)分子類的細(xì)粒度圖像分類問題。通過將每個(gè)類的分類器學(xué)習(xí)看成是多任務(wù)學(xué)習(xí)的一個(gè)任務(wù)，多類分類分類器的學(xué)習(xí)就可以轉(zhuǎn)化為同時(shí)訓(xùn)練多個(gè)分類器的多任務(wù)學(xué)習(xí)問題。為了能夠同時(shí)自動(dòng)地發(fā)現(xiàn)相似類別的聚類和異常類別，本文提出使用混合e11/e21范數(shù)正則化的分類問題，并證明可以通過迭代優(yōu)