最優(yōu)低秩相關(guān)系數(shù)矩陣問題.pdf

1、本文主要研究最優(yōu)低秩相關(guān)系數(shù)矩陣問題及與其相關(guān)的兩類問題:帶簡(jiǎn)單上界約束的最優(yōu)相關(guān)系數(shù)矩陣問題和具有因子結(jié)構(gòu)的最優(yōu)相關(guān)系數(shù)矩陣問題.
　　 最優(yōu)低秩相關(guān)系數(shù)矩陣問題來源于金融領(lǐng)域,在組合優(yōu)化、機(jī)器學(xué)習(xí)、數(shù)據(jù)分析等方面也有重要應(yīng)用.目前已經(jīng)有很多方法可以來求解它.其中,優(yōu)化算法是很受歡迎的一種方法.在本文的第二章到第四章中,我們將提出序列半光滑牛頓算法.由于該問題是一個(gè)非凸約束優(yōu)化問題,為了處理非凸的秩約束條件,在第二章中,我們首

2、先將原問題轉(zhuǎn)化為一個(gè)等價(jià)的非線性半定規(guī)劃問題(NSDPr).這主要是基于一個(gè)著名的結(jié)果:對(duì)稱矩陣的前r個(gè)最大特征值之和可以寫成一個(gè)半定規(guī)劃問題.(NSDPr)也是一個(gè)非凸優(yōu)化問題,它含有兩個(gè)矩陣變量和三個(gè)對(duì)稱半正定錐約束.為避免直接求解,我們通過求解一系列最小二乘子問題來求解(NSDPr),稱之為外層算法.我們證明,外層算法產(chǎn)生的點(diǎn)列收斂于問題(NSDPr)的穩(wěn)定點(diǎn).在第三章中針對(duì)每一個(gè)最小二乘子問題,我們?cè)O(shè)計(jì)了半光滑牛頓算法,稱為內(nèi)層

3、算法.內(nèi)層算法可以快速有效地求解子問題,而且我們證明它具有二次收斂速度.值得指出的是,該算法的關(guān)鍵在于兩個(gè)方面.第一是秩約束的連續(xù)等價(jià)變換,第二是采用半光滑牛頓法求解子問題的最小二乘形式.第四章的大量數(shù)值結(jié)果表明,所提出的序列半光滑牛頓算法在求解該問題時(shí)非常有效.
　　 本文的另一個(gè)研究?jī)?nèi)容是最優(yōu)相關(guān)系數(shù)矩陣問題.我們研究帶簡(jiǎn)單上界約束的最優(yōu)相關(guān)系數(shù)矩陣問題.簡(jiǎn)單上界約束出現(xiàn)在很多實(shí)際問題中,例如具有給定條件數(shù)的最優(yōu)相關(guān)系數(shù)矩陣

4、問題,秩約束問題中尋找搜索方向矩陣問題等.在第五章中,我們對(duì)Qi和Sun提出的半光滑牛頓法加以改進(jìn),用于求解此問題,并對(duì)問題的非退化性進(jìn)行了深入分析.我們證明在某些情形下,非退化性并不成立.通過建立非退化性和對(duì)偶問題的廣義Hessian陣的對(duì)稱正定性的等價(jià)關(guān)系,我們證明算法的二次收斂性.數(shù)值結(jié)果表明,盡管非退化性在某些情形下不成立,本文所提出的算法(即使對(duì)大規(guī)模問題)仍然非常有效.
　　 在第六章中我們研究另一類秩約束問題:具有