矩陣補(bǔ)全的模型、算法和應(yīng)用研究.pdf

1、當(dāng)矩陣的元素有未知或缺失的情況下，矩陣補(bǔ)全(Matrix Completion，簡記為:MC)就是根據(jù)已知元素估計(jì)未知元素，從而把矩陣恢復(fù)完整的過程.目前矩陣補(bǔ)全已廣泛應(yīng)用于機(jī)器學(xué)習(xí)，工程控制，圖像和視頻處理.一般情況下，如果不對矩陣的特性做任何假設(shè)，則矩陣缺失的元素可以取任何值，矩陣補(bǔ)全在理論上是不可能唯一實(shí)現(xiàn)的.但是如果對矩陣的特性做一些假設(shè)，例如低秩，則矩陣補(bǔ)全的解就是唯一的.
　　本文主要研究矩陣補(bǔ)全的一些模型，算法和應(yīng)用

2、.全文共分六章.首先在第一章，我們簡要介紹矩陣補(bǔ)全的模型，一些經(jīng)典算法，研究背景，意義和現(xiàn)狀，并概述了本文的主要工作.
　　第二章，在線性規(guī)劃的系數(shù)矩陣存在信息缺失且已知元素不精確的情況下，我們給出了一個(gè)新的基于矩陣補(bǔ)全的魯棒線性優(yōu)化模型和算法.線性規(guī)劃目前已廣泛應(yīng)用于投入產(chǎn)出分析中，用于分析經(jīng)濟(jì)和環(huán)境科學(xué)中行業(yè)之間的相互依存關(guān)系.在這些應(yīng)用中，系數(shù)矩陣的一些元素?zé)o法測量到，即使能測量到也會存在取樣誤差.因?yàn)橄禂?shù)矩陣在一般情況下是

3、低秩的，所以我們可以用核范數(shù)來描述不確定性集合，得到線性規(guī)劃問題的魯棒模型.基于交替乘子法，我們設(shè)計(jì)了一種快速求解算法.在一些隨機(jī)例子和合成例子上的數(shù)值實(shí)驗(yàn)結(jié)果表明我們的模型和算法是很有效的.
　　第三章，我們給出了矩陣補(bǔ)全的三種新的非凸模型和相應(yīng)的算法，它們是為信息缺失條件下的高維協(xié)方差矩陣估計(jì)設(shè)計(jì)的.協(xié)方差矩陣在風(fēng)險(xiǎn)管理，資產(chǎn)定價(jià)，資本配置等應(yīng)用領(lǐng)域發(fā)揮著重要的作用.在高維條件下，即在矩陣的維數(shù)趨近于或大于樣本的數(shù)目時(shí)，協(xié)方差

4、矩陣估計(jì)就變得非常困難了.一種廣泛使用的降維方法是多因子模型.基于多因子模型的高維協(xié)方差矩陣估計(jì)方法具有很快的收斂速度，在一些應(yīng)用中輸出的協(xié)方差矩陣具有很高的精度.但是由于技術(shù)和花費(fèi)方面的原因，因子矩陣中有大量的信息無法通過調(diào)查得到.在因子矩陣存在信息缺失條件下，基于多因子模型的高維協(xié)方差矩陣估計(jì)的協(xié)方差矩陣的質(zhì)量就會衰退.因?yàn)橐蜃泳仃囃菨M秩的，目前已有的矩陣補(bǔ)全的方法不能直接應(yīng)用到高維協(xié)方差矩陣估計(jì)中.本章我們給出了新的矩陣補(bǔ)全的

5、非凸模型，并應(yīng)用交替方向乘子法進(jìn)行求解.數(shù)值實(shí)驗(yàn)表明，已有的基于核范數(shù)的凸的矩陣補(bǔ)全方法不能直接用來估計(jì)信息缺失條件下的高維協(xié)方差矩陣，而我們提出的非凸模型和算法可以給出非常令人滿意的結(jié)果.
　　第四章，我們給出了非負(fù)矩陣補(bǔ)全的兩個(gè)模型和相應(yīng)的算法.生命周期評價(jià)(LCA)和投入產(chǎn)出分析(IOA)是兩種數(shù)據(jù)密集型(data-intensive)方法，這兩種方法的可靠性和應(yīng)用性非常依賴于數(shù)據(jù)的質(zhì)量.但是由于技術(shù)和花費(fèi)方面的原因，并不是

6、所有的數(shù)據(jù)可以通過調(diào)查得到.但是，在生命周期評價(jià)中生產(chǎn)相似商品的過程往往具有相似的數(shù)據(jù)結(jié)構(gòu).而在投入產(chǎn)出分析中，歷史調(diào)查年份的部門和目標(biāo)年份的部門具有相似的投入結(jié)構(gòu).這些結(jié)論表明了生命周期評價(jià)和投入產(chǎn)出分析中的技術(shù)矩陣往往具有低秩或近似低秩的結(jié)構(gòu)，這種結(jié)構(gòu)促使我們應(yīng)用低秩矩陣補(bǔ)全的技術(shù)來補(bǔ)全缺失的信息.如果我們忽略生命周期評價(jià)和投入產(chǎn)出分析中少量的副產(chǎn)品，技術(shù)矩陣應(yīng)該是非負(fù)的.本章我們分別針對已知數(shù)據(jù)有噪聲和無噪聲的情況提出了一種非負(fù)矩

7、陣補(bǔ)全的模型，它們都可以用交替方向乘子法進(jìn)行求解.“Ecoinvent”數(shù)據(jù)庫中存在大量的數(shù)據(jù)缺失，因此我們把提出的模型和算法應(yīng)用到生命周期評價(jià)廣泛使用的“Ecoinvent”數(shù)據(jù)庫.數(shù)值結(jié)果顯示新算法是非常有效的.
　　第五章，我們針對第四章提出的帶非負(fù)約束的核范數(shù)正則化最小二乘模型設(shè)計(jì)了另外三種快速算法.非負(fù)矩陣補(bǔ)全根據(jù)矩陣的一些已知元素尋找一個(gè)非負(fù)且低秩矩陣的過程.非負(fù)矩陣補(bǔ)全可以通過求解帶非負(fù)約束的核范數(shù)正則化最小二乘模型

8、進(jìn)行.我們可以應(yīng)用交替方向乘子法求解此模型.引入分離變量的方式不同，我們可以得到完全不同的算法.其中兩種算法是基于交替方向乘子法的精確算法，每個(gè)子問題都可以精確求解.第三種算法也是基于交替方向乘子法，但其中一個(gè)子問題通過Forward-backward分裂方法近似求解，得到了一種非精確算法.我們在兩類問題上測試新提出的三種算法，分別是隨機(jī)矩陣補(bǔ)全例子和隨機(jī)近似低秩例子.數(shù)值結(jié)果表明我們的算法都是非常有效的.
　　第六章，總結(jié)了本文