分布式非凸正則化方法研究.pdf

1、隨著信息技術(shù)的飛速發(fā)展，在經(jīng)濟(jì)學(xué)、生物信息學(xué)、社會(huì)科學(xué)和醫(yī)學(xué)等諸多領(lǐng)域中對(duì)海量、高維數(shù)據(jù)的采集成為可能.由于這些數(shù)據(jù)量級(jí)過大，如何對(duì)其進(jìn)行存儲(chǔ)、整理并開展進(jìn)一步的數(shù)據(jù)分析均面臨著巨大的挑戰(zhàn).數(shù)據(jù)存儲(chǔ)通常采用分布式方式，通過將數(shù)據(jù)集按某種規(guī)則分割，或者按數(shù)據(jù)流的方式存儲(chǔ)于不同的機(jī)器，實(shí)現(xiàn)數(shù)據(jù)量過大時(shí)的存儲(chǔ)問題.一個(gè)自然的問題是，現(xiàn)有的機(jī)器學(xué)習(xí)算法是否適用于分布式存儲(chǔ)的數(shù)據(jù).近年來，基于稀疏先驗(yàn)的正則化方法是對(duì)高維數(shù)據(jù)進(jìn)行特征提取和變量選擇

2、的主要研究工具之一，但是這類方法往往都基于單機(jī)存儲(chǔ)和處理.因此，如何開展針對(duì)分布式存儲(chǔ)的數(shù)據(jù)分析是目前機(jī)器學(xué)習(xí)和統(tǒng)計(jì)學(xué)的主要工作之一.本文推廣現(xiàn)有的稀疏正則化方法，使其適合于分析處理分布式存儲(chǔ)數(shù)據(jù).
　　本文各章內(nèi)容安排如下:
　　第一章中簡單敘述研究分布式非凸正則化方法的意義以及相關(guān)研究背景.
　　第二章中提出分布式SCAD方法.基于ADMM算法提出分布式SCAD算法，并證明了算法的收斂性.實(shí)驗(yàn)表明，分布式SCAD算