在線學(xué)習(xí)算法研究與應(yīng)用.pdf

1、隨著信息技術(shù)的飛速發(fā)展和互聯(lián)網(wǎng)應(yīng)用的日益普及，數(shù)據(jù)產(chǎn)生的速度越來越快。傳統(tǒng)的以批量數(shù)據(jù)處理為特點的離線學(xué)習(xí)算法無法適應(yīng)大數(shù)據(jù)場景下流式數(shù)據(jù)的特點。在線學(xué)習(xí)算法能夠持續(xù)不斷地接受數(shù)據(jù)，動態(tài)實時地更新模型，適合大規(guī)模和流式數(shù)據(jù)的處理受到了研究者的高度重視，是當(dāng)前機器學(xué)習(xí)領(lǐng)域的熱點問題之一。
　　在線學(xué)習(xí)算法的研究主要包括三個方面:(1)在線學(xué)習(xí)算法的理論分析;(2)在線學(xué)習(xí)算法應(yīng)用在不同的機器學(xué)習(xí)任務(wù)中;(3)在線學(xué)習(xí)算法的收斂速率。

2、本文圍繞上述問題，從理論分析到具體應(yīng)用對在線學(xué)習(xí)算法進行了比較系統(tǒng)的研究，一方面對已有算法的不足進行改進，一方面對若干未解問題提出新的解決方案。具體而言，本文的創(chuàng)新點如下:
　　1.ADMM(Alternating Direction Method of Multipliers)是一個通用的優(yōu)化框架，廣泛應(yīng)用于分布式機器學(xué)習(xí)的各種任務(wù)中。為了加速在線ADMM算法，將傳統(tǒng)的在線ADMM算法的遺憾度理論分析從基于輪次的分析拓展到基于梯

3、度變化的分析。論文針對兩種類型的在線ADMM學(xué)習(xí)算法(FTRL-ADMM和PGD-ADMM)，分別提出了改進的在線ADMM算法，并給出基于梯度變化的遺憾度分析，證明了提出的算法比已有的算法具有更緊湊的遺憾度上界。
　　2.ARIMA模型（Autoregressive integrated moving average）是時間序列預(yù)測中廣泛使用的線性模型。然而，現(xiàn)有的關(guān)于ARIMA模型的學(xué)習(xí)算法都是離線學(xué)習(xí)算法且噪音項必須滿足嚴(yán)格的

4、假設(shè)條件，這嚴(yán)重阻礙了ARIMA模型的通用性以及解決海量時間序列預(yù)測問題。因此，本文松弛了關(guān)于ARIMA模型噪音項的假設(shè)并提出了ARIMA模型的在線學(xué)習(xí)算法。通過理論分析證明了提出的ARIMA模型在線學(xué)習(xí)算法能夠趨近于最優(yōu)的ARIMA模型離線學(xué)習(xí)算法。在人工數(shù)據(jù)集和真實數(shù)據(jù)集上進行一系列的驗證，實驗結(jié)果證明了所提出的算法的效率和有效性。
　　3.近年來，通過在線學(xué)習(xí)求解非負(fù)矩陣分解任務(wù)的NN-PA算法在推薦系統(tǒng)的應(yīng)用上取得了巨大的

5、成功。為了加速NN-PA算法的收斂速度，論文提出了NN-APA算法，利用二階的梯度信息進行每輪更新，利用“專家學(xué)習(xí)”技術(shù)實現(xiàn)在線學(xué)習(xí)任務(wù)的參數(shù)自動調(diào)整。本文給出了新算法的理論分析，并證明了它比NN-PA算法收斂更快。在一系列關(guān)于推薦系統(tǒng)的數(shù)據(jù)集上進行了深度地實驗分析，進一步驗證了新算法的效率和效力。
　　4.協(xié)同主題回歸（Collaborative Topic Regression，簡稱CTR）模型結(jié)合了概率矩陣分解（probab

6、ilistic matrix factorization簡稱PMF）模型以及主題模型(topic modeling，例如LDA)，利用文本信息提升推薦的準(zhǔn)確率。盡管該模型在推薦領(lǐng)域取得了巨大的成功，然而現(xiàn)有的CTR模型推導(dǎo)算法bdi-CTR存在嚴(yán)重的缺陷。首先，bdi-CTR算法是離線算法，無法適應(yīng)流式的數(shù)據(jù)或者現(xiàn)實中的大數(shù)據(jù)場景;其次，bdi-CTR算法首先用LDA計算產(chǎn)品相關(guān)的主題表達，然后把該結(jié)果推送到PMF求解過程中，它忽略了P