松弛約束非負矩陣分解算法研究.pdf

1、非負矩陣分解是一種新興的能夠保持?jǐn)?shù)據(jù)非負性的非監(jiān)督機器學(xué)習(xí)技術(shù)。傳統(tǒng)的非負矩陣分解算法實現(xiàn)非負約束主要有兩種方法。第一種方法只在迭代過程中使用矩陣乘法、矩陣加法、矩陣點乘和矩陣點除這四種能夠保持矩陣非負性的矩陣運算，從而整個迭代算法也是可保持非負性的。這類算法普遍存在收斂速度慢或重構(gòu)誤差大的問題。第二種算法允許數(shù)值計算過程中自由使用各種矩陣運算。對于出現(xiàn)的負元素，這類算法需要強制添加一步非負化的操作，比如將出現(xiàn)的負元素投影為0。投影操作

2、會使收斂性的理論分析變得復(fù)雜，甚至導(dǎo)致算法的失去穩(wěn)定性。
　　針對傳統(tǒng)非負矩陣分解算法在數(shù)值計算的每次迭代中強制非負約束而帶來的種種問題，本文提出了兩種全新的NMF算法：松弛約束非負矩陣分解算法和弱約束非負矩陣分解算法。
　　松弛約束非負矩陣分解算法是一種在數(shù)值計算之后再實現(xiàn)非負約束的算法。該算法把非負矩陣分解問題拆分松弛問題和約束問題。在松弛階段，不考慮非負約束，先在實數(shù)范圍內(nèi)求解出一組矩陣分解；在約束階段，再通過適當(dāng)?shù)姆?/p>

3、法將這組實數(shù)分解轉(zhuǎn)化為非負分解。通過這樣兩步來完成非負矩陣分解。對于松弛階段，本文提出了自適應(yīng)松弛約束非負矩陣分解算法，并證明了算法的收斂性。對于約束階段，本文在給出了兩個實數(shù)矩陣可非負化的判定條件；對秩為2的情況，設(shè)計了非負化算法；對秩大于2的情況，給出了近似非負化算法。
　　弱約束非負矩陣分解算法是一種對數(shù)值求解的單次迭代沒有強制的非負性要求、而是在整個求解過程中逐漸實現(xiàn)非負性約束的一種新型非負矩陣分解算法。通過引入非負約束強