多個體網絡分布式無梯度優(yōu)化算法研究.pdf

1、多個體網絡是由多個具有自主工作能力的個體通過局部信息耦合而形成的大規(guī)模網絡化系統，其魯棒性較強，網絡中任何一個個體出現故障并不影響整個網絡的正常運行，并具有節(jié)約成本等優(yōu)點。所以多個體網絡在研究人工智能、生物學、自動化、大數據等方面具有廣泛的應用。以往的多個體網絡分布式優(yōu)化算法是在目標函數是凸函數的情況下利用次梯度方法解決該類問題的，但是對于目標函數非凸的時候，也就是次梯度不存在或其次梯度計算比較復雜繁瑣的情形下，次梯度算法將不再適用。本

2、文主要研究目標函數非凸時，或其次梯度不存在時通過應用無梯度算法來計算多個體網絡分布式優(yōu)化問題。此外，隨著通信技術的發(fā)展，數字通信已慢慢取代模擬通信而被廣泛應用到各個領域，例如多個體網絡的一致性、分布式估計等。由于網絡帶寬有限，數字通信技術一般通過量化編碼將模擬信息轉化為數字信息，然后經由數字信號通道進行通訊。因此，信息量化這一現實問題是不可忽略的。通常情況下，人們將信息量化分為概率量化和確定性量化，而概率量化相對于確定性量化具有量化誤差

3、期望為零的優(yōu)點。但隨機因素的引入，使網絡中個體僅能達到概率意義下的收斂。本文正是在目標函數非凸次梯度不存在或次梯度計算過程過于復雜時，以及信息傳遞過程中存在限制問題進行研究討論?，F將本文主要內容分為以下幾個部分:
　　一、在個體狀態(tài)具有約束集限制的前提下，針對目標函數非凸或者其次梯度計算過于繁瑣時，提出分布式隨機投影無梯度優(yōu)化算法來求解這類問題的最優(yōu)解。首先，假定整個網絡的優(yōu)化目標函數可分解成所有個體的目標函數之和，并且網絡中的每

4、個個體僅知道其自身目標函數及其自身的狀態(tài)約束集。然后，通過運用無梯度優(yōu)化算法解決因個體目標函數非凸而引起的次梯度無法計算或者次梯度計算比較復雜繁瑣的問題，并結合隨機投影算法解決了約束集未知或約束集投影運算受限的問題。最后，證明了在有約束集的情形下，在提出算法的作用下，所有個體狀態(tài)幾乎必然收斂到優(yōu)化集內，且網絡目標函數能夠達到最優(yōu)。
　　二、在網絡拓撲固定條件下，考慮概率量化對多個體網絡分布式優(yōu)化算法收斂性的影響。由于現實生活中的數

5、字信道通常具有有限的帶寬，這樣必定限制了數據信息的傳遞與交流。而數字信道已逐步取代模擬信道進行通信。因此，有學者提出了量化的概念:通過量化編碼的方法將模擬信道轉化為數字信道。本文在假定個體間的量化方式是概率量化的前提下，網絡中每個個體僅知道其自身的目標函數，而且僅與其鄰居個體進行信息量化通訊的情況下，通過應用概率量化分布式無梯度優(yōu)化算法使得所有個體幾乎一致收斂且整個網絡目標函數達到最優(yōu)。并進一步探究概率量化后對網絡優(yōu)化性能的影響。證明了