非高斯隨機系統(tǒng)的殘差分布和熵的研究與分析.pdf

1、狀態(tài)空間模型是一類應(yīng)用范圍很廣而且實用性很強的統(tǒng)計模型,在一定假設(shè)條件下,由狀態(tài)空間模型導(dǎo)出的各類Kalman濾波和平滑可以應(yīng)用到模型推斷的各個方面,因此,狀態(tài)空間模型對參數(shù)估計、檢驗以及預(yù)測和更新等推斷問題的處理存在著很大的優(yōu)勢。本文重點研究了基于線性狀態(tài)空間模型的高斯和非高斯隨機動態(tài)系統(tǒng)的推斷問題,具體包括以下四個方面:
　　1.在線性時變控制系統(tǒng)中,當隨機噪聲(輸入噪聲和觀測噪聲)為高斯時,經(jīng)典Kalman濾波理論是一種線性

2、遞推濾波方法,并且借助系統(tǒng)的狀態(tài)估值和當前時刻的觀測值遞推新的狀態(tài)估值,本文給出了Kalman濾波算法并且通過仿真實驗實現(xiàn)其算法。對于隨機噪聲為非高斯時,本文通過仿真實驗進行比較,檢測Kalman濾波的結(jié)果。
　　2.本文針對傳統(tǒng)的極大似然參數(shù)估計方法在解決實際問題時所存在的不足,引入了EM算法。討論了EM算法原理和實施步驟,并把EM算法推廣到狀態(tài)空間模型的參數(shù)估計問題,然后推導(dǎo)了基于卡爾曼平滑和EM算法的狀態(tài)空間模型參數(shù)估計的過

3、程,仿真實驗也表明EM算法用于狀態(tài)空間模型參數(shù)估計,其估計結(jié)果還是不錯的。
　　3.本文首先介紹了離散信源的信息熵,在此基礎(chǔ)上,其中介紹信息熵相關(guān)背景和它的基本特性。接著重點闡述了連續(xù)信源的差熵與離散信源的信息熵之間的聯(lián)系和區(qū)別。最后推導(dǎo)了服從高斯分布的隨機變量的熵,明確得出了高斯隨機矢量的熵的大小取決于協(xié)方差矩陣的大小的結(jié)論。
　　4.在非高斯線性時變控制系統(tǒng)中,本文通過控制濾波器輸出殘差或狀態(tài)估計誤差的條件概率密度函數(shù)形