非高斯隨機(jī)系統(tǒng)的殘差分布和熵的研究與分析.pdf

1、狀態(tài)空間模型是一類應(yīng)用范圍很廣而且實(shí)用性很強(qiáng)的統(tǒng)計(jì)模型,在一定假設(shè)條件下,由狀態(tài)空間模型導(dǎo)出的各類Kalman濾波和平滑可以應(yīng)用到模型推斷的各個(gè)方面,因此,狀態(tài)空間模型對(duì)參數(shù)估計(jì)、檢驗(yàn)以及預(yù)測(cè)和更新等推斷問(wèn)題的處理存在著很大的優(yōu)勢(shì)。本文重點(diǎn)研究了基于線性狀態(tài)空間模型的高斯和非高斯隨機(jī)動(dòng)態(tài)系統(tǒng)的推斷問(wèn)題,具體包括以下四個(gè)方面:
　　1.在線性時(shí)變控制系統(tǒng)中,當(dāng)隨機(jī)噪聲(輸入噪聲和觀測(cè)噪聲)為高斯時(shí),經(jīng)典Kalman濾波理論是一種線性

2、遞推濾波方法,并且借助系統(tǒng)的狀態(tài)估值和當(dāng)前時(shí)刻的觀測(cè)值遞推新的狀態(tài)估值,本文給出了Kalman濾波算法并且通過(guò)仿真實(shí)驗(yàn)實(shí)現(xiàn)其算法。對(duì)于隨機(jī)噪聲為非高斯時(shí),本文通過(guò)仿真實(shí)驗(yàn)進(jìn)行比較,檢測(cè)Kalman濾波的結(jié)果。
　　2.本文針對(duì)傳統(tǒng)的極大似然參數(shù)估計(jì)方法在解決實(shí)際問(wèn)題時(shí)所存在的不足,引入了EM算法。討論了EM算法原理和實(shí)施步驟,并把EM算法推廣到狀態(tài)空間模型的參數(shù)估計(jì)問(wèn)題,然后推導(dǎo)了基于卡爾曼平滑和EM算法的狀態(tài)空間模型參數(shù)估計(jì)的過(guò)

3、程,仿真實(shí)驗(yàn)也表明EM算法用于狀態(tài)空間模型參數(shù)估計(jì),其估計(jì)結(jié)果還是不錯(cuò)的。
　　3.本文首先介紹了離散信源的信息熵,在此基礎(chǔ)上,其中介紹信息熵相關(guān)背景和它的基本特性。接著重點(diǎn)闡述了連續(xù)信源的差熵與離散信源的信息熵之間的聯(lián)系和區(qū)別。最后推導(dǎo)了服從高斯分布的隨機(jī)變量的熵,明確得出了高斯隨機(jī)矢量的熵的大小取決于協(xié)方差矩陣的大小的結(jié)論。
　　4.在非高斯線性時(shí)變控制系統(tǒng)中,本文通過(guò)控制濾波器輸出殘差或狀態(tài)估計(jì)誤差的條件概率密度函數(shù)形