ds證據(jù)理論相關(guān)內(nèi)

1、D-S證據(jù)理論相關(guān)內(nèi)容整理,,信息熵,Shannon 借鑒了熱力學(xué)的概念，把信息中排除了冗余后的平均信息量稱為“信息熵”，并給出了計(jì)算信息熵的數(shù)學(xué)表達(dá)式。香農(nóng)用信息熵的概念來描述信源的不確定度。,信息熵,所謂信息熵，是一個(gè)數(shù)學(xué)上頗為抽象的概念，在這里不妨把信息熵理解成某種特定信息的出現(xiàn)概率。而信息熵和熱力學(xué)熵是緊密相關(guān)的。根據(jù)Charles H. Bennett對(duì)Maxwell's Demon的重新解釋，對(duì)信息的銷毀是一個(gè)不可

2、逆過程，所以銷毀信息是符合熱力學(xué)第二定律的。而產(chǎn)生信息，則是為系統(tǒng)引入負(fù)（熱力學(xué)）熵的過程。所以信息熵的符號(hào)與熱力學(xué)熵應(yīng)該是相反的。,信息熵,一般而言，當(dāng)一種信息出現(xiàn)概率更高的時(shí)候，表明它被傳播得更廣泛，或者說，被引用的程度更高。我們可以認(rèn)為，從信息傳播的角度來看，信息熵可以表示信息的價(jià)值。,信息熵,計(jì)算公式H(x) = E[I(xi)] = E[ log(2,1/p(xi)) ] = -∑p(xi)log(2,p(xi)) (i=1

3、,2,..n)其中，x表示隨機(jī)變量，與之相對(duì)應(yīng)的是所有可能輸出的集合，定義為符號(hào)集,隨機(jī)變量的輸出用x表示。P(x)表示輸出概率函數(shù)。變量的不確定性越大，熵也就越大，把它搞清楚所需要的信息量也就越大.,信息熵的特點(diǎn),變量的不確定性越大，熵也就越大，把它搞清楚所需要的信息量也就越大。信息熵是信息論中用于度量信息量的一個(gè)概念。一個(gè)系統(tǒng)越是有序，信息熵就越低；反之，一個(gè)系統(tǒng)越是混亂，信息熵就越高。所以，信息熵也可以說是系統(tǒng)有序化程度的一

4、個(gè)度量。熵的概念源自熱物理學(xué)。,信息熵,信息熵的計(jì)算是非常復(fù)雜的。而具有多重前置條件的信息，更是幾乎不能計(jì)算的。所以在現(xiàn)實(shí)世界中信息的價(jià)值大多是不能被計(jì)算出來的。但因?yàn)樾畔㈧睾蜔崃W(xué)熵的緊密相關(guān)性，所以信息熵是可以在衰減的過程中被測(cè)定出來的。因此信息的價(jià)值是通過信息的傳遞體現(xiàn)出來的。在沒有引入附加價(jià)值（負(fù)熵）的情況下，傳播得越廣、流傳時(shí)間越長(zhǎng)的信息越有價(jià)值。熵首先是物理學(xué)里的名詞。在傳播中是指信息的不確定性，一則高信息度的信息熵是

5、很低的,低信息度的熵則高。具體說來，凡是導(dǎo)致隨機(jī)事件集合的肯定性，組織性，法則性或有序性等增加或減少的活動(dòng)過程，都可以用信息熵的改變量這個(gè)統(tǒng)一的標(biāo)尺來度量。,知識(shí)融合,知識(shí)融合是在信息融合基礎(chǔ)上發(fā)展起來的一個(gè)新的融合概念,它的提出是知識(shí)以及知識(shí)管理等技術(shù)快速發(fā)展的結(jié)果.知識(shí)融合是知識(shí)管理的一個(gè)重要工具,它的融合對(duì)象不局限于傳感器獲取的數(shù)據(jù)和信息,而是可拓廣到各種方法、專家經(jīng)驗(yàn)、甚至思想等等.,知識(shí)融合,知識(shí)融合是來自不同知識(shí)源的知識(shí),相

6、互作用和支持,形成新知識(shí)的過程.,ZETA評(píng)分模型概述,ZETA信用風(fēng)險(xiǎn)模型（ZETA Credit Risk Model）是繼Z模型后的第二代信用評(píng)分模型 ，變量由原始模型的五個(gè)增加到了7個(gè)，適應(yīng)范圍更寬，對(duì)不良借款人的辨認(rèn)精度也大大提高。,logistic回歸,logistic回歸又稱logistic回歸分析，是一種廣義的線性回歸分析模型，常用于數(shù)據(jù)挖掘，疾病自動(dòng)診斷，經(jīng)濟(jì)預(yù)測(cè)等領(lǐng)域。例如，探討引發(fā)疾病的危險(xiǎn)因素，并根據(jù)危

7、險(xiǎn)因素預(yù)測(cè)疾病發(fā)生的概率等。以胃癌病情分析為例，選擇兩組人群，一組是胃癌組，一組是非胃癌組，兩組人群必定具有不同的體征與生活方式等。因此因變量就為是否胃癌，值為“是”或“否”，自變量就可以包括很多了，如年齡、性別、飲食習(xí)慣、幽門螺桿菌感染等。自變量既可以是連續(xù)的，也可以是分類的。然后通過logistic回歸分析，可以得到自變量的權(quán)重，從而可以大致了解到底哪些因素是胃癌的危險(xiǎn)因素。同時(shí)根據(jù)該權(quán)值可以根據(jù)危險(xiǎn)因素預(yù)測(cè)一個(gè)人患癌癥的可能性。,

8、D-S證據(jù)組合理論,D-S(Dempster-Shafer)證據(jù)組合理論是由De-mpster[2]于1967年首先提出,再由Shafer[3]于1976年進(jìn)一步發(fā)展和完善而形成的結(jié)果.利用證據(jù)理論作為融合方法,就是通過不同觀測(cè)結(jié)果的信任函數(shù),利用Dempster證據(jù)組合規(guī)則將之融合,再根據(jù)一定的規(guī)則對(duì)組合后的信任函數(shù)進(jìn)行判斷,最終實(shí)現(xiàn)融合和決策選擇.,D-S證據(jù)理論,D-S證據(jù)理論是關(guān)于證據(jù)和可能性推理的理論.它主要處理證據(jù)加權(quán)和證據(jù)

9、支持度問題,并且利用可能性推理來實(shí)現(xiàn)證據(jù)的組合.從數(shù)學(xué)角度來講,證據(jù)理論是概率論的一種推廣.對(duì)應(yīng)于概率論中的分布函數(shù)和概率密度分函數(shù),D-S證據(jù)理論中定義了信任函數(shù)和基本概率分配.,D-S證據(jù)理論中的相關(guān)概念,1.識(shí)別框架Θ --------可以看做是可能性的集合2. 2Θ為Θ的所有子集的集合.3.信任函數(shù)BEL--------表示對(duì)可能性的信任程度4.基本概率分配m5.似然函數(shù)-------------表示對(duì)可能性的懷疑程程