深度時(shí)空推理網(wǎng)絡(luò)中的相變現(xiàn)象及其抗噪性能研究.pdf

1、相變現(xiàn)象在自然界中普遍存在，在計(jì)算機(jī)科學(xué)和人工智能領(lǐng)域也是如此?，F(xiàn)有的研究表明，相變的發(fā)生與求解問題的解的結(jié)構(gòu)有著密切的關(guān)系。因此對相變現(xiàn)象進(jìn)行研究的意義在于，其研究結(jié)果對于設(shè)計(jì)有效的求解工具和方法具有指導(dǎo)意義。
　　近年受到極大關(guān)注的深度學(xué)習(xí)網(wǎng)絡(luò)，在不同的領(lǐng)域都展現(xiàn)出令人驚訝的能力，然而如何進(jìn)一步提高這些連接主義計(jì)算模型在高噪聲情況下的性能，仍有很多工作有待完成。
　　本文以深度時(shí)空網(wǎng)絡(luò)推理網(wǎng)絡(luò)為研究對象，針對其對不同類型

2、噪聲的反應(yīng)，開展了有關(guān)相變及其應(yīng)用的研究工作。我們的目的是從研究深度網(wǎng)絡(luò)的相變現(xiàn)象產(chǎn)生機(jī)理人手，明確其定量刻畫指標(biāo)，從而提高深度時(shí)空網(wǎng)絡(luò)的抗噪和容錯(cuò)能力，以進(jìn)一步拓寬其應(yīng)用領(lǐng)域。
　　研究的貢獻(xiàn)可以總結(jié)為如下三點(diǎn):
　　1、通過對深度時(shí)空推理網(wǎng)絡(luò)進(jìn)行理論分析，給出了相關(guān)相變發(fā)生的定量刻畫方法。提出當(dāng)聚類中心的信念值變化超過變異系數(shù)k時(shí)，這種深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)的識別率會(huì)發(fā)生相變現(xiàn)象。
　　2、從兩組不同的實(shí)驗(yàn)出發(fā)驗(yàn)證上述推

3、理的正確性。
　　3、根據(jù)分析得到的原因，分別提出兩種方法來提高深度時(shí)空推理網(wǎng)絡(luò)的抗噪性能。第一種方法是采用傳統(tǒng)濾波降噪的方法，對網(wǎng)絡(luò)的聚類操作進(jìn)行優(yōu)化和改進(jìn)。第二種方法是利用遷移學(xué)習(xí)的思想，通過深入挖掘已經(jīng)得到的圖像特征，利用已有的數(shù)據(jù)知識對測試數(shù)據(jù)中的聚類操作進(jìn)行優(yōu)化和調(diào)整，從而提高目標(biāo)網(wǎng)絡(luò)的抗噪能力。
　　對兩種優(yōu)化方案進(jìn)行對比，實(shí)驗(yàn)證明后者能夠更加有效的提高網(wǎng)絡(luò)對噪聲的魯棒性。在同等噪聲程度下，深度時(shí)空推理網(wǎng)絡(luò)的識別