基于模糊測(cè)試的加密協(xié)議漏洞挖掘方法研究.pdf

1、21世紀(jì)是信息化、網(wǎng)絡(luò)化的時(shí)代,通過(guò)網(wǎng)絡(luò)而進(jìn)行的信息交換越來(lái)越多,軟件中所出現(xiàn)的漏洞也層出不窮,出于安全考慮,越來(lái)越多的軟件都對(duì)網(wǎng)絡(luò)協(xié)議進(jìn)行了加密,惡意軟件也通過(guò)協(xié)議加密來(lái)阻止安全人員的逆向分析。加密協(xié)議格式逆向解析有助于軟件分析,也是漏洞挖掘的基礎(chǔ);而漏洞挖掘不僅暗含商業(yè)價(jià)值,也有助于保障信息安全。然而,當(dāng)前加密協(xié)議格式逆向技術(shù)尚不成熟,加密協(xié)議漏洞挖掘幾乎空白,所以具有廣袤的探索空間。
　　分析加密協(xié)議格式,首先需要找到解密函

2、數(shù),然后再找到解密后明文緩沖區(qū),最后分析明文格式。已有的研究成果在解密函數(shù)的篩選方面有很大的不足,針對(duì)這些不足,一方面對(duì)原有的篩選方式進(jìn)行了改進(jìn),通過(guò)使用動(dòng)態(tài)污點(diǎn)跟蹤還有函數(shù)代碼片段合并,大大減少了疑似解密函數(shù)的數(shù)量;另一方面提出了相關(guān)度和計(jì)算強(qiáng)度這兩個(gè)新的篩選方式。相關(guān)度用來(lái)排除與輸入數(shù)據(jù)相關(guān)度小的非解密函數(shù),計(jì)算強(qiáng)度用來(lái)排除邏輯簡(jiǎn)單的非解密函數(shù)。使用這兩個(gè)新的篩選方法后,可以大大減少疑似函數(shù)的數(shù)量并降低誤報(bào)。
　　加密協(xié)議格式

3、逆向一方面指出了解密后明文緩沖區(qū)所在的位置,另一方面提供了明文數(shù)據(jù)格式。在此基礎(chǔ)上,將內(nèi)存模糊測(cè)試方法應(yīng)用到加密協(xié)議的測(cè)試上,依據(jù)逆向解析的數(shù)據(jù)格式,對(duì)解密后的明文緩沖區(qū)進(jìn)行內(nèi)存模糊測(cè)試,實(shí)現(xiàn)了一種加密協(xié)議漏洞挖掘的方法。
　　在已有動(dòng)態(tài)污點(diǎn)跟蹤平臺(tái)上實(shí)現(xiàn)了解密函數(shù)定位系統(tǒng),在pydbg上實(shí)現(xiàn)了加密協(xié)議模糊測(cè)試系統(tǒng)。為了測(cè)試解密函數(shù)定位方法的效果,使用原有方法和改進(jìn)后的方法對(duì)部分聊天軟件、翻墻軟件進(jìn)行了測(cè)試和對(duì)比分析,測(cè)試結(jié)果表明