模糊測(cè)試應(yīng)用于二進(jìn)制程序的漏洞發(fā)現(xiàn)方法研究.pdf

1、程序漏洞是網(wǎng)絡(luò)安全的根源問(wèn)題之一，如何快速發(fā)現(xiàn)程序漏洞是目前安全領(lǐng)域的一個(gè)研究熱點(diǎn)，特別是基于二進(jìn)制程序的漏洞發(fā)現(xiàn)技術(shù)研究由于其廣泛的適用性和難度更是目前研究的前沿領(lǐng)域。目前，已有的程序發(fā)現(xiàn)技術(shù)包括靜態(tài)分析技術(shù)、動(dòng)態(tài)分析技術(shù)和滲透測(cè)試技術(shù)，其中動(dòng)態(tài)分析技術(shù)中的模糊測(cè)試方法因?yàn)槠涓咝詢(xún)r(jià)比:簡(jiǎn)單的思想、出色的漏洞發(fā)現(xiàn)數(shù)量，成為安全研究人員和黑客使用最廣泛的漏洞發(fā)現(xiàn)技術(shù)。然而，傳統(tǒng)的模糊測(cè)試存在兩個(gè)關(guān)鍵問(wèn)題:(1)生成的測(cè)試數(shù)據(jù)質(zhì)量不高，表現(xiàn)

2、為測(cè)試深度和廣度不夠(2)漏洞確認(rèn)階段需要大量的人工參與。
　　針對(duì)模糊測(cè)試的數(shù)據(jù)生成問(wèn)題，本文將其歸約為邏輯領(lǐng)域的公式可滿(mǎn)足性問(wèn)題，使用動(dòng)態(tài)符號(hào)執(zhí)行作為歸約實(shí)現(xiàn)手段。本文基于中間語(yǔ)言BIL介紹了動(dòng)態(tài)符號(hào)執(zhí)行用于測(cè)試數(shù)據(jù)生成的基本理論和作為動(dòng)態(tài)符號(hào)執(zhí)行重要性能優(yōu)化措施的動(dòng)態(tài)污點(diǎn)分析理論，包括符號(hào)引入、符號(hào)演算、搜索策略、SMT求解器、污點(diǎn)分析策略和主要的難題。在此基礎(chǔ)上，本文設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)離線(xiàn)動(dòng)態(tài)符號(hào)執(zhí)行引擎DSEE，DSEE首

3、先將主體是匯編指令序列的軌跡翻譯成BIL程序，然后基于BIL程序做符號(hào)執(zhí)行，其間，由原是系統(tǒng)調(diào)用幀和污點(diǎn)引入幀翻譯過(guò)來(lái)的BIL語(yǔ)句引入初始符號(hào)變量，依據(jù)BIL語(yǔ)句和表達(dá)式操作語(yǔ)義進(jìn)行符號(hào)演算，生成由BIL表達(dá)式描述的路徑公式，之后該公式被翻譯成SMT求解器Z3支持的SMT2格式并被求解，該解將作為一個(gè)新的輸入被繼續(xù)測(cè)試，而關(guān)于下一個(gè)測(cè)試輸入的選擇問(wèn)題則使用了改進(jìn)的分代搜索算法。另外，本文還設(shè)計(jì)并實(shí)現(xiàn)了一個(gè)帶污點(diǎn)分析的軌跡記錄引擎TLET

4、，設(shè)計(jì)內(nèi)容包括:參照動(dòng)畫(huà)模型的軌跡模型設(shè)計(jì)、隨機(jī)讀取軌跡幀的序列化容器設(shè)計(jì)、會(huì)引入污點(diǎn)的linux系統(tǒng)調(diào)用建模、基于數(shù)據(jù)依賴(lài)的污點(diǎn)傳播規(guī)則建模。本文對(duì)DSEE和TLET進(jìn)行了實(shí)驗(yàn)測(cè)試和驗(yàn)證，結(jié)果顯示，兩者能達(dá)到之前的設(shè)計(jì)要求。針對(duì)漏洞確認(rèn)問(wèn)題，本文通過(guò)將棧溢出漏洞利用生成歸約為邏輯公式可滿(mǎn)足性求解實(shí)現(xiàn)了棧溢出漏洞的自動(dòng)確認(rèn)和利用自動(dòng)生成。
　　本文的主要貢獻(xiàn)有:(1)設(shè)計(jì)實(shí)現(xiàn)了離線(xiàn)符號(hào)執(zhí)行引擎DSEE和作為其基礎(chǔ)的軌跡記錄引擎TL

5、ET，實(shí)驗(yàn)證明兩者能正確工作，這兩者將是該領(lǐng)域后續(xù)繼續(xù)研究工作的平臺(tái)基礎(chǔ);(2)改進(jìn)了分代搜索算法，加入啟發(fā)因子，以期使搜索盡快朝高代碼覆蓋率方向前進(jìn)，測(cè)試分析顯示，改進(jìn)后的算法能達(dá)到預(yù)期的目的;(3)使用動(dòng)態(tài)污點(diǎn)分析和死碼移除作為DSEE的性能優(yōu)化措施，結(jié)果顯示，能很大程度上減少需要符號(hào)執(zhí)行的BIL語(yǔ)句數(shù)量，從而很大程度上減小了路徑公式尺寸，是有效的優(yōu)化措施;(4)將棧溢出漏洞歸約為邏輯公式的可滿(mǎn)足性問(wèn)題，使用DSEE實(shí)現(xiàn)了該類(lèi)漏洞的