堆溢出防御虛擬機(jī)的研究與實(shí)現(xiàn).pdf

1、堆溢出是指寫到堆內(nèi)存塊的數(shù)據(jù)大于其內(nèi)存容量導(dǎo)致超越邊界，從而覆蓋相鄰內(nèi)存塊內(nèi)容的一種情形。堆溢出破壞數(shù)據(jù)的完整性，導(dǎo)致程序運(yùn)行失敗、系統(tǒng)當(dāng)機(jī)，甚至利用它改變程序執(zhí)行流程執(zhí)行非授權(quán)指令，從而獲得被攻擊主機(jī)的特權(quán)以便進(jìn)行各種非法操作。因此對(duì)堆溢出防御的研究，對(duì)計(jì)算機(jī)網(wǎng)絡(luò)與信息安全、信息對(duì)抗有非常重要的理論意義和實(shí)用價(jià)值。本文指出保護(hù)數(shù)據(jù)信息的完整性是防御的關(guān)鍵點(diǎn)，從為用戶程序搭建運(yùn)行時(shí)系統(tǒng)環(huán)境，以指令最終進(jìn)入處理機(jī)執(zhí)行為主線，運(yùn)用虛擬機(jī)技術(shù)

2、動(dòng)態(tài)檢測(cè)、控制關(guān)鍵指令和部分系統(tǒng)調(diào)用，給出一種基于進(jìn)程虛擬機(jī)動(dòng)態(tài)防御堆溢出的防御方案。 本文主要包括以下幾個(gè)研究工作： 1、分析國(guó)內(nèi)外在堆溢出防御方面的研究現(xiàn)狀，給出當(dāng)前防御技術(shù)的分類，指出當(dāng)前防御技術(shù)中的不足特別是虛擬機(jī)技術(shù)在堆溢出防御中的不足。 目前堆溢出防御技術(shù)的研究可分成靜態(tài)防御技術(shù)和動(dòng)態(tài)防御技術(shù)兩大類。靜態(tài)防御技術(shù)是指在源程序編譯的不同階段，依據(jù)靜態(tài)庫(kù)進(jìn)行程序更改的代碼修正技術(shù)，它需要高級(jí)語(yǔ)言源代碼的支

3、持；動(dòng)態(tài)防御技術(shù)是對(duì)應(yīng)用軟件的運(yùn)行環(huán)境進(jìn)行修正的上下文檢測(cè)和更改技術(shù)，主要包括堆不可執(zhí)行和隨機(jī)化指令集與地址來(lái)防止堆溢出、邊界檢查和沙箱技術(shù)。 當(dāng)前防御存在的問(wèn)題是：堆溢出防御技術(shù)大多依賴有源代碼或函數(shù)動(dòng)態(tài)調(diào)用庫(kù)支持的防御；在指令進(jìn)入處理機(jī)后，無(wú)法動(dòng)態(tài)地對(duì)其進(jìn)行執(zhí)行邏輯的防御，從而引發(fā)安全問(wèn)題。而目前的虛擬機(jī)技術(shù)在堆溢出防御中存在看不到溢出過(guò)程，控制不住程序的執(zhí)行流程，且不能記錄溢出發(fā)生時(shí)緩沖區(qū)中的數(shù)據(jù)等不足。 2、分析

4、堆溢出技術(shù)、溢出過(guò)程以及溢出防御，指出保護(hù)數(shù)據(jù)信息的完整性是防御的關(guān)鍵點(diǎn)，分析并指出進(jìn)程虛擬機(jī)動(dòng)態(tài)防御堆溢出需要關(guān)注的幾個(gè)關(guān)鍵問(wèn)題。 堆溢出主要原因是語(yǔ)言在實(shí)現(xiàn)上沒(méi)有對(duì)寫內(nèi)存進(jìn)行邊界檢查，加上堆具有可讀、可寫屬性，通過(guò)對(duì)某些數(shù)據(jù)的修改使用，改變程序執(zhí)行流程，使程序可能臨時(shí)具有超級(jí)用戶權(quán)限，某些特殊的系統(tǒng)調(diào)用等性質(zhì)，從而誘發(fā)堆溢出攻擊。并從用戶空間和系統(tǒng)空間角度來(lái)分析堆溢出攻擊所帶來(lái)的后果。本文指出保護(hù)數(shù)據(jù)信息的完整性是堆溢出防御

5、的關(guān)鍵。并把動(dòng)態(tài)防御技術(shù)分為基于進(jìn)程和基于系統(tǒng)二類，重點(diǎn)分析搭建進(jìn)程運(yùn)行時(shí)系統(tǒng)環(huán)境防御溢出所需要注意的關(guān)鍵問(wèn)題。 3、分析并論述堆溢出防御方案的關(guān)鍵技術(shù)，指出程序加載、內(nèi)存布局、指令運(yùn)行是其中主要的關(guān)鍵技術(shù)。 首先分析搭建進(jìn)程虛擬機(jī)運(yùn)行時(shí)系統(tǒng)環(huán)境所需的關(guān)鍵問(wèn)題，分別對(duì)應(yīng)不同的關(guān)鍵技術(shù)。其次給出程序加載方案，在此基礎(chǔ)上，引出內(nèi)存布局、指令運(yùn)行、系統(tǒng)調(diào)用等關(guān)鍵技術(shù)分析。最后分別給出相應(yīng)的算法描述，并在此基礎(chǔ)上給出一種堆溢出防

6、御的系統(tǒng)模型。 4、依據(jù)以上的關(guān)鍵技術(shù)，以基于Intel X86 CPU的Windows操作系統(tǒng)為例，提出一種堆溢出防御虛擬機(jī)DHOVM（Defense of Heap Overflow Virtual Machine）防護(hù)堆溢出方案。運(yùn)用軟件工程的思想，設(shè)計(jì)并實(shí)現(xiàn)該系統(tǒng)。 5、給出驗(yàn)證目標(biāo)、驗(yàn)證環(huán)境和測(cè)試大綱，驗(yàn)證DHOVM達(dá)到保護(hù)數(shù)據(jù)信息完整性和防護(hù)堆溢出的系統(tǒng)設(shè)計(jì)目標(biāo)，并運(yùn)用下推自動(dòng)機(jī)理論對(duì)DHOVM能夠正確的防御