基于隨機(jī)森林的惡意移動(dòng)應(yīng)用動(dòng)態(tài)檢測方法研究.pdf

1、隨著Android智能終端的普及，Android惡意程序持續(xù)高速增長，經(jīng)過加固保護(hù)(APK Protection)的惡意程序呈現(xiàn)指數(shù)級(jí)增長趨勢。由于加固操作對(duì)惡意程序DEX文件進(jìn)行了加密，普通的靜態(tài)分析方法已經(jīng)無法應(yīng)對(duì)此變化。同時(shí)，部分惡意程序出現(xiàn)反模擬器偵測手段，當(dāng)程序檢測到運(yùn)行環(huán)境為模擬器環(huán)境時(shí)會(huì)立即退出。
　　針對(duì)上述問題，本文采用移動(dòng)應(yīng)用動(dòng)態(tài)分析方法，將函數(shù)調(diào)用序列作為檢測對(duì)象，使用Xposed框架劫持系統(tǒng)調(diào)用，構(gòu)建動(dòng)態(tài)檢

2、測環(huán)境。移動(dòng)應(yīng)用在測試環(huán)境中運(yùn)行后，輸出函數(shù)調(diào)用序列，作為樣本特征。隨后在樣本特征集上構(gòu)建多個(gè)HMM模型（Hidden Markov Model），為輸出事件序列建模。最后使用本文提出的RBMH（RF-Based-Muti-HMM）算法，基于隨機(jī)森林，對(duì)多組HMM分類器以及靜態(tài)特征進(jìn)行集成學(xué)習(xí)，給出最終檢測結(jié)果。實(shí)驗(yàn)結(jié)果表明RBMH算法具有較高的命中率（TPR）、準(zhǔn)確率（AC），較低的誤報(bào)率（FPR）、均方根誤差（MSE）、袋外誤差率（

3、OOB），對(duì)于較小樣本數(shù)具有穩(wěn)定性。本文的主要工作和成果如下：
　　（1）函數(shù)調(diào)用序列收集。通過分析Android平臺(tái)下惡意行為模式，給出函數(shù)調(diào)用序列定義和事件定義，使用函數(shù)調(diào)用序列表述對(duì)應(yīng)事件類型的行為特征，確定以函數(shù)調(diào)用序列作為檢測對(duì)象。通過靜態(tài)分析創(chuàng)建事件序列，將事件觸發(fā)作為自動(dòng)化輸入，使用Xposed框架劫持函數(shù)調(diào)用，將函數(shù)調(diào)用日志作為輸出，完整實(shí)現(xiàn)了函數(shù)調(diào)用序列的收集，并通過實(shí)驗(yàn)證明了采集數(shù)據(jù)的有效性。
　?。?）