高性能微處理器中自適應(yīng)高速緩存管理策略研究.pdf

1、對主存儲器的訪問是制約高性能微處理器系統(tǒng)性能的主要因素之一。存儲器的訪問速度通常會比處理器速度慢兩個(gè)數(shù)量級，為了縮小這一差距，當(dāng)代處理器設(shè)計(jì)已經(jīng)將一半以上的片上晶體管資源用于最后一級高速緩存。然而，針對小容量一級高速緩存的傳統(tǒng)管理策略并不能有效地管理大容量最后一級高速緩存，由此引發(fā)了大量的高速緩存缺失，從而導(dǎo)致頻繁的片外內(nèi)存訪問和處理器性能的嚴(yán)重下降。增加的訪存延遲、有限的片外帶寬、破壞性的線程間干擾、多樣化的負(fù)載特性、擴(kuò)大化的新興應(yīng)用

2、工作集規(guī)模，單一芯片內(nèi)所集成處理器核數(shù)目的增加，以及由此導(dǎo)致的每個(gè)處理器核所占有高速緩存空間的減少等諸多方面的因素都給高速緩存的設(shè)計(jì)帶來了極大的挑戰(zhàn)，也使得高速緩存管理策略的重要性變得越發(fā)關(guān)鍵。本文重點(diǎn)分析了高性能微處理器尤其是多核處理器中最后一級高速緩存管理的若干熱點(diǎn)問題，并提出相應(yīng)的開銷合理的解決方案來提高系統(tǒng)性能。論文的主要研究內(nèi)容與創(chuàng)新之處包括：
　　 1.同時(shí)多線程處理器中高速緩存公平劃分技術(shù)研究。傳統(tǒng)的LRU替換策略

3、會根據(jù)線程的需要隱式地對共享高速緩存進(jìn)行劃分，不同負(fù)載時(shí)間重用行為的差異導(dǎo)致它們對高速緩存資源的競爭能力存在差別，這會對并發(fā)調(diào)度線程的推進(jìn)速度造成不一致的影響。不公平高速緩存共享問題使得操作系統(tǒng)線程調(diào)度的效率遭到喪失，線程餓死、優(yōu)先級反轉(zhuǎn)等問題呈現(xiàn)。針對這一情況本文實(shí)現(xiàn)了一種自適應(yīng)、運(yùn)行時(shí)劃分機(jī)制(ARP)來管理共享高速緩存，該機(jī)制以提高公平性為優(yōu)化目標(biāo)，在每個(gè)周期內(nèi)使用基于動態(tài)組采樣的硬件監(jiān)控器電路來收集棧距離剖析信息，從而精確地估計(jì)

4、每個(gè)線程公平性度量的數(shù)值，并利用劃分與回滾相結(jié)合的貪心算法來確定最優(yōu)的劃分方案。實(shí)驗(yàn)結(jié)果表明，相比于LRU策略，ARP可以將一個(gè)2.路同時(shí)多線程處理器的公平性提高2.26倍，同時(shí)將吞吐量平均提高14.75％。
　　 2.多核處理器中高速緩存顛簸避免技術(shù)研究。隨著最后一級高速緩存容量和相聯(lián)度的增長，LRU策略和理論最優(yōu)替換算法之間的性能差距日趨增大，引起這一問題的主要原因是LRU策略會導(dǎo)致大工作集訪存密集型負(fù)載發(fā)生高速緩存顛簸，并

5、且在選擇替換塊時(shí)僅僅考慮了高速緩存訪問的臨近信息而忽視了數(shù)據(jù)的訪問頻率。本文指出訪存密集型負(fù)載的性能可以通過無用數(shù)據(jù)的及早替換和改變低使用頻率數(shù)據(jù)的插入和提升位置而得到顯著提升，基于這一思想本文提出無用塊消除和低使用頻率塊過濾高速緩存管理策略，該策略利用活動時(shí)間預(yù)測器來預(yù)測數(shù)據(jù)塊的使用頻率，根據(jù)預(yù)測結(jié)果將無用數(shù)據(jù)提早替換，將低使用頻率數(shù)據(jù)插入到低優(yōu)先級位置以降低其駐留在緩存空間的時(shí)間，從而成功地避免工作集規(guī)模大于共享高速緩存容量的訪存密

6、集型負(fù)載發(fā)生顛簸，并考慮了程序中數(shù)據(jù)的臨近性和使用頻率信息。與LRU相比將
　　 4.路多核處理器的加權(quán)加速比平均提升14.5％。
　　 3.多核處理器中高速緩存混合管理策略研究。目前傳統(tǒng)的單一高速緩存管理策略已經(jīng)無法滿足不同局部性特征負(fù)載的性能需要，當(dāng)并發(fā)執(zhí)行的線程間存在破壞性干擾或者負(fù)載的工作集超過可用高速緩存容量時(shí)，最后一級高速緩存的性能以及由此關(guān)聯(lián)到的多核處理器的性能都會嚴(yán)重下降。針對這一問題，本文提出劃分感知淘

7、汰線程感知插入/提升(PAE-TIP)混合高速緩存管理策略，該策略采用低開銷的錦標(biāo)賽機(jī)制來確定每個(gè)線程缺失數(shù)據(jù)塊的插入位置和命中數(shù)據(jù)塊的提升位置，并且根據(jù)基于效用的高速緩存劃分算法所提供的目標(biāo)分配方案未選擇被淘汰的數(shù)據(jù)塊。能夠同時(shí)對共享高速緩存實(shí)施包括容量管理、自適應(yīng)插入和自適應(yīng)提升在內(nèi)的混合管理，在多種具有不同數(shù)據(jù)局部性特征的訪存行為之間進(jìn)行必要的折衷。實(shí)驗(yàn)表明，相比于傳統(tǒng)的LRU策略，PAE-TIP能夠?qū)?-路多核處理器的加權(quán)加速比