AVS編碼器全零塊判決算法研究及AVX指令優(yōu)化.pdf

1、邁進(jìn)新世紀(jì)，為了有效地解決海量視頻數(shù)據(jù)在傳輸與存儲(chǔ)中所帶來(lái)的困難，視頻壓縮技術(shù)得到了迅猛地發(fā)展。AVS（Audio Video coding Standard）作為我國(guó)獨(dú)立設(shè)計(jì)與制定的視頻編解碼標(biāo)準(zhǔn)，它的出現(xiàn)打破了國(guó)外在視頻編解碼領(lǐng)域的壟斷地位。在AVS中應(yīng)用了很多創(chuàng)新技術(shù)，使得它擁有很好的壓縮性能。然而它優(yōu)越的壓縮性能是用犧牲復(fù)雜度來(lái)?yè)Q取的。因此，在不影響視頻主客觀質(zhì)量的條件下，怎樣去降低AVS的復(fù)雜度是當(dāng)前一個(gè)研究熱點(diǎn)。
　　

2、本文對(duì)開(kāi)源xAVS編碼器進(jìn)行研究，其研究目的是從算法和指令優(yōu)化兩個(gè)方面在原始的編碼器基礎(chǔ)上進(jìn)一步提升編碼速率。針對(duì)這一目的，本文完成的工作主要包括了以下的內(nèi)容：
　　首先，根據(jù)整數(shù)變換與量化的特點(diǎn)，結(jié)合全零塊預(yù)判決的本質(zhì)思想，推導(dǎo)出了基于變換量化特點(diǎn)的全零塊預(yù)判決條件。同時(shí)依據(jù)圖像殘差系數(shù)服從拉普拉斯統(tǒng)計(jì)分布的理論，推導(dǎo)出了基于拉普拉斯統(tǒng)計(jì)模型的全零塊預(yù)判決條件。結(jié)合上述所得到的兩個(gè)預(yù)判決條件，給出了一種基于混合模型的全零塊預(yù)判決

3、算法。實(shí)驗(yàn)結(jié)果表明此算法相比于已有的算法全零塊檢出率平均提高20％左右。
　　然后，在基于混合模型的全零塊預(yù)判決算法基礎(chǔ)上，給出了一種基于全零塊幀間模式選擇提早結(jié)束算法。此算法能夠提前終止幀間模式選擇，跳過(guò)變換與量化操作，節(jié)省編碼時(shí)間。實(shí)驗(yàn)結(jié)果表明此算法編碼速率在原始編碼器的基礎(chǔ)上平均提高了27%左右，而峰值信噪比平均下降僅為0.05dB，傳輸碼率平均上升僅為2.04%。
　　最后，分析并統(tǒng)計(jì)了編碼器各個(gè)關(guān)鍵模塊耗時(shí)的情況。

4、在支持AVX（Advanced Vector Extensions）多媒體指令集的平臺(tái)上，分別對(duì)耗時(shí)較大和密集計(jì)算的模塊進(jìn)行優(yōu)化，如計(jì)算SAD（Sum of Absolute Difference）、分像素插值、幀內(nèi)預(yù)測(cè)以及變換量化等。與 C代碼模塊相比，指令優(yōu)化后的模塊實(shí)現(xiàn)了單指令多數(shù)據(jù)流的處理方式。通過(guò)采用1080P視頻序列測(cè)試，與原始的編碼器進(jìn)行性能比較，使用峰值信噪比、碼率以及編碼速率三個(gè)指標(biāo)對(duì)比分析優(yōu)化性能，其結(jié)果表明在峰值信