基于Hadoop的云轉(zhuǎn)碼系統(tǒng)研究及性能優(yōu)化.pdf

1、目前，視頻流量已經(jīng)成為互聯(lián)網(wǎng)的主要流量，各種視頻應(yīng)用層出不窮，從數(shù)字高清電視到IPTV?；ヂ?lián)網(wǎng)用戶使用視頻應(yīng)用的終端也日益多樣化，從PC到手機(jī)。然而，不同的網(wǎng)絡(luò)視頻平臺(tái)和終端支持的視頻內(nèi)容和格式，如編碼格式、分辨率、幀率等參數(shù)不盡相同。為了滿足不同平臺(tái)和用戶的視頻服務(wù)需求，往往需要對(duì)視頻進(jìn)行轉(zhuǎn)碼，即進(jìn)行相應(yīng)的編碼格式、分辨率和幀率等格式轉(zhuǎn)換。視頻轉(zhuǎn)碼是一項(xiàng)非常耗時(shí)耗資源的工作，隨著視頻數(shù)量的急劇增長(zhǎng)，傳統(tǒng)的單機(jī)或者集中式轉(zhuǎn)碼已經(jīng)不能滿足

2、人們對(duì)效率和質(zhì)量的要求。而云計(jì)算通過(guò)集中、分配資源可以提供強(qiáng)大的計(jì)算能力，并且有良好的擴(kuò)展性和較高的容錯(cuò)能力。所以可以將視頻轉(zhuǎn)碼工作轉(zhuǎn)移到云計(jì)算平臺(tái)上。采用云平臺(tái)進(jìn)行視頻轉(zhuǎn)碼，不僅可以承受海量視頻數(shù)據(jù)的存儲(chǔ)、轉(zhuǎn)碼需求，同時(shí)由于云計(jì)算本身具有的資源聚集特性，取用方便，費(fèi)用低廉。在眾多的云計(jì)算平臺(tái)中，Hadoop由于其開(kāi)源特性，是目前應(yīng)用最為廣泛的云計(jì)算平臺(tái)。
　　本論文首先設(shè)計(jì)和實(shí)現(xiàn)了基于Hadoop的云轉(zhuǎn)碼系統(tǒng)。該系統(tǒng)利用MapR

3、educe分布式機(jī)制進(jìn)行視頻轉(zhuǎn)碼。系統(tǒng)包括代理服務(wù)器，視頻轉(zhuǎn)碼模塊，Cache模塊三大組件。代理服務(wù)器負(fù)責(zé)處理用戶的視頻服務(wù)請(qǐng)求，視頻轉(zhuǎn)碼模塊負(fù)責(zé)視頻處理工作，Cache模塊負(fù)責(zé)管理原視頻和轉(zhuǎn)碼后的視頻文件。
　　接著，論文對(duì)所實(shí)現(xiàn)的轉(zhuǎn)碼系統(tǒng)的性能進(jìn)行了測(cè)試和分析。比較該系統(tǒng)與單機(jī)的視頻轉(zhuǎn)碼性能，測(cè)試分析了分段數(shù)量和分段大小對(duì)系統(tǒng)轉(zhuǎn)碼性能的影響，分析了各個(gè)階段在系統(tǒng)執(zhí)行過(guò)程中所占的時(shí)間比例。
　　在系統(tǒng)的執(zhí)行過(guò)程中，視頻文件

4、需要進(jìn)行多次對(duì)HDFS進(jìn)行讀寫(xiě)，當(dāng)前HDFS讀數(shù)據(jù)時(shí)副本選擇策略是選擇離客戶端網(wǎng)絡(luò)拓?fù)渚嚯x最近的節(jié)點(diǎn)，當(dāng)熱門(mén)副本集中在同一節(jié)點(diǎn)或者一個(gè)機(jī)架內(nèi)時(shí)，用戶就會(huì)對(duì)有限的資源進(jìn)行激烈的競(jìng)爭(zhēng)，造成該節(jié)點(diǎn)或者該機(jī)架的負(fù)載大大增加，從而影響整個(gè)集群的性能。為了克服該不足，論文提出了基于負(fù)載均衡的副本選擇策略，使用線性加權(quán)法定量描述節(jié)點(diǎn)的負(fù)載量，選擇負(fù)載量最輕的節(jié)點(diǎn)作為讀取節(jié)點(diǎn)。仿真實(shí)驗(yàn)表明，改進(jìn)的算法有效減少了副本傳輸時(shí)間，增加了HDFS集群的吞吐率。