1、隨著多媒體和計(jì)算機(jī)網(wǎng)絡(luò)技術(shù)的發(fā)展，數(shù)字視頻編碼在許多領(lǐng)域中得到了廣泛的應(yīng)用，包括可視電話、視頻會(huì)議、IPTV和數(shù)字電視等。為了滿足不斷發(fā)展的應(yīng)用需求，近幾年來，許多國際標(biāo)準(zhǔn)組織相繼制定發(fā)布了一系列新的視頻編碼標(biāo)準(zhǔn)。其中以H.264、AVS為代表的編碼標(biāo)準(zhǔn)，由于具有比以往標(biāo)準(zhǔn)更出色的性能，被人們稱為新一代視頻編碼標(biāo)準(zhǔn)，它們是目前的研究熱點(diǎn)。
　　本文研究的內(nèi)容是新一代視頻編碼標(biāo)準(zhǔn)（H.264、AVS）關(guān)鍵算法的研究與優(yōu)化，主要從變換

2、編碼、預(yù)測編碼、分級(jí)編碼等方面進(jìn)行算法研究和原理上的優(yōu)化，以及將編碼算法移植到DSP平臺(tái)上進(jìn)行的算法代碼級(jí)優(yōu)化。
　　在變換編碼方面：提出了一種n階整數(shù)DCT變換基的通用生成算法。通過對DCT變換原理的研究，發(fā)現(xiàn)了變換基系數(shù)取值個(gè)數(shù)與階數(shù)的關(guān)系，并結(jié)合余弦函數(shù)的性質(zhì)對其進(jìn)行了證明。以此為基礎(chǔ)，提出了一種n階整數(shù)DCT變換基(n=2k,k>0)的通用生成算法（本算法無需對相應(yīng)的浮點(diǎn)基進(jìn)行具體分析）。通過巧妙排列系數(shù)的序號(hào)使得生成的中

3、間多項(xiàng)式具有極強(qiáng)的規(guī)律性，最后設(shè)計(jì)了一個(gè)N位M進(jìn)制數(shù)來實(shí)現(xiàn)N重循環(huán)用以窮舉所有可能解，成功對任意N元多項(xiàng)式組進(jìn)行了求解。實(shí)驗(yàn)結(jié)果表明，只要計(jì)算機(jī)的能力足夠強(qiáng)大，應(yīng)用此算法便可以發(fā)現(xiàn)任意n×n(n=2k,k>0)整數(shù)DCT變換的所有可用基。
　　在預(yù)測編碼方面：首先分析了預(yù)測編碼中幀內(nèi)預(yù)測和幀間預(yù)測的流程，找出其中可能的改進(jìn)優(yōu)化點(diǎn)。通過在閱讀大量文獻(xiàn)和實(shí)踐的基礎(chǔ)上，對幀間預(yù)測和幀內(nèi)預(yù)測模塊都廣泛適用的全零塊閾值問題進(jìn)行了深入的研究。

4、利用數(shù)學(xué)和統(tǒng)計(jì)相結(jié)合的方法分析出了目前利用全零塊進(jìn)行提前終止時(shí)的閾值的不足，進(jìn)而提出了基于量化參數(shù)的全零塊檢測算法，并建立了不同代價(jià)函數(shù)和不同塊劃分模式下所對應(yīng)的全零塊閾值模型。與Yang的算法進(jìn)行比較分析得出：當(dāng)量化參數(shù)較低時(shí)，計(jì)算性能有稍微下降，但PSNR有0.05db左右的提高；當(dāng)量化參數(shù)較高時(shí)，在計(jì)算性能提高10％-18％的同時(shí)，PSNR也提高大約0.04db。對幀內(nèi)預(yù)測部分，我們依據(jù)最可能的模式和最佳模式之間的相關(guān)性獲得一個(gè)最

5、可能模式與最佳模式矩陣。在幀內(nèi)預(yù)測模式判決時(shí)，結(jié)合全零塊提前終止算法，利用得出的這個(gè)模式矩陣來遍歷各模式在無任何PSNR下降的前提下可以節(jié)省9％-15％的計(jì)算周期；如果使用精簡模式矩陣，則在PSNR下降大約0.03db的情況下可以獲得33％-48％左右的計(jì)算性能提升。
　　在分級(jí)編碼方面：提出了一種按頻譜進(jìn)行視頻分級(jí)編碼的方法。MPEG-2中的數(shù)據(jù)分割就是一種最早的頻譜分級(jí)編碼，但其分級(jí)粒度較大，實(shí)用性不高，本文的算法能實(shí)現(xiàn)較細(xì)粒

6、度的分級(jí)(9級(jí))。按頻譜進(jìn)行分級(jí)的編碼方法具有比較靈活的分級(jí)性、計(jì)算復(fù)雜度低且編碼效率較高，但在幀間預(yù)測時(shí)存在嚴(yán)重的誤差積累問題，因?yàn)橹粋鬏敳糠诸l段上的DCT系數(shù),會(huì)引起解碼器的參考圖像與編碼器的參考圖像的不一致，從而造成誤差積累。本文通過設(shè)置變換域的參考圖像，很好地解決了這一問題。AVS-P2是我國具有知識(shí)產(chǎn)權(quán)的新一代視頻壓縮編碼標(biāo)準(zhǔn)，并已經(jīng)通過審批成為國家標(biāo)準(zhǔn)。本文將提出的分級(jí)編碼算法與AVS-P2相結(jié)合，在AVS-P2編解碼的框架

7、下，實(shí)現(xiàn)本文提出的基于DCT頻譜分級(jí)編碼算法。最終，在AVS-P2的軟件編解碼模型rm52j版本的基礎(chǔ)上，實(shí)現(xiàn)了本文的算法，并給出了實(shí)驗(yàn)的結(jié)果。
　　在算法代碼級(jí)優(yōu)化方面：我們成功的將AVS編碼算法移植到基于達(dá)芬奇(DaVinci)技術(shù)的TMS320DM6446平臺(tái)上；并對編碼算法進(jìn)行項(xiàng)目級(jí)優(yōu)化、Cache性能優(yōu)化、數(shù)據(jù)傳輸優(yōu)化（EDMA）、線性匯編優(yōu)化等一系列優(yōu)化技術(shù)，在每一個(gè)階段給出相關(guān)的性能測試。本文優(yōu)化的最終結(jié)果，算法的性