基于RDO和SSIM的AVS幀內(nèi)模式選擇算法

楊俊斌，武淑紅

(太原理工大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院，山西太原030024)

AVS是我國(guó)具備自主知識(shí)產(chǎn)權(quán)的第二代信源編碼標(biāo)準(zhǔn)，又稱為數(shù)字音視頻編解碼技術(shù)。它以H.264標(biāo)準(zhǔn)為參考，在編碼效率與H.264基本相同的基礎(chǔ)上，明顯降低了編碼復(fù)雜度［1］。在AVS的幀內(nèi)模式選擇中，通常采用SAD或RDO來(lái)計(jì)算失真代價(jià)，同時(shí)利用PSNR衡量視頻圖像編碼質(zhì)量。利用RDO和PSNR對(duì)原始圖像和預(yù)測(cè)圖像進(jìn)行純數(shù)學(xué)計(jì)算，這種方法易于理解，但缺點(diǎn)是沒有考慮人眼視覺系統(tǒng)的主觀性。SSIM作為一種新的圖像質(zhì)量評(píng)價(jià)方法，計(jì)算簡(jiǎn)單，能更好地反應(yīng)人眼視覺感知［2-3］。本文提出一種基于RDO和SSIM的AVS幀內(nèi)模式選擇算法，將RDO和SSIM組合共同作為代價(jià)函數(shù)用于AVS幀內(nèi)模式選擇。

1 原AVS幀內(nèi)模式選擇算法

1.1 AVS的幀內(nèi)亮度預(yù)測(cè)模式

在AVS幀內(nèi)編碼器中，每幀圖像被均勻劃分為若干個(gè)非重疊的16×16的宏塊(MB)。AVS幀內(nèi)預(yù)測(cè)與H.264/AVC的幀內(nèi)預(yù)測(cè)類似，對(duì)亮度、色度分量分別進(jìn)行預(yù)測(cè);區(qū)別在于AVS幀內(nèi)預(yù)測(cè)以8×8宏塊為基本單位進(jìn)行編碼，而且在AVS幀內(nèi)亮度編碼過(guò)程中共有5種預(yù)測(cè)模式［4］。AVS幀內(nèi)亮度的5種預(yù)測(cè)模式如表1所示。

表1 AVS幀內(nèi)亮度的5種預(yù)測(cè)模式

1.2 原AVS幀內(nèi)模式選擇算法

率失真優(yōu)化技術(shù)RDO是AVS引入的一種非標(biāo)準(zhǔn)技術(shù)。RDO的值是經(jīng)過(guò)模式預(yù)測(cè)、運(yùn)動(dòng)估計(jì)與補(bǔ)償、變換、量化、反量化、反變換、熵編碼等步驟以后得到的，故可以大幅度地提高壓縮效率和編碼性能。在幀內(nèi)模式選擇中，先用RDO代價(jià)函數(shù)算出每種可用預(yù)測(cè)模式的代價(jià)值(rd_cost)，從得到的rd_cost中選出最小的一個(gè)作為當(dāng)前編碼塊的最優(yōu)預(yù)測(cè)模式(rd_cost值相同時(shí)選預(yù)測(cè)模式編號(hào)較小的作為最優(yōu)預(yù)測(cè)模式)。RDO計(jì)算如下

式中:SSD(誤差平方和)為當(dāng)前塊與重建塊的差值;λ是拉格朗日因子;rate為當(dāng)前預(yù)測(cè)模式下的殘差塊編碼比特?cái)?shù)，由熵編碼給出。

2 結(jié)構(gòu)相似度(SSIM)

結(jié)構(gòu)相似度SSIM是近些年來(lái)被提出的一種新的圖像質(zhì)量評(píng)價(jià)標(biāo)準(zhǔn)，包括亮度、對(duì)比度和結(jié)構(gòu)信息3個(gè)方面的計(jì)算，故SSIM較符合人的視覺主觀評(píng)價(jià)標(biāo)準(zhǔn)［5］。SSIM定義如下

式中:l(x，y)是亮度比較函數(shù)，函數(shù)中用到原圖像和評(píng)估圖像的均值μx和μy;c(x，y)是對(duì)比度比較函數(shù)，函數(shù)中用到原圖像和評(píng)估圖像的方差σx和σy;s(x，y)是結(jié)構(gòu)信息比較函數(shù)，函數(shù)中用到原圖像和評(píng)估圖像的協(xié)方差σxy。這3個(gè)函數(shù)分別定義為

式中:參數(shù)C1，C2和C3是為避免分母為0而加上的小常數(shù)，分別定義為C1=(K1L)2，C2=(K2L)2，C3=C2/2;L是圖像中像素灰度的變化范圍(如灰度值為8 bit，L取255);K1和K2是很小的數(shù)(本實(shí)驗(yàn)取K1=0.01，K2=0.03)。從以上計(jì)算公式可知SSIM值域?yàn)椋?，1］，且SSIM越大，評(píng)估圖像和原始圖像越相似［6］。

3 基于RDO和SSIM的AVS幀內(nèi)模式選擇算法

率失真方法對(duì)每一種預(yù)測(cè)模式都要進(jìn)行預(yù)測(cè)、變換、量化和變長(zhǎng)編碼，并進(jìn)行反量化和反變換，再比較各預(yù)測(cè)模式的編碼碼率和重建圖像質(zhì)量，代價(jià)最小的一種模式被選擇作為最優(yōu)的預(yù)測(cè)模式［7］。RDO方法可以得到更高的編碼性能和更好的編碼效率，但是它并沒有考慮到人眼視覺系統(tǒng)的主觀性。文獻(xiàn)［8］提到誤差平方和SSD能夠很好地衡量平坦區(qū)域的圖像質(zhì)量，而SSIM能更好地評(píng)價(jià)圖像的邊緣紋理區(qū)域［8］。因此將SSIM和RDO結(jié)合在一起作為模式選擇的代價(jià)函數(shù)，同時(shí)兼顧數(shù)學(xué)方法科學(xué)性和人視覺系統(tǒng)的主觀性。改進(jìn)的代價(jià)函數(shù)為

式中:rd_cost是原RDO算法求出來(lái)的率失真代價(jià)值，見式(1);SSIM為當(dāng)前塊與重建塊的結(jié)構(gòu)相似度值。因?yàn)镽DO值與SSIM值不在一個(gè)數(shù)量級(jí)上且評(píng)價(jià)方向不一致，故增加一個(gè)因子k來(lái)進(jìn)行平衡，用1-SSIM來(lái)使二者評(píng)價(jià)方向相同。經(jīng)過(guò)大量的實(shí)驗(yàn)數(shù)據(jù)發(fā)現(xiàn)k值在不同QP下有所不同，其取值如表2所示。

表2 不同QP下k的取值

新的幀內(nèi)預(yù)測(cè)模式選擇流程圖如圖1所示。

圖1 基于RDO和SSIM的幀內(nèi)預(yù)測(cè)模式選擇流程

4 實(shí)驗(yàn)結(jié)果分析

實(shí)驗(yàn)測(cè)試了3個(gè)具有代表性的YUV(4∶2∶0)序列(news_cif，foreman_cif和flower_cif)，量化參數(shù)QP，分別取28，36和42。實(shí)驗(yàn)結(jié)果如表3所示，其中Δbr是用改進(jìn)算法與原RDO算法在不同QP下碼率變化的百分比;ΔPSNR是平均亮度的信噪比變化量，單位為dB;ΔMSSIM是整個(gè)視頻序列的平均結(jié)構(gòu)相似度值變化量。數(shù)值上帶“-”號(hào)的表示減少量，不帶“-”號(hào)的表示增加量。

表3 不同序列、不同QP下的測(cè)試結(jié)果

從實(shí)驗(yàn)數(shù)據(jù)可以明顯的得到:在不同QP、不同序列條件下，采用本文的AVS幀內(nèi)模式選擇算法的亮度信噪比(PSNR)、平均結(jié)構(gòu)相似度(MSSIM)都有不同程度的提高(得了更好的編碼質(zhì)量);同時(shí)碼率都有不同程度的降低(更高的視頻序列壓縮比)。也就是說(shuō)在算法復(fù)雜度增加不多的情況下，SSIM算法的引入使AVS視頻編碼器的性能有了一定的提高。為了觀看效果選取6幀圖像(見圖2～圖7)，其中圖2和圖5是原始YUV視頻序列的一幀，圖3和圖6是使用原AVS幀內(nèi)模式選擇算法的編解碼視頻序列的一幀，圖4和圖7是使用新AVS幀內(nèi)模式選擇算法的編解碼視頻序列的一幀。foreman_cif序列(圖3和圖4)編碼時(shí)取QP=28，flower_cif序列(圖6和圖7)編碼時(shí)取QP=42。

圖7 使用新算法(第100幀)

由圖可知:圖4比圖3更接近圖2，圖7比圖6更接近圖5。也就是說(shuō)使用了新的模式選擇算法得到的重建圖像質(zhì)量更好。

5 小結(jié)

本文在原來(lái)率失真優(yōu)化算法(RDO)的基礎(chǔ)上引入了結(jié)構(gòu)相似度算法(SSIM)，提出了一種基于RDO和SSIM的AVS幀內(nèi)模式選擇優(yōu)化算法。新的算法在保留RDO算法的優(yōu)異性能的同時(shí)兼顧了人的主觀感受。大量實(shí)驗(yàn)數(shù)據(jù)表明，新的算法取得了更好的編碼質(zhì)量和更高的視頻序列壓縮比。

［1］邵娟，張衛(wèi)寧，魏磊，等.AVS中幀內(nèi)預(yù)測(cè)模式的快速選擇策略［J］.計(jì)算機(jī)工程與應(yīng)用，2009，45(25):163-165.

［2］楊春玲，肖冬琴.基于SSE和SSIM的H.264幀內(nèi)預(yù)測(cè)模式選擇改進(jìn)算法［J］.電子與信息學(xué)報(bào)，2011，33(2):289-294.

［3］WANG Z，BOVIK A C，SHEIKH H R，et al.Image quality assessment:from error visibility to structural similarity［J］.IEEE Trans.Image Processing，2004，13(4):600-612.

［4］游娜，彭玉華，劉微，等.基于AVS的幀內(nèi)預(yù)測(cè)模式快速選擇算法［J］.計(jì)算機(jī)工程與應(yīng)用，2009，45(14):185-187.

［5］崔子冠，朱秀昌.基于結(jié)構(gòu)相似的H.264主觀失真性能改進(jìn)機(jī)制［J］.電子與信息學(xué)報(bào)，2012，34(2):433-439.

［6］陳云善，高慧斌，蘇宛新，等.結(jié)構(gòu)相似度在AVS幀間模式選擇中的應(yīng)用［J］.光電子·激光，2011，22(3):435-439.

［7］馬宏興，張伶.H.264/AVC率失真優(yōu)化技術(shù)綜述［J］.電視技術(shù)，2010，34(6):19-22.

［8］YANG C L，LEUNG R K，PO L M，et al.An SSIM-optimal H.264/AVC inter frame encoder［C］//Proc.IEEE International Conference on Intelligent Computing and Intelligent Systems.Shanghai，China:IEEE Press，2009:291-295.