一種基于紋理分析的hevc幀內預測快速模式選擇方法
【專利摘要】本發(fā)明公布了一種基于紋理分析的HEVC幀內預測快速模式選擇方法，該方法在對編碼樹單元進行幀內預測之前，根據水平、垂直、左下、右下等四個方向上的梯度絕對值和確定編碼樹單元中每一個4×4單元的主紋理方向和紋理復雜度，并根據紋理平滑區(qū)域采用較大編碼單元，紋理復雜區(qū)域采用較小編碼單元的原則確定當前編碼樹單元的劃分。在預測時，根據預測單元的主紋理方向，排除掉最不可能的若干預測模式，然后按照HEVC編碼標準進行粗略模式選擇和率失真優(yōu)化模式選擇。本發(fā)明所提出的基于紋理分析的HEVC幀內預測快速模式選擇方法能夠在保證編碼質量的前提下，顯著提高編碼速度。
【專利說明】—種基于紋理分析的HEVC幀內預測快速模式選擇方法
【技術領域】
[0001]本發(fā)明屬于多媒體編碼領域，具體涉及一種針對HEVC視頻編碼標準的幀內預測快速模式選擇方法，是一種根據圖像紋理分析進行編碼單元劃分和預測方向快速模式選擇的方法。
【背景技術】
[0002]隨著新一代視頻編碼標準HEVC (High Efficiency Video Coding)的發(fā)布,視頻的編碼效率進一步提升。相比于以前的視頻編碼標準H.264/AVC，在相同編碼質量的情況下，可以節(jié)省近一半的碼率，然而這是以犧牲編碼復雜度為代價的。如何在不改變碼流結構和保持原有碼率的前提下，最大程度的降低算法復雜度，顯著提高編碼速度，是HEVC大規(guī)模推廣與應用的關鍵所在。
[0003]幀內編碼可以為幀間編碼提供參考信息，并且可以阻止由誤碼引起的錯誤漂移，因此在視頻編碼中幀內編碼是必不可少的。影響HEVC幀內編碼耗時的主要有兩個部分:編碼單元的劃分和預測方向的選擇。
[0004]針對編碼單元的快速劃分主要有兩種方法，一是根據已編碼單元的率失真代價利用貝葉斯等統(tǒng)計學習的方法確定編碼單元的劃分，然而離線的學習結果不能很好的通用于所有的視頻序列，在線的學習方式又會引入額外的計算復雜度；二是根據當前編碼單元的圖像內容復雜度確定編碼單元的劃分，這種方法的關鍵在于計算圖像復雜度以及選擇合適的閾值。
[0005]針對預測方向的快速模式選擇主要有三種方法，一是根據相鄰區(qū)域或者相鄰幀間具有較強的相關性，利用周圍編碼單元的信息減少當前編碼單元的預測方向候選集，然而實際應用中，經常出現(xiàn)場景切換或紋理豐富的視頻，這種情況下時空相關性較弱，導致編碼性能明顯下降；二是利用最佳的預測方向與編碼單元的紋理方向間較高的相關性，減少候選預測方向的數量；三是通過一種低復雜度的方式估計每一種預測模式的碼率和失真降低率失真代價的計算復雜度，這種方法保留了所有的預測方向，并且沒有增加額外的計算復雜度，但是由于自然圖像視頻序列的隨機性較強，很難構造一個適用于所有視頻序列的率失真估計模型，相比于第二種方法，這種方法的編碼性能下降比較明顯。
[0006]在新一代視頻編碼標準中，HEVC引入了新的編碼樹單元(Coding Tree Unit, CTU)概念，用于替代現(xiàn)有視頻編碼標準中的宏塊概念，另外還有編碼單元、預測單元、變換單元等概念。編碼樹單元是一個遞歸的四叉樹結構，深度可以從O到3，即編碼單元的大小可以從64X64到8X8。對于最小的編碼單元來說，HEVC的幀內編碼又可以將其劃分為4X4的預測單元，預測單元的大小可以從64X64到4X4。而對于巾貞內預測來說,HEVC對每一個預測單元都提供了 35種預測模式。相比于現(xiàn)有視頻編碼標準H.264/AVC，編碼單元劃分和預測方向選擇的優(yōu)化問題更為復雜。本發(fā)明根據紋理分析構造當前編碼樹單元的圖像復雜度描述，并據此快速確定編碼單元的劃分；利用紋理分析獲得的紋理方向與預測方向間較強的相關性，減少預測模式的數量。
【發(fā)明內容】

[0007]為了克服現(xiàn)有技術的上述缺陷，本發(fā)明提出了一種基于紋理分析的HEVC幀內預測快速模式選擇方法，該方法根據視頻內容的復雜度確定編碼樹單元的劃分，并根據圖像的紋理方向減小預測方向的候選集。實驗證明本方法能夠很好的適應高清視頻圖像的實時壓縮應用，大大提高了編碼速度。
[0008]為實現(xiàn)上述目的，本發(fā)明采用的技術方案為:
[0009]一種基于紋理分析的HEVC幀內預測快速模式選擇方法，該方法步驟如下:
[0010]步驟(I)、對當前編碼樹單元，計算每個可能的編碼單元的圖像復雜度和主紋理方向；
[0011]步驟(2)、對當前編碼樹單元，按照Z掃描順序從上往下重復執(zhí)行步驟(3)至步驟
(6)，直至掃描完當前編碼樹單元；
[0012]步驟(3)、若當前編碼單元的圖像復雜度小于或等于閾值，則判定該編碼單元為平滑單元，否則判定為復雜單元；
[0013]步驟(4)、對于平滑的編碼單元，利用步驟(5)計算當前編碼單元的率失真代價；
[0014]步驟(5)、對于當前編碼單元中的每一個預測單元，保留該單元主紋理方向周圍的8個預測方向以及planar預測和DC預測模式，按照HEVC視頻編碼標準進行粗略模式選擇和率失真優(yōu)化選擇；
[0015]步驟(6)、對于復雜的編碼單元，按照步驟(3)至步驟(6)依次遞歸掃描四個子單元，若四個子單元都判定為平滑單元，則利用步驟(5)計算當前編碼單元的率失真代價，并根據率失真代價最小原則判定當前編碼單元是否劃分，同時更新閾值。
[0016]所述步驟(I)具體包括如下步驟:
[0017]步驟(11)、對當前編碼樹單元中的每一個4X4的單元，分別沿水平、垂直、左下、右下四個方向計算梯度并計算梯度的絕對值和SAG ；
[0018]步驟(12)、將最小梯度絕對值和的梯度方向作為該單元的主紋理方向，所述主紋理方向是指該單元大部分像素的紋理方向；
[0019]步驟(13)、將主紋理方向與其正交方向上SAG差的絕對值定義為該單元的紋理復雜度，并利用量化步長與該單元大小的乘積作為初始閾值。
[0020]所述步驟(5)具體包括如下步驟:
[0021]步驟(51)、定義一個候選預測模式數組；
[0022]步驟(52)、根據步驟(I)獲取當前預測單元的主紋理方向，并將主紋理方向及其周圍的8個預測方向作為候選預測方向；
[0023]步驟(53)、將候選預測方向映射到HEVC編碼標準中的角度預測模式，并將選擇的角度預測模式和Planar以及DC模式添加到候選預測模式數組；
[0024]步驟(54)、對候選預測模式數組中的每一個預測模式，按照HEVC編碼標準進行粗略模式選擇和率失真優(yōu)化模式選擇。
[0025]所述步驟(6)具體包括如下步驟:
[0026]步驟(61)、按照步驟(3)至步驟(6)依次遞歸掃描四個子單元，若四個子單元都判定為平滑單元，則利用步驟(5)計算當前編碼單元的率失真代價Costramse，否則繼續(xù)遞歸掃描下一層次的子單兀；
[0027]步驟(62)、若當前編碼單元的率失真代價Costcostse于或等于四個子單元的率失真代價和Costfim,則將閾值調大，否則將閾值調小。
[0028]所述步驟(62)中閾值調大的更新策略為:
[0029]TH' = TH+α X (Costfine-Costcoarse)/2
[0030]式中TH為更新前的閾值，TH'為更新后的閾值，α為紋理復雜度與率失真代價間的線性模型的乘法因子。
[0031]所述步驟(62)中閾值調小的更新策略為:
[0032]TH' = TH-a
[0033]式中TH為更新前的閾值，TH'為更新后的閾值，a為常數。
[0034]本發(fā)明與現(xiàn)有技術相比的優(yōu)點在于:
[0035]1、本發(fā)明從紋理分析的角度出發(fā)，將編碼樹單元的劃分與預測方向的選擇結合考慮，利用梯度既能夠提取紋理復雜度又可以提取紋理的方向，在保證編碼質量的前提下，可以節(jié)省更多的編碼時間。
[0036]2、本發(fā)明根據最終的率失真代價及時更新決定編碼單元是否劃分的閾值，能夠充分利用編碼樹單元內相鄰區(qū)域的強相關性，以減弱閾值選取對編碼質量的影響。
【專利附圖】

【附圖說明】
[0037]圖1為基于紋理分析的HEVC幀內預測快速模式選擇方法流程圖；
[0038]圖2為HEVC視頻編碼標準中的編碼樹單元劃分結構圖；
[0039]圖3為方向梯度計算方法示意圖；
[0040]圖4為基于梯度的編碼單元快速劃分詳細流程圖。
【具體實施方式】
[0041]下面結合附圖和【具體實施方式】對本發(fā)明作進一步的說明。
[0042]為了滿足高清視頻圖像的實時壓縮應用需求，提高HEVC視頻編碼器的編碼速度，本發(fā)明提出了一種基于紋理分析的HEVC幀內預測快速模式選擇方法。該方法主要包括兩部分:基于紋理復雜度的編碼單元快速劃分和基于紋理方向的預測模式快速選擇，編碼單元的快速劃分涉及
【發(fā)明內容】
中的步驟(1)至步驟(4)以及步驟(6)，預測模式的快速選擇涉及
【發(fā)明內容】
中的步驟(5)。首先利用梯度算子計算當前編碼樹單元中各子單元的復雜度，確定一個較細的編碼單元劃分，再根據該劃分確定一個較粗的編碼單元劃分，最終根據后續(xù)幀內預測的率失真代價確定最終的編碼單元劃分；在選擇最佳預測方向的過程中，排除掉與主紋理方向相差較遠的預測模式，以節(jié)省幀內預測的時間。下面展開具體說明。
[0043]1.基于紋理復雜度的編碼單元快速劃分
[0044]新一代視頻編碼標準HEVC引入了編碼樹單元(Coding Tree Unit, CTU)概念,一幀視頻由多個互不重疊的編碼樹單元組成。默認情況下，編碼樹單元的大小為64X64。編碼樹單元是一個四叉樹形式的遞歸結構，它可以靈活的劃分為多個層次的編碼單元，如圖1所示。編碼單元的大小可以從64X64到8X8。在HEVC標準的參考編碼器中，利用率失真優(yōu)化選擇的方法對每一種可能的劃分都進行一次預測、變換、量化、熵編碼、反量化、反變換、重建等過程，相比于H.264/AVC，編碼復雜度大幅提升，嚴重制約了 HEVC的實際應用。
[0045]通過實驗統(tǒng)計發(fā)現(xiàn)，編碼單元的大小與圖像內容的紋理復雜度密切相關。紋理簡單的區(qū)域采用較大的編碼單元，而紋理復雜的區(qū)域采用較小的編碼單元。紋理復雜度的度量方式有多種，如方差、梯度、熵等。梯度不僅包含圖像的紋理復雜度信息，還包含了圖像的紋理方向信息，可以協(xié)助快速確定預測單元的預測模式?；诖耍景l(fā)明提出一種基于梯度的編碼單元快速劃分方法。
[0046]在介紹編碼單元快速劃分的實施方式之前，首先給出本發(fā)明中所使用的梯度的計算方法以及主紋理方向、紋理復雜度的定義。本發(fā)明中的梯度是指像素亮度值沿水平、垂直、左下、右下等方向獲得的方向導數，如圖3所示。計算公式如(I) - (4)式所示。
【權利要求】
1.一種基于紋理分析的HEVC幀內預測快速模式選擇方法，其特征在于:該方法步驟如下: 步驟(1)、對當前編碼樹單元，計算每個可能的編碼單元的圖像復雜度和主紋理方向；步驟(2)、對當前編碼樹單元，按照Z掃描順序從上往下重復執(zhí)行步驟(3)至步驟(6)，直至掃描完當前編碼樹單元； 步驟(3)、若當前編碼單元的圖像復雜度小于或等于閾值，則判定該編碼單元為平滑單元，否則判定為復雜單元； 步驟(4)、對于平滑的編碼單元，利用步驟(5)計算當前編碼單元的率失真代價； 步驟(5)、對于當前編碼單元中的每一個預測單元，僅保留該單元主紋理方向周圍的8個預測方向以及Planar預測和DC預測模式，按照HEVC視頻編碼標準進行粗略模式選擇和率失真優(yōu)化選擇； 步驟(6)、對于復雜的編碼單元，按照步驟(3)至步驟(6)依次遞歸掃描四個子單元，若四個子單元都判定為平滑單元，則利用步驟(5)計算當前編碼單元的率失真代價，并根據率失真代價最小原則判定當前編碼單元是否劃分，同時更新閾值。
2.如權利要求1所述的基于紋理分析的HEVC幀內預測快速模式選擇方法，其特征在于:所述步驟(1)具體包括如下步驟: 步驟(11)、對當前編碼樹單元中的每一個4X4的單元，分別沿水平、垂直、左下、右下四個方向計算梯度并計算梯度的絕對值和SAG ； 步驟(12)、將最小梯度絕對值和的梯度方向作為該單元的主紋理方向，所述主紋理方向是指該單元大部分像素的紋理方向； 步驟(13)、將主紋理方向與其正交方向上SAG差的絕對值定義為該單元的紋理復雜度，并利用量化步長與該單元大小的乘積作為初始閾值。
3.如權利要求1所述的基 于紋理分析的HEVC幀內預測快速模式選擇方法，其特征在于:所述步驟(5)具體包括如下步驟: 步驟(51)、定義一個候選預測模式數組； 步驟(52)、根據步驟(1)獲取當前預測單元的主紋理方向，并將主紋理方向及其周圍的8個預測方向作為候選預測方向； 步驟(53)、將候選預測方向映射到HEVC編碼標準中的角度預測模式，并將選擇的角度預測模式和Planar以及DC模式添加到候選預測模式數組； 步驟(54)、對候選預測模式數組中的每一個預測模式，按照HEVC編碼標準進行粗略模式選擇和率失真優(yōu)化模式選擇。
4.如權利要求1所述的基于紋理分析的HEVC幀內預測快速模式選擇方法，其特征在于:所述步驟(6)具體包括如下步驟: 步驟(61)、按照步驟(3)至步驟(6)依次遞歸掃描四個子單元，若四個子單元都判定為平滑單元，則利用步驟(5)計算當前編碼單元的率失真代價Costramse，否則繼續(xù)遞歸掃描下一層次的子單元； 步驟(62)、若當前編碼單元的率失真代價Costramse小于或等于四個子單元的率失真代價和Costfim,則將閾值調大，否則將閾值調小。
5.如權利要求4所述的基于紋理分析的HEVC幀內預測快速模式選擇方法，其特征在于:所述步驟(62)中閾值調大的更新策略為:
TH' = TH+ α X (Costfine-Costcoarse)/2 式中TH為更新前的閾值，TH'為更新后的閾值，α為紋理復雜度與率失真代價間的線性模型的乘法因子。
6.如權利要求4所述的基于紋理分析的HEVC幀內預測快速模式選擇方法，其特征在于:所述步驟(62)中閾值調小的更新策略為: TH' = TH-a 式中TH為更新前的閾值，TH'為更新后的閾值，a為常數。
【文檔編號】H04N19/50GK103517069SQ201310445775
【公開日】2014年1月15日 申請日期:2013年9月25日 優(yōu)先權日:2013年9月25日
【發(fā)明者】張永飛, 李哲, 李波 申請人:北京航空航天大學