專利名稱：基于外極線約束的快速編碼模式?jīng)Q策方法和系統(tǒng)的制作方法
技術(shù)領(lǐng)域：
本發(fā)明涉及立體視頻或多路視頻的壓縮編碼領(lǐng)域，尤其涉及一種基于外極線約束 的快速編碼模式?jīng)Q策方法和系統(tǒng)。
背景技術(shù)：
視頻壓縮編碼技術(shù)通過消除或減少數(shù)字視頻中的冗余信息來減少存儲或傳輸中 的數(shù)據(jù)量。近年來，隨著立體電視(3DTV)和多視點或自由視點電視(Free View TV)的發(fā) 展，對立體視頻(StereoscopicVideo)或多路視頻(Multi View Video)編碼技術(shù)的需求日 益增長。立體視頻通常包括兩個視圖(View)，分別由空間上相鄰的兩個采集設(shè)備拍攝，用于 模擬人的雙眼產(chǎn)生的左、右兩個視圖。而多路視頻則包括但不限于兩個視圖。當前已有很 多針對立體或多路視頻的壓縮編碼技術(shù)，這些技術(shù)可以劃分為兩類解決方案解決方案(1)考慮多個視圖直接的相關(guān)性，利用視間參考的方式消除視間冗余， 進一步提升壓縮效率?，F(xiàn)有技術(shù)所提出的方法均屬于此類方法。在該解決方案中，為了進 行消除視間冗余，一般需要實施用于估算各個視圖內(nèi)容空間位置差異的視差估計。而視差 估計本身具有較高的計算復(fù)雜度，從而使得該解決方案的編碼速度顯著低于對具有相同數(shù) 據(jù)量的非立體及非多路視頻的壓縮編碼。因此，這種解決方案不利于編碼器，尤其是實時編 碼器的實現(xiàn)。另外，由于引入了視間參考，該解決方案需要特定的編碼器支持，且無法兼容 針對非立體及非多路視頻編碼的解碼器。解決方案(2)將立體或多路視頻的多個視圖均視為獨立的視頻，分別進行編碼。 該解決方案忽略了視間冗余，因此壓縮效率低于解決方案(1)，但計算復(fù)雜度和具有相同數(shù) 據(jù)量的非立體及非多路視頻的壓縮編碼相同。該解決方案可以直接使用現(xiàn)有的針對非立體 及非多路視頻的編碼器及相關(guān)優(yōu)化算法，且能夠兼容當前市場上大量存在的針對非立體及 非多路視頻編碼的解碼器?？紤]到成本和速度優(yōu)勢，解決方案(2)是當前一種廣泛采用的 立體視頻或多路視頻編碼方法。現(xiàn)有的可用于立體視頻或多路視頻的快速模式?jīng)Q策方法主要存在以下問題首 先，針對解決方案(1)的快速模式?jīng)Q策方法均依賴于某種形式的視差估計，無法有效地降 低編碼整體的計算復(fù)雜度。其次，可用于解決方案(2)的快速模式?jīng)Q策算法均沒有利用多 個視圖內(nèi)容的相似性來進一步降低算法復(fù)雜度。

發(fā)明內(nèi)容
本發(fā)明要解決的技術(shù)問題是以低計算復(fù)雜度實現(xiàn)針對立體或多路視頻的快速模 式?jīng)Q策方法。為解決上述問題，提出了一種基于外極線約束的快速編碼模式?jīng)Q策方法和系 統(tǒng)，利用視間外極線約束關(guān)系，進行幀間運動估計模式選擇，從而加速模式?jīng)Q策過程。本發(fā)明公開了一種基于外極線約束的快速編碼模式?jīng)Q策方法，所述方法用于立體 /多路視頻壓縮編碼中的預(yù)測模式選擇，包括如下步驟外極限上宏塊范圍確定步驟，根據(jù) 視圖間的外極線約束關(guān)系，確定待編碼宏塊外極線上宏塊的范圍；候選模式確定步驟，使用滑動搜索窗方式，從所述外極線上宏塊的范圍中篩選候選模式，并通過模式修正的方式避 免候選模式選擇遺漏，確定候選模式集合；預(yù)測模式獲取步驟，使用所述待編碼宏塊外極線 上位置靠近該宏塊的N個宏塊的率失真優(yōu)化參數(shù)值RDcost設(shè)置待編碼宏塊的率失真優(yōu)化 參數(shù)上限閾值RDthrmax和下限閾值RDthrmin，并將該閾值作為所述待編碼宏塊預(yù)測模式選擇 的條件，在所述候選模式集合進行至少一次篩選，獲取預(yù)測模式。上述模式?jīng)Q策方法，優(yōu)選所述候選模式確定步驟中，所述滑動搜索窗口的滑動范 圍至少包括所述待編碼宏塊外極線上宏塊的一個非空子集。上述模式?jīng)Q策方法，優(yōu)選所述候選模式確定步驟中，當所述搜索窗口內(nèi)恰好有一 個宏塊時，將該宏塊使用的編碼模式加入所述候選模式集合中。上述模式?jīng)Q策方法，優(yōu)選所述候選模式確定步驟中，當所述搜索窗口內(nèi)包含左、右 兩個宏塊的一部分時，則進行模式修正，以處理右視中待編碼宏塊的內(nèi)容恰好在左視中被 分割到兩個宏塊內(nèi)的情況。上述模式?jīng)Q策方法，優(yōu)選預(yù)測模式獲取步驟中，所述的在所述候選模式集合進行 至少一次篩選，獲取預(yù)測模式，包括步驟1，依次嘗試所述候選模式集合中的每一個模式， 若嘗試的模式滿足提前終止條件，則立即選擇該模式為最優(yōu)預(yù)測模式；所述提前終止條件 為該模式的率失真優(yōu)化參數(shù)值RDcost小于所述待編碼宏塊的率失真優(yōu)化參數(shù)的下限閾 值；若沒有候選模式滿足提前終止條件，則判斷候選模式中率失真優(yōu)化參數(shù)值RDcost最小 的模式是否滿足預(yù)測錯誤條件；其中，所述預(yù)測錯誤條件為該模式的RDcost值大于所述 帶編碼宏塊的率失真優(yōu)化參數(shù)值RDcost的上限閾值；若該模式滿足預(yù)測錯誤判斷條件，且 待編碼宏塊的外極線上存在未被搜索窗搜索過的宏塊，則執(zhí)行步驟2，否則，將該模式選擇 為待編碼宏塊的最優(yōu)預(yù)測模式；若該模式滿足預(yù)測錯誤條件，且待編碼宏塊的外極線上不 存在未被搜索窗搜索過的宏塊，則計算所有可能預(yù)測模式的RDcost，并執(zhí)行步驟4 ；步驟2， 若所述候選模式集合中的每一個模式均不滿足提前終止條件，或候選模式中RDcost最小 的模式滿足預(yù)測錯誤條件，則改變搜索窗口的滑動步長或滑動范圍等條件，重新滑動搜索 窗口，獲取新的候選模式集合；步驟3，判斷是否有新的模式被選中，若有，執(zhí)行步驟1，若沒 有則重復(fù)執(zhí)行步驟2，直到待編碼宏塊的外極線上的全部宏塊都已經(jīng)在搜索窗口的滑動范 圍內(nèi)，或所有可能的預(yù)測模式均已經(jīng)選為候選模式；步驟4，若所有預(yù)測模式的RDcost均已 計算，將RDcost最小的模式選擇為最優(yōu)預(yù)測模式。上述模式?jīng)Q策方法，優(yōu)選所述宏塊的率失真優(yōu)化參數(shù)RDcost計算方法為=RDcost =SSD (c，r) + AMode · R ；其中SSD (c，r)表示待編碼宏塊與其編碼后重建宏塊的對應(yīng)位置亮 度與色度值的方差和，λ M。de表示所使用預(yù)測模式的拉格朗日因子，R表示該宏塊編碼后所 需的二進制位數(shù)。上述模式?jīng)Q策方法，優(yōu)選所述待編碼宏塊的率失真優(yōu)化參數(shù)上限閾值RDthrmax和 下限閾值RDthrmin的計算方法為=RDThrmax = (l+a)RD Costmax，RDThrmin = (1+β )RDcostmin ； 其中，RDcostmax為；RDcostmin為；α為上限閾值修正因子，取值范圍是[-0.5，0.5]，β為下 限閾值修正因子，取值范圍是[-1,0. 5]。另一方面，本發(fā)明還公開了一種基于外極線約束的快速編碼模式?jīng)Q策系統(tǒng)，所述 系統(tǒng)用于立體/多路視頻壓縮編碼中的預(yù)測模式選擇，包括外極限上宏塊范圍確定模塊， 用于根據(jù)視圖間的外極線約束關(guān)系，確定待編碼宏塊外極線上宏塊的范圍；候選模式確定模塊，用于使用滑動搜索窗方式，從所述外極線上宏塊的范圍中篩選候選模式，并通過模式 修正的方式避免候選模式選擇遺漏，確定候選模式集合；預(yù)測模式獲取模塊，用于使用所述 待編碼宏塊外極線上位置靠近該宏塊的N個宏塊的率失真優(yōu)化參數(shù)值RDcost設(shè)置待編碼 宏塊的率失真優(yōu)化參數(shù)上限閾值RDthrmax和下限閾值RDthrmin，并將該閾值作為所述待編碼 宏塊預(yù)測模式選擇的條件，在所述候選模式集合進行至少一次篩選，獲取預(yù)測模式。上述模式?jīng)Q策系統(tǒng)，優(yōu)選所述候選模式確定模塊中，所述滑動搜索窗口的滑動范 圍至少包括所述待編碼宏塊外極線上宏塊的一個非空子集。上述模式?jīng)Q策系統(tǒng)，優(yōu)選所述候選模式確定模塊中，當所述搜索窗口內(nèi)恰好有一 個宏塊時，將該宏塊使用的編碼模式加入所述候選模式集合中。上述模式?jīng)Q策系統(tǒng)，優(yōu)選所述候選模式確定模塊中，當所述搜索窗口內(nèi)包含左、右 兩個宏塊的一部分時，則進行模式修正，以處理右視中待編碼宏塊的內(nèi)容恰好在左視中被 分割到兩個宏塊內(nèi)的情況。上述模式?jīng)Q策系統(tǒng)，優(yōu)選預(yù)測模式獲取模塊中，所述的在所述候選模式集合進行 至少一次篩選，獲取預(yù)測模式，包括第一模塊，用于依次嘗試所述候選模式集合中的每一 個模式，若嘗試的模式滿足提前終止條件，則立即選擇該模式為最優(yōu)預(yù)測模式；所述提前 終止條件為該模式的率失真優(yōu)化參數(shù)值RDcost小于所述待編碼宏塊的率失真優(yōu)化參數(shù) 的下限閾值；若沒有候選模式滿足提前終止條件，則判斷候選模式中率失真優(yōu)化參數(shù)值 RDcost最小的模式是否滿足預(yù)測錯誤條件；其中，所述預(yù)測錯誤條件為該模式的RDcost 值大于所述帶編碼宏塊的率失真優(yōu)化參數(shù)值RDcost的上限閾值；若該模式滿足預(yù)測錯誤 判斷條件，且待編碼宏塊的外極線上存在未被搜索窗搜索過的宏塊，則轉(zhuǎn)向執(zhí)行第一模塊 的功能，否則，將該模式選擇為待編碼宏塊的最優(yōu)預(yù)測模式；若該模式滿足預(yù)測錯誤條件， 且待編碼宏塊的外極線上不存在未被搜索窗搜索過的宏塊，則計算所有可能預(yù)測模式的 RDcost,并執(zhí)行第四模塊的功能；第二模塊，用于在所述候選模式集合中的每一個模式均不 滿足提前終止條件下，或候選模式中RDcost最小的模式滿足預(yù)測錯誤條件時，改變搜索窗 口的滑動步長或滑動范圍等條件，重新滑動搜索窗口，獲取新的候選模式集合；第三模塊， 用于判斷是否有新的模式被選中，若有，執(zhí)行第一模塊的功能，若沒有則重復(fù)執(zhí)行第二模塊 的功能，直到待編碼宏塊的外極線上的全部宏塊都已經(jīng)在搜索窗口的滑動范圍內(nèi)，或所有 可能的預(yù)測模式均已經(jīng)選為候選模式；第四模塊，用于在所有預(yù)測模式的RDcost均已計算 的情況下，將RDcost最小的模式選擇為最優(yōu)預(yù)測模式。上述模式?jīng)Q策系統(tǒng)，優(yōu)選所述宏塊的率失真優(yōu)化參數(shù)RDcost計算方法為=RDcost =SSD (c，r) + AMode · R ；其中SSD (c，r)表示待編碼宏塊與其編碼后重建宏塊的對應(yīng)位置亮 度與色度值的方差和，λ M。de表示所使用預(yù)測模式的拉格朗日因子，R表示該宏塊編碼后所 需的二進制位數(shù)。上述模式?jīng)Q策系統(tǒng)，優(yōu)選所述待編碼宏塊的率失真優(yōu)化參數(shù)上限閾值RDthrmax和 下限閾值RDthrmin的計算方法為RDThrmax = (1+α )RDcostmax, RDThrmin = (1+β )RDcostmin ；其中，RDcostmax 為； RDcostmin為；α為上限閾值修正因子，取值范圍是[-0. 5,0. 5]，β為下限閾值修正因子，取 值范圍是["1,0. 5]。與現(xiàn)有方法相比，本發(fā)明既能夠充分利用視圖間相似性來提高編碼速度，又無需
7弓丨入具有極高計算復(fù)雜度的視差估計等步驟。


圖1為本發(fā)明基于外極線約束的快速編碼模式?jīng)Q策方法實施例的步驟流程圖；圖2為待編碼宏塊及其外極線上宏塊，該圖以立體視頻中的左右視為例；圖3為本發(fā)明基于外極線約束的快速編碼模式?jīng)Q策方法的實現(xiàn)的示意圖；圖4為本發(fā)明基于外極線約束的快速編碼模式?jīng)Q策系統(tǒng)實施例的結(jié)構(gòu)示意圖。
具體實施例方式為使本發(fā)明的上述目的、特征和優(yōu)點能夠更加明顯易懂，下面結(jié)合附圖和具體實 施方式對本發(fā)明作進一步詳細的說明?？紤]到立體視頻中左右視或多路視頻中的多個視在內(nèi)容上具有高度相似性，可以 假設(shè)，相鄰視中具有相似或相同內(nèi)容的宏塊(更確切的，內(nèi)容為同一物體或同一物體相同 部分的宏塊)在運動方式上具有高度相似性，其參考宏塊也往往具有這種相似性，因此這 些宏塊有很大可能性使用相同或相似的預(yù)測模式進行編碼。如果能夠合理的定位這些宏 塊，就可以使用已編碼宏塊的模式來篩選和預(yù)測未編碼宏塊的模式。對于立體視頻，在其左/右視圖中，內(nèi)容為同一物體或具有相似內(nèi)容的宏塊，其位 置應(yīng)嚴格位于彼此的外極線上。如圖2所示，對于平行設(shè)置的，位于同一水平軸上的多臺采 集設(shè)備所產(chǎn)生的多個視圖，某一物體在這些視圖上的外極線均與這些視圖的水平軸平行。 就視頻編碼而言，若將宏塊視為物體，則左視圖中某一宏塊在右視圖上的外極線可以視為 右視圖中與該宏塊水平位置相同的一個宏塊行的一部分。因此，可以利用右視中一個宏塊 行上的部分宏塊的編碼模式來對左視中某一宏塊的運動估計模式進行預(yù)測和選擇，從而加 速模式?jīng)Q策過程。因此，本發(fā)明所提出的方法的基本思想是基于視圖間的外極線約束原理，利用某 一視圖中若干已編碼宏塊的運動估計模式來預(yù)測和篩選其他相關(guān)視圖中待編碼宏塊的運 動估計模式。并且這些視圖應(yīng)當由一組位于同一水平軸上的多臺平行設(shè)置的采集設(shè)備所產(chǎn) 生，也即這些采集設(shè)備的光軸是彼此平行的。參照圖1，圖1為本發(fā)明基于外極線約束的快速編碼模式?jīng)Q策方法實施例的步驟 流程圖，所述方法用于立體/多路視頻壓縮編碼中的預(yù)測模式選擇，包括如下步驟外極限上宏塊范圍確定步驟110，根據(jù)視圖間的外極線約束關(guān)系，確定待編碼宏塊 外極線上宏塊的范圍；候選模式確定步驟120，使用滑動搜索窗方式，從所述外極線上宏塊 的范圍中篩選候選模式，并通過模式修正的方式避免候選模式選擇遺漏，確定候選模式集 合；預(yù)測模式獲取步驟130，使用所述待編碼宏塊外極線上位置靠近該宏塊的N個宏塊的率 失真優(yōu)化參數(shù)值RDcost設(shè)置待編碼宏塊的率失真優(yōu)化參數(shù)上限閾值和下限閾值，并將該 閾值作為所述待編碼宏塊預(yù)測模式選擇的條件，在所述候選模式集合進行至少一次篩選， 獲取預(yù)測模式。下面對上述各個步驟進行進一步的說明。1.確定外極線上宏塊范圍。待編碼宏塊在不同視圖外極線上的已編碼宏塊。以使 用左視已編碼宏塊加速右視宏塊模式?jīng)Q策為例。對于宏塊MB,ight (m, η)，其外極線上宏塊包括 MBleft (m，η)，MBleft (m，n_l)......MBleft (m，η_Ν_1)，如圖 2 所示。2.以滑動搜索窗確定待編碼宏塊的候選模式集合。如附圖X所示。本方法使用一 個搜索窗來確定候選模式集合。搜索窗大小為16x16像素，外極線上距離帶編碼宏塊最近 的宏塊(MBlrft (m，η))位置開始，水平向左移動，移動步長為8或16像素。當搜索窗位于整宏塊位置時，也即搜索窗內(nèi)恰好有一個宏塊時，將搜索窗內(nèi)宏塊 使用的編碼模式加入候選模式集合。特別的，若8x8模式被選中，則該宏塊使用的所有小于 8x8的模式(8x8,8x4,4x8,4x4)均被選為候選模式。當搜索窗位于跨宏塊位置時，也即搜索窗內(nèi)包含左、右兩個宏塊的一部分，則需進 行模式修正，以處理右視中待編碼宏塊的內(nèi)容恰好在左視中被分割到兩個宏塊內(nèi)的情況。 為了判斷這種情況是否發(fā)生，本方法使用左右兩個宏塊的運動矢量(MV)來進行分析，具體 策略包括i.若左右宏塊均使用16x16模式時判斷左右兩宏塊MV的差是否大于閾值Thdiff， 若是，則說明左右兩宏塊很可能分別包含不同內(nèi)容，需要將16x8加入候選模式。ii.若左右宏塊均使用16x8模式時判斷搜索窗內(nèi)兩子塊的MV的差是否小于閾 值Thsim，若是，則說明左右兩子塊很可能包含相同內(nèi)容，需要將16x16加入候選模式。iii.若左右宏塊均使用8x16模式時分別計算搜索窗內(nèi)上方兩子塊間MV差和下 方兩子塊間MV差，若任一 MV差大于閾值Thdiff，則說明兩相鄰子塊可能包含不同內(nèi)容，需要 將8x8加入候選模式。iv.若左右宏塊中只有一個使用了 8x8模式時若搜索窗內(nèi)子塊均未使用8x8以 下模式(包括8x4，4x8及4x4模式)，則計算搜索窗內(nèi)兩個8x8子塊的MV差，若小于閾值 Thsim，需要將8x16加入候選模式。其余情況下，無需特別處理。3.根據(jù)外極限上已編碼宏塊設(shè)定RDcost閾值。使用待編碼宏塊外極線上位置靠 近該宏塊的N個宏塊的RDcost極值設(shè)置兩個閾值，分別用于差錯預(yù)測和提前終止。設(shè)定閾值RD上限=RDThrmax = (1+ α ) RDcostmaxRD 下限=RDThrmin = (1+ β ) RDcostmin其中，RDcostfflax和RDcostmax分別表示右視待編碼宏塊在左視外極線上最靠近該宏 塊位置的N個宏塊的RDcost值上限和下限。參照圖3，圖3也示出了基于外極線約束的快速編碼模式?jīng)Q策方法的實現(xiàn)的示意 圖。具體實施時，本方法采用分級選擇的方式，多次進行候選模式篩選，其流程描述如 下開始編碼宏塊MBk (m，η)1.第一次篩選候選模式將搜索窗從MBL (m，η)滑動至MBL (m，Ii-N1)，步長8像素， 得到候選模式集合M2.對于M中的每個模式，執(zhí)行2. 1.2. 1計算該模式的RDcost2. 2.若所有候選模式的RDcost均大于閾值RDThrmax.，轉(zhuǎn)至步驟3，否則轉(zhuǎn)至步驟 9。
3.第二次篩選候選模式將搜索窗從MBl (m，Ii-N1)滑動至MBL (m，n_N2)，步長8像 素，得到新的候選模式集合M’ .若沒有新模式被選中，則轉(zhuǎn)至步驟5。4.對于M’中的每個模式，執(zhí)行4. 1。4. 1計算該模式的RDcost4. 2.若所有候選模式的RDcost均大于閾值RDThrmax.，轉(zhuǎn)至步驟5，否則轉(zhuǎn)至步驟 9。5.第三次篩選候選模式將搜索窗從MBl (m, n_N2)滑動至MBl (m, n-N3)，步長16像 素，得到新的候選模式集合M” .若沒有新模式被選中，則轉(zhuǎn)至步驟7。6.對于M”中的每個模式，執(zhí)行6. 1。6. 1計算該模式的RDcost。 6. 2若所有候選模式的RDcost均大于閾值RDThrmax.，轉(zhuǎn)至步驟7，否則轉(zhuǎn)至步驟9。7.若所有可能模式的RDcost均已計算，轉(zhuǎn)至步驟9，否則轉(zhuǎn)至步驟8。8.計算所有剩余模式的RDcost。9.將RDcost最小的模式選擇為最優(yōu)預(yù)測模式。在步驟2. 1，4. 1或6. 1中，若任意模式的RDcost小于閾值RDThrmin，則立即轉(zhuǎn)至步 驟9需要說明的是，本方法的核心思想也可應(yīng)用于使用雙視圖拼接方法實現(xiàn)的立體電 視視頻編碼，對于水平雙拼立體電視也即兩路視頻信號從采集設(shè)備輸出后，在編碼前即使 用某種裁剪與拼接方法，合并為一路視頻進行編碼，且在該路視頻中，左右兩視圖分別位于 左右(或右左)兩側(cè)，高度不變，寬度減半。在該情況下，雖然左視與右視合并為一路視頻，但考慮到編碼順序為自上至下，自 左至右，對位于右側(cè)的已拼合視圖上的宏塊而言，無論該已拼合視圖是原始的左視或右視， 其外極線上的宏塊仍均位于該宏塊左側(cè)，因此先于該宏塊完成編碼，因此這種水平雙拼得 到的僅具有一路視頻的拼接立體視頻仍然適用于本算法。當處理這種情況時，需將算法中 針對其他視圖的宏塊X坐標等效換算為雙拼視圖中的X坐標，算法其余部分不變。對于垂直雙拼立體電視也即兩路視頻信號從采集設(shè)備輸出后，在編碼前即使用 某種裁剪與拼接方法，合并為一路視頻進行編碼，且在該路視頻中，左右兩視分別位于上下 (或下上)位置，高度減半，寬度不變。同理，在該情況下，位于下方的已拼接視圖(無論對 應(yīng)于原始視圖的左視或右視)的宏塊在另一視圖的外極限上的宏塊也先于該宏塊完成編 碼，同樣適用本算法。當處理這種情況時，需將算法中針對其他視圖的宏塊y坐標等效換算 為雙拼視圖中的y坐標，算法其余部分不變。參照圖4，圖4為本發(fā)明基于外極線約束的快速編碼模式?jīng)Q策系統(tǒng)實施例的結(jié)構(gòu) 示意圖，該系統(tǒng)用于立體/多路視頻壓縮編碼中的預(yù)測模式選擇，包括外極限上宏塊范圍確定模塊40，用于根據(jù)視圖間的外極線約束關(guān)系，確定待編碼 宏塊外極線上宏塊的范圍；候選模式確定模塊42，用于使用滑動搜索窗方式，從所述外極 線上宏塊的范圍中篩選候選模式，并通過模式修正的方式避免候選模式選擇遺漏，確定候 選模式集合；預(yù)測模式獲取模塊44，用于使用所述待編碼宏塊外極線上位置靠近該宏塊的 N個宏塊的RDcost極值設(shè)置兩個閾值，并將該閾值作為所述待編碼宏塊最優(yōu)模式選擇的條 件，在所述候選模式集合進行至少一次篩選，獲取預(yù)測模式。
上述系統(tǒng)實施例的原理與方法實施例相同，相關(guān)之處參照方法實施例即可，在此 不再贅述。以上對本發(fā)明所提供的一種基于外極線約束的快速編碼模式?jīng)Q策方法和系統(tǒng)進 行詳細介紹，本文中應(yīng)用了具體實施例對本發(fā)明的原理及實施方式進行了闡述，以上實施 例的說明只是用于幫助理解本發(fā)明的方法及其核心思想；同時，對于本領(lǐng)域的一般技術(shù)人 員，依據(jù)本發(fā)明的思想，在具體實施方式
及應(yīng)用范圍上均會有改變之處。綜上所述，本說明 書內(nèi)容不應(yīng)理解為對本發(fā)明的限制。
權(quán)利要求
一種基于外極線約束的快速編碼模式?jīng)Q策方法，其特征在于，所述方法用于立體/多路視頻壓縮編碼中的預(yù)測模式選擇，包括如下步驟外極限上宏塊范圍確定步驟，根據(jù)視圖間的外極線約束關(guān)系，確定待編碼宏塊外極線上宏塊的范圍；候選模式確定步驟，使用滑動搜索窗方式，從所述外極線上宏塊的范圍中篩選候選模式，并通過模式修正的方式避免候選模式選擇遺漏，確定候選模式集合；預(yù)測模式獲取步驟，使用所述待編碼宏塊外極線上位置靠近該宏塊的N個宏塊的率失真優(yōu)化參數(shù)值RDcost設(shè)置待編碼宏塊的率失真優(yōu)化參數(shù)上限閾值RDthrmax和下限閾值RDthrmin，并將該閾值作為所述待編碼宏塊預(yù)測模式選擇的條件，在所述候選模式集合進行至少一次篩選，獲取預(yù)測模式。
2.根據(jù)權(quán)利要求1所述的模式?jīng)Q策方法，其特征在于，所述候選模式確定步驟中，所述 滑動搜索窗口的滑動范圍至少包括所述待編碼宏塊外極線上宏塊的一個非空子集。
3.根據(jù)權(quán)利要求1或2所述的模式?jīng)Q策方法，其特征在于，所述候選模式確定步驟中， 當所述搜索窗口內(nèi)恰好有一個宏塊時，將該宏塊使用的編碼模式加入所述候選模式集合 中。
4.根據(jù)權(quán)利要求3所述的模式?jīng)Q策方法，其特征在于，所述候選模式確定步驟中，當所 述搜索窗口內(nèi)包含左、右兩個宏塊的一部分時，則進行模式修正，以處理右視中待編碼宏塊 的內(nèi)容恰好在左視中被分割到兩個宏塊內(nèi)的情況。
5.根據(jù)權(quán)利要求4所述的模式?jīng)Q策方法，其特征在于，預(yù)測模式獲取步驟中，所述的在 所述候選模式集合進行至少一次篩選，獲取預(yù)測模式，包括步驟1，依次嘗試所述候選模式集合中的每一個模式，若嘗試的模式滿足提前終止條 件，則立即選擇該模式為最優(yōu)預(yù)測模式；所述提前終止條件為該模式的率失真優(yōu)化參數(shù)值RDcost小于所述待編碼宏塊的率 失真優(yōu)化參數(shù)的下限閾值；若沒有候選模式滿足提前終止條件，則判斷候選模式中率失真 優(yōu)化參數(shù)值RDcost最小的模式是否滿足預(yù)測錯誤條件；其中，所述預(yù)測錯誤條件為該模 式的RDcost值大于所述帶編碼宏塊的率失真優(yōu)化參數(shù)值RDcost的上限閾值；若該模式 滿足預(yù)測錯誤判斷條件，且待編碼宏塊的外極線上存在未被搜索窗搜索過的宏塊，則執(zhí)行 步驟2，否則，將該模式選擇為待編碼宏塊的最優(yōu)預(yù)測模式；若該模式滿足預(yù)測錯誤條件， 且待編碼宏塊的外極線上不存在未被搜索窗搜索過的宏塊，則計算所有可能預(yù)測模式的 RDcost，并執(zhí)行步驟4 ；步驟2，若所述候選模式集合中的每一個模式均不滿足提前終止條件，或候選模式中 RDcost最小的模式滿足預(yù)測錯誤條件，則改變搜索窗口的滑動步長或滑動范圍等條件，重 新滑動搜索窗口，獲取新的候選模式集合；步驟3，判斷是否有新的模式被選中，若有，執(zhí)行步驟1，若沒有則重復(fù)執(zhí)行步驟2，直到 待編碼宏塊的外極線上的全部宏塊都已經(jīng)在搜索窗口的滑動范圍內(nèi)，或所有可能的預(yù)測模 式均已經(jīng)選為候選模式；步驟4，若所有預(yù)測模式的RDcost均已計算，將RDcost最小的模式選擇為最優(yōu)預(yù)測模式。
6.根據(jù)權(quán)利要求5所述的模式?jīng)Q策方法，其特征在于，所述宏塊的率失真優(yōu)化參數(shù)RDcost計算方法為RDcost = SSD (c，r) + XMode · R ；其中SSD(c，r)表示待編碼宏塊與其編碼后重建宏塊的對應(yīng)位置亮度與色度值的方差 和，λ Mode表示所使用預(yù)測模式的拉格朗日因子，R表示該宏塊編碼后所需的二進制位數(shù)。
7.根據(jù)權(quán)利要求6所述的模式?jīng)Q策方法，其特征在于，所述待編碼宏塊的率失真優(yōu)化 參數(shù)上限閾值RDthrmax和下限閾值RDthrmin的計算方法為RDThrmax= (1+a) RDcostfflax, RDThrfflin= (1+β ) RDcostfflin其中，RDcostmax為；RDcostmin為；α為上限閾值修正因子，取值范圍是[-0.5,0. 5], β 為下限閾值修正因子，取值范圍是[_1，0. 5]。
8.一種基于外極線約束的快速編碼模式?jīng)Q策系統(tǒng)，其特征在于，所述系統(tǒng)用于立體/ 多路視頻壓縮編碼中的預(yù)測模式選擇，包括外極限上宏塊范圍確定模塊，用于根據(jù)視圖間的外極線約束關(guān)系，確定待編碼宏塊外 極線上宏塊的范圍；候選模式確定模塊，用于使用滑動搜索窗方式，從所述外極線上宏塊的范圍中篩選候 選模式，并通過模式修正的方式避免候選模式選擇遺漏，確定候選模式集合；預(yù)測模式獲取模塊，用于使用所述待編碼宏塊外極線上位置靠近該宏塊的N個宏塊的 率失真優(yōu)化參數(shù)值RDcost設(shè)置待編碼宏塊的率失真優(yōu)化參數(shù)上限閾值RDthrmax和下限閾 值RDthrmin，并將該閾值作為所述待編碼宏塊預(yù)測模式選擇的條件，在所述候選模式集合進 行至少一次篩選，獲取預(yù)測模式。
9.根據(jù)權(quán)利要求8所述的模式?jīng)Q策系統(tǒng)，其特征在于，所述候選模式確定模塊中，所述 滑動搜索窗口的滑動范圍至少包括所述待編碼宏塊外極線上宏塊的一個非空子集。
10.根據(jù)權(quán)利要求8或9所述的模式?jīng)Q策系統(tǒng)，其特征在于，所述候選模式確定模塊 中，當所述搜索窗口內(nèi)恰好有一個宏塊時，將該宏塊使用的編碼模式加入所述候選模式集A由I=I Π^ O
11.根據(jù)權(quán)利要求10所述的模式?jīng)Q策系統(tǒng)，其特征在于，所述候選模式確定模塊中，當 所述搜索窗口內(nèi)包含左、右兩個宏塊的一部分時，則進行模式修正，以處理右視中待編碼宏 塊的內(nèi)容恰好在左視中被分割到兩個宏塊內(nèi)的情況。
12.根據(jù)權(quán)利要求11所述的模式?jīng)Q策系統(tǒng)，其特征在于，預(yù)測模式獲取模塊中，所述的 在所述候選模式集合進行至少一次篩選，獲取預(yù)測模式，包括第一模塊，用于依次嘗試所述候選模式集合中的每一個模式，若嘗試的模式滿足提前 終止條件，則立即選擇該模式為最優(yōu)預(yù)測模式；所述提前終止條件為該模式的率失真優(yōu)化參數(shù)值RDcost小于所述待編碼宏塊的率 失真優(yōu)化參數(shù)的下限閾值；若沒有候選模式滿足提前終止條件，則判斷候選模式中率失真 優(yōu)化參數(shù)值RDcost最小的模式是否滿足預(yù)測錯誤條件；其中，所述預(yù)測錯誤條件為該模 式的RDcost值大于所述帶編碼宏塊的率失真優(yōu)化參數(shù)值RDcost的上限閾值；若該模式滿 足預(yù)測錯誤判斷條件，且待編碼宏塊的外極線上存在未被搜索窗搜索過的宏塊，則轉(zhuǎn)向執(zhí) 行第一模塊的功能，否則，將該模式選擇為待編碼宏塊的最優(yōu)預(yù)測模式；若該模式滿足預(yù)測 錯誤條件，且待編碼宏塊的外極線上不存在未被搜索窗搜索過的宏塊，則計算所有可能預(yù) 測模式的RDcost，并執(zhí)行第四模塊的功能；3第二模塊，用于在所述候選模式集合中的每一個模式均不滿足提前終止條件下，或候 選模式中RDcost最小的模式滿足預(yù)測錯誤條件時，改變搜索窗口的滑動步長或滑動范圍 等條件，重新滑動搜索窗口，獲取新的候選模式集合；第三模塊，用于判斷是否有新的模式被選中，若有，執(zhí)行第一模塊的功能，若沒有則重 復(fù)執(zhí)行第二模塊的功能，直到待編碼宏塊的外極線上的全部宏塊都已經(jīng)在搜索窗口的滑動 范圍內(nèi)，或所有可能的預(yù)測模式均已經(jīng)選為候選模式；第四模塊，用于在所有預(yù)測模式的RDcost均已計算的情況下，將RDcost最小的模式選 擇為最優(yōu)預(yù)測模式。
13.根據(jù)權(quán)利要求12所述的模式?jīng)Q策系統(tǒng)，其特征在于，所述宏塊的率失真優(yōu)化參數(shù) RDcost計算方法為RDcost = SSD (c，r) + XMode · R ；其中SSD(c，r)表示待編碼宏塊與其編碼后重建宏塊的對應(yīng)位置亮度與色度值的方差 和，λ Mode表示所使用預(yù)測模式的拉格朗日因子，R表示該宏塊編碼后所需的二進制位數(shù)。
14.根據(jù)權(quán)利要求13所述的模式?jīng)Q策系統(tǒng)，其特征在于，所述待編碼宏塊的率失真優(yōu) 化參數(shù)上限閾值RDthrmax和下限閾值RDthrmin的計算方法為RDThrmax= (1+a)RDcostfflax, RDThrfflin= (1+^)RD Costfflin其中，RDcostmax為；RDcostmin為；α為上限閾值修正因子，取值范圍是[-0.5,0. 5], β 為下限閾值修正因子，取值范圍是[_1，0. 5]。
全文摘要
本發(fā)明公開了一種基于外極線約束的快速編碼模式?jīng)Q策方法和系統(tǒng)。其中，包括根據(jù)視圖間的外極線約束關(guān)系，確定待編碼宏塊外極線上宏塊的范圍；使用滑動搜索窗方式，從所述外極線上宏塊的最優(yōu)預(yù)測模式范圍中篩選候選模式，并通過模式修正的方式避免候選模式選擇遺漏，確定候選模式集合；使用所述待編碼宏塊外極線上位置靠近該宏塊的N個宏塊的率失真優(yōu)化參數(shù)值設(shè)置待編碼宏塊的率失真優(yōu)化參數(shù)上限閾值和下限閾值，并將該閾值作為所述待編碼宏塊最優(yōu)預(yù)測模式選擇的條件，在所述候選模式集合進行至少一次篩選，獲取預(yù)測模式。本發(fā)明既能夠充分利用視圖間相似性來提高編碼速度，又無需引入具有極高計算復(fù)雜度的視差估計等步驟。
文檔編號H04N7/26GK101959067SQ201010291989
公開日2011年1月26日 申請日期2010年9月26日 優(yōu)先權(quán)日2010年9月26日
發(fā)明者楊國磊, 梁璐宏, 馬思偉, 高文 申請人:北京大學(xué)