專利名稱:圖像拍攝設備、圖像處理方法、及圖像處理程序的制作方法
技術領域:
本發(fā)明涉及一種圖像拍攝設備、圖像處理方法、及可在計算機上執(zhí)行以實施圖像處理方法的計算機程序,用于把通過由布置為視點(焦點)相互一致的多個成像單元所拍攝的多個圖像連接成單個圖像。
背景技術:
已知布置多個成像光學系統(tǒng)(成像裝置)使得其圖像區(qū)域彼此部分重疊,從而使得能夠拍攝全景運動圖像(或廣角圖像)。然而,在圖像光學系統(tǒng)之間存在大視差,這使得難以精確地經(jīng)由重疊區(qū)域連接多個圖像區(qū)域。
日本專利No.2974500公開了一種多鏡頭圖像拍攝設備,其被構(gòu)成為根據(jù)變焦(zoom)和/或聚焦檢測在從成像系統(tǒng)輸出的鄰接圖像之間的重疊區(qū)域中的拼接(registration)誤差,并且調(diào)節(jié)鄰接成像系統(tǒng)之間的會聚角,使得拼接誤差最小化。
發(fā)明內(nèi)容
然而,在日本專利No.2974500公開的方法中,當重疊區(qū)域包括在不同距離的對象時,難以對于所有對象精確地校正拼接誤差。
如果圖像拍攝設備被構(gòu)造為使用具有小的或沒有視差的多個成像光學系統(tǒng),則可以精確地經(jīng)由重疊區(qū)域連接多個圖像。
然而,當焦點(focus)改變時,在焦距(focal distance)中的相應改變導致在由鄰接成像光學系統(tǒng)所拍攝的圖像之間的重疊區(qū)域中的拼接誤差,其不能夠在不導致圖像質(zhì)量劣化的情況下而被校正。
因此,希望提供一種技術,以精確地連接由多個成像系統(tǒng)拍攝的、在鄰接圖像之間的重疊區(qū)域中具有小拼接誤差的圖像,而不管各個成像系統(tǒng)的焦點值。
考慮到以上所述,本發(fā)明提供一種包括多個成像裝置的圖像拍攝設備,其中每個成像裝置包括具有可變焦距的鏡頭和圖像感應器件,所述多個成像裝置被布置為使得它們的視點基本上彼此一致并且圖像區(qū)域部分地彼此重疊,從而使得能夠通過連接由各個成像裝置獲得的多個圖像而獲得廣角圖像,每個成像裝置包括為焦距的各個值而準備的多個映射表的集合,每個映射表表現(xiàn)針對各個焦距值之一的在具體坐標系統(tǒng)和其中表現(xiàn)由每個圖像感應器件拍攝的圖像的坐標系統(tǒng)之間的對應關系;控制器,適配為選擇與用于由圖像感應器件拍攝圖像的焦距對應的映射表;以及映射單元,適配為按照在由所述控制器選擇的映射表中描述的對應關系,而把每個圖像映射至所述具體坐標系統(tǒng)。
在以上述方式配置的此圖像拍攝設備中,按照焦距的改變而動態(tài)切換映射表,由此使得由從多個成像系統(tǒng)輸出的所映射的圖像數(shù)據(jù)所表現(xiàn)的圖像能夠經(jīng)由重疊區(qū)域而精確地彼此連接,而不管焦距如何。
本發(fā)明還提供一種圖像處理方法,用于通過連接由多個成像裝置拍攝的圖像而獲得廣角圖像,其中每個成像裝置包括具有可變焦距的鏡頭和圖像感應器件,所述多個成像裝置被布置為使得它們的視點基本上彼此一致并且圖像區(qū)域部分地彼此重疊,所述圖像處理方法包括下述步驟從針對用于圖像拍攝操作的焦距的各個值而準備的多個映射表的集合中選擇映射表,每個映射表表現(xiàn)針對各個焦距值之一的在具體坐標系統(tǒng)和其中表現(xiàn)由每個圖像感應器件拍攝的圖像的坐標系統(tǒng)之間的對應關系;以及按照在所選擇的映射表中描述的對應關系,而把由每個圖像感應器件所拍攝的每個圖像映射至所述具體坐標系統(tǒng),從而按照所選擇的映射表而映射至所述具體坐標系統(tǒng)的圖像和由鄰接成像裝置映射至所述具體坐標系統(tǒng)的圖像在重疊區(qū)域中彼此重疊,所述重疊區(qū)域保持固定而不管焦距如何。
在此圖像處理方法中,按照焦距的改變而動態(tài)切換映射表,從而使得由從多個成像系統(tǒng)輸出的所映射的圖像數(shù)據(jù)所表現(xiàn)的圖像能夠經(jīng)由重疊區(qū)域而精確地彼此連接,而不管焦距如何。
如上所述,本發(fā)明提供了巨大的優(yōu)勢,即由多個成像系統(tǒng)所拍攝的圖像經(jīng)由在鄰接圖像之間的重疊區(qū)域而精確地彼此連接,而不管各個成像系統(tǒng)的焦點值(焦距)如何。
圖1是按照本發(fā)明實施例的包括兩個成像系統(tǒng)的圖像拍攝設備的框圖;圖2是示出鏡頭失真校正的例子的示意圖;
圖3是示出把圖像映射至圓柱表面的例子的示意圖;圖4是示出按照本發(fā)明實施例映射至圓柱表面的兩個鄰接圖像的示意圖;圖5是示出按照本發(fā)明實施例通過把兩個輸出圖像展開至平面而獲得的圖像的示意圖;圖6是按照本發(fā)明實施例的包括三個成像系統(tǒng)的圖像拍攝設備的框圖;以及圖7是示出按照本發(fā)明實施例通過把三個輸出圖像展開至平面而獲得的圖像的示意圖。
具體實施例方式
下面參照圖1~7描述本發(fā)明的具體實施例。在下面描述的實施例中,作為舉例假定圖像拍攝設備是用作監(jiān)視器攝像機等的視頻攝像機。
圖1示出了按照本發(fā)明實施例的包括兩個成像系統(tǒng)的圖像拍攝設備。如圖1所示,圖像拍攝設備包括第一和第二成像系統(tǒng)(成像裝置),它們被布置為使得兩個成像系統(tǒng)的視點(焦點)彼此一致并且使得鄰接成像系統(tǒng)(在此情況下為該第一和第二成像系統(tǒng))的圖像區(qū)域彼此部分地重疊。這種類型的圖像拍攝設備稱為“共視點多光學系統(tǒng)攝像機”。在這種類型的圖像拍攝設備中,因為成像系統(tǒng)被布置為其視點彼此一致,因此在由多個成像系統(tǒng)所形成的圖像之間不存在視差。因此,可以通過適當?shù)卦O置投影中心并把輸入圖像投影到單個平圖像平面(或非平面圖像表面)來無縫地連接多個圖像。連接多個圖像的各種方法是已知的。例如,在日本未審查專利申請公開No.2004-184862中公開的方法。
第一成像系統(tǒng)包括成像光學系統(tǒng),包括鏡頭1和4、光圈2、及用作圖像感應器件的CCD(電荷耦合器件);CCD圖像處理單元7;后向映射單元8;可重寫存儲器9(存儲單元);重疊區(qū)域評估單元10;重疊區(qū)域處理單元11;控制器12;映射表13的集合;以及輸出單元14。該存儲器9可以是非易失型或易失型。
光圈控制單元3是驅(qū)動單元,被適配為按照從控制器12提供的控制信號來控制光圈2的光圈值。
焦點控制單元5是驅(qū)動單元,被適配為按照從控制器12提供的控制信號來通過沿光軸移動鏡頭4而控制聚焦(焦距)。
當經(jīng)由鏡頭1和4捕獲圖像時,焦點值和光圈2被調(diào)節(jié)以使得圖像聚焦在CCD6。CCD圖像處理單元7對CCD6的輸出執(zhí)行各種處理,諸如模擬-數(shù)字轉(zhuǎn)換、RGB轉(zhuǎn)換等。CCD圖像處理單元7還按照從控制器12提供的控制信號,對從CCD6輸出的圖像信號執(zhí)行圖像質(zhì)量調(diào)節(jié),諸如色彩校正。雖然在本實施例中CCD用作圖像感應器件,但是也可以使用其它類型的圖像感應器件,諸如CMOS(互補金屬氧化物半導體)圖像感應器件。
后向映射單元(映射單元)8執(zhí)行處理,以精確地把由第一成像系統(tǒng)所獲得的圖像與由第二成像系統(tǒng)所獲得的圖像相重疊。在這一級,由每個成像系統(tǒng)的CCD圖像處理單元7經(jīng)由圖像處理所獲得的圖像數(shù)據(jù)包括因每個成像系統(tǒng)的鏡頭失真所造成的失真、在光學系統(tǒng)之間的相對定位誤差、以及三維空間中圖像向CCD6的二維平面的投影,所述失真使得難以獲得兩個圖像之間的完美邊界。為了校正因這些因素造成的失真,在CCD圖像處理單元7后的級中布置的后向映射單元8執(zhí)行后向映射處理(下面,簡稱為映射),以使得實現(xiàn)在由兩個成像系統(tǒng)所獲得的圖像之間的精確重疊。
映射表13的集合包括多個映射表,其中每個表現(xiàn)在具體坐標系統(tǒng)和其中表現(xiàn)由CCD(圖像感應器件)6所拍攝的圖像的坐標系統(tǒng)之間具體焦點值(焦距)的對應關系。注意,在映射表13的集合中的多個映射表為各個不同焦點值而準備,使得每個映射表表現(xiàn)對各個不同焦點值之一的對應關系。例如,針對一個映射表中各個不同焦距的每個而描述把CCD6所拍攝的圖像映射至三維坐標系統(tǒng)中非平面圖像或者進一步至二維平面圖像的對應關系。允許用戶選擇將圖像映射至非平面圖像還是二維平面圖像。
映射信息可以在圖像拍攝設備的制作過程中被存儲在專用映射表存儲器中,或者也可以存儲在存儲器9等中,使得當圖像拍攝設備的電源接通時映射信息被從存儲器9中讀取。
映射中所使用的映射表13根據(jù)焦點值而適當?shù)厍袚Q。更具體地說,負責控制焦點的控制器12選擇與用于拍攝圖像的焦點值對應的適當映射表。按照在所選擇映射表中描述的映射信息,后向映射單元8執(zhí)行映射,使得輸出圖像數(shù)據(jù)的重疊部分被映射至布置在后向映射單元8之后的級中的存儲器9的具體區(qū)域。
重疊區(qū)域評估單元10從存儲器9讀取在鄰接成像系統(tǒng)所輸出的圖像數(shù)據(jù)之間的重疊區(qū)域,并且評估其圖像質(zhì)量。評估的結(jié)果被發(fā)送至控制器12。
控制器12是操作/處理控制單元,諸如CPU(中央處理單元),按照諸如存儲在ROM(只讀存儲器)中的用于控制整個圖像拍攝設備的程序和圖像處理程序等的計算機程序,控制使用RAM(隨機存取存儲器)作為工作區(qū)域的各種操作和處理。當控制器12接收由與第一成像系統(tǒng)鄰接的第二成像系統(tǒng)的重疊區(qū)域評估單元110所進行的評估的結(jié)果時,控制器12精確地確定與從第二成像系統(tǒng)中獲得的色彩的差異??刂破?2經(jīng)由光圈控制單元3調(diào)節(jié)光圈2的光圈值,和/或經(jīng)由CCD圖像處理單元7調(diào)節(jié)圖像質(zhì)量,從而最小化色彩差異。
控制器12從鏡頭4獲取與拍攝圖像時所用的焦點值相關聯(lián)的信息,或者從操作單元獲取與拍攝圖像時由用戶執(zhí)行的手動聚焦操作相關聯(lián)的信息,并且所述控制器12存儲所獲取的信息。
重疊區(qū)域處理單元11把帶有重疊區(qū)域大小的圖像數(shù)據(jù)(像素數(shù)據(jù))發(fā)送至與第一成像系統(tǒng)相鄰接的第二成像系統(tǒng)的重疊區(qū)域處理單元111,并且從第二成像系統(tǒng)的重疊區(qū)域處理單元111獲取帶有重疊區(qū)域大小的圖像數(shù)據(jù)。如果重疊區(qū)域處理單元11從與第一成像系統(tǒng)相鄰接的第二成像系統(tǒng)接收帶有重疊區(qū)域大小的圖像數(shù)據(jù),則重疊區(qū)域處理單元11執(zhí)行諸如阿爾法(alpha)混合處理的混合處理或諸如重疊區(qū)域?qū)Υ幚?overlapping area treatment process)的紋理混合處理。
經(jīng)過混合處理的結(jié)果圖像數(shù)據(jù)經(jīng)由輸出單元14輸出至外部器件。該外部器件被允許簡單通過并排放置從各個圖像拍攝設備輸出的圖像而獲得帶有希望視角的圖像或帶有高圖像質(zhì)量的全景圖像。對于從輸出單元14輸出的圖像數(shù)據(jù)所輸入至的外部器件,可以使用,例如,諸如LCD(液晶顯示器)器件的顯示器件或諸如HDD(硬盤驅(qū)動器)記錄器/播放器的記錄/回放設備。
第二成像系統(tǒng)包括成像光學系統(tǒng)包括鏡頭101和104、光圈102、以及用作圖像感應器件的CCD(電荷耦合器件)106;CCD圖像處理單元107;后向映射單元108;可重寫非易失性存儲器109;重疊區(qū)域評估單元110;重疊區(qū)域處理單元111;控制器112;映射表集合113;以及數(shù)據(jù)單元114。這些部件類似于上述第一成像系統(tǒng)的部件,并且因此其重復解釋在此省略。
下面描述產(chǎn)生映射表13的集合的方法。在其中表現(xiàn)由圖像感應器件(CCD6)拍攝的圖像的坐標系統(tǒng)和其中以最終形式表現(xiàn)圖像的坐標系統(tǒng)之間的對應關系能夠按照已知方法確定,并且映射表能夠按照所確定的對應關系產(chǎn)生。映射表113的集合能夠以類似的方式產(chǎn)生,并且因此在下面的說明中,僅僅針對映射表13的集合解釋產(chǎn)生映射表的方法。
如上所述,每個映射表13被描述為表現(xiàn)鏡頭失真校正、光學系統(tǒng)的相對位置誤差的校正、與把平面圖像映射至三維空間中的圖像的投影變換的復合函數(shù)。鏡頭失真校正可以通過例如已知為Tsai攝像機模型的方法而進行。
圖2示出鏡頭失真校正的例子。在圖2中,未經(jīng)校正狀態(tài)下的圖像21和經(jīng)校正狀態(tài)下的圖像22的每個中的點O表示每個圖像的中心,(Xc,Yc)表示每個圖像的點O的坐標。注意,圖像中心被定義為一個成像系統(tǒng)的光軸和圖像平面的交叉點,所述圖像平面即未經(jīng)校正的圖像21或經(jīng)校正的圖像22。如果假定作為失真校正的結(jié)果,未經(jīng)校正的圖像21的任意點Pd(Xd,Yd)被轉(zhuǎn)換到經(jīng)校正的圖像22的點Pi(Xi,Yi),則失真校正的轉(zhuǎn)換能夠在數(shù)學上如下表示Xi=Xd(1+k1r2+k2r4)]]>Yi=Yd(1+k1r2+k2r4)---(1)]]>r=Xd2+Yd2]]>其中k1和k2為除0以外的任意值。
成像系統(tǒng)的相對定位誤差校正和投影變換能夠在總體上按照如下所示的針孔攝像機模型來表示。
xyz=f0Cx0fCy001[R]XwYwZw]]>其中左側(cè)表示攝像機坐標系統(tǒng),右側(cè)第一項表示TV矩陣,第二項表示旋轉(zhuǎn)矩陣,第三項表示世界坐標系統(tǒng),f表示焦距,以及Cx和Cy表示在x和y方向距離圖像中心的成像系統(tǒng)偏差。在此公式中,如下所示來表示旋轉(zhuǎn)角度R。
R=cosYsinY0-sinYcosY00011000cosRsinR0-sinRcosRcosP0-sinP010sinP0cosP]]>其中,Y、R、和P分別表示成像系統(tǒng)的偏轉(zhuǎn)(yaw)、轉(zhuǎn)動(roll)和俯仰(pitch)。
如上所述,圖像拍攝坐標系統(tǒng)(攝像機坐標系統(tǒng))(x,y,z)中表現(xiàn)的圖像上的點通過世界坐標系統(tǒng)(Xw,Yw,Zw)中的坐標、旋轉(zhuǎn)矩陣R和TV矩陣的積給出。注意,TV矩陣表示從世界坐標系統(tǒng)向圖像拍攝坐標系統(tǒng)(攝像機坐標系統(tǒng))的投影變換。
因為Cx和Cy分別表示在x方向和y方向上距離光軸中心(圖像中心)的成像系統(tǒng)(攝像機)的偏差,R(轉(zhuǎn)動)、P(俯仰)和Y(偏轉(zhuǎn))表示成像系統(tǒng)(攝像機)的姿態(tài),因此能夠通過成像系統(tǒng)(攝像機)的校準來確定這些參數(shù)。
在進行了失真校正之后,對于經(jīng)過失真校正的圖像22進行位置誤差校正和投影變換。更具體地說,在投影到圓柱表面的情況下,如圖3所示投影到圓柱表面24的圖像23的極坐標被確定,并且代入公式(2)。然后按照代入的結(jié)果產(chǎn)生映射表。如果對于公式(2)中的焦距f的各個值產(chǎn)生映射表,則獲得與焦距f的各個值對應的后向映射表的集合。
參照圖4,下面解釋針對多個成像系統(tǒng)的每個的映射處理的圖像的區(qū)域。圖4示出在第一和第二成像系統(tǒng)中經(jīng)過至圓柱表面的映射的兩個輸出圖像。在圖4中,參考標號25和27表示通過對由相應的第一和第二成像系統(tǒng)拍攝的圖像進行失真校正而獲得的圖像。如果把經(jīng)過失真校正的圖像25和27投影至圓柱表面24,則獲得圖像26和28。即,相應的圖像(A)和(B)的映射數(shù)據(jù)由圖像26和28給出。
在如圖4所示經(jīng)由連接線29彼此接合的圖像(A)和(B)被輸出至外部器件的情況下,準備映射表,從而包含具有在顯示器上測量的標準圖像大小的圖像(A)和其中圖像(A)重疊圖像(B)的重疊區(qū)域31在內(nèi)的圖像區(qū)域被覆蓋為圖像(A),包含具有在顯示器上測量的標準圖像大小的圖像(B)和其中圖像(B)重疊圖像(A)的重疊區(qū)域30在內(nèi)的圖像區(qū)域被覆蓋為圖像(B),并且執(zhí)行后向映射。其中,圖像(A)和(B)是從相應成像系統(tǒng)輸出的、具有在顯示器上測量的標準圖像大小的圖像。具有在顯示器上測量的標準圖像大小的圖像是形成廣角圖像的單位圖像。即,廣角圖像或全景圖像是通過把具有在顯示器上測量的標準圖像大小的多個圖像相結(jié)合而形成的。
為了上述目的,鄰接成像系統(tǒng)的圖像感應器件的每個拍攝包含圖像(A)或(B)和重疊區(qū)域31或30在內(nèi)的圖像,其中所述圖像(A)或(B)具有在顯示器上測量的標準圖像大小,在所述重疊區(qū)域31或30中,具有在顯示器上測量的標準圖像大小的圖像(A)或(B)與由鄰接成像系統(tǒng)拍攝的圖像(B)或(A)重疊。通過根據(jù)焦距適當?shù)貓?zhí)行映射,重疊區(qū)域31和30在大小上固定,而不論焦距如何。
在圖像拍攝設備用作如本實施例中的監(jiān)視器攝像機的情況下,變焦率總體上固定在具體值。然而,在某些情況下,希望在監(jiān)視器攝像機中改變變焦率。為了滿足這樣的要求,可以針對焦距的各個值和針對變焦率的各個值來準備映射表集合。這使得可以通過選擇與焦距相對應的和與變焦率相對應的正確映射表來適當?shù)貓?zhí)行映射。因此,可以經(jīng)由不管變焦率如何均大小固定的重疊區(qū)域精確地連接由成像系統(tǒng)拍攝的多個圖像。
下面將更詳細描述由第一和第二成像系統(tǒng)拍攝的圖像的映射。
當成像系統(tǒng)的電源接通時,針對每個焦距的、表示在其中表現(xiàn)由CCD6拍攝的圖像的坐標系統(tǒng)和具體坐標系統(tǒng)之間的對應關系的映射表13的集合被讀入存儲單元(未示出)。
在第一成像系統(tǒng)中,控制器12從映射表13選擇與用于圖像拍攝操作的焦距對應的映射表。按照所選擇的映射表中所描述的對應關系,后向映射單元8把經(jīng)由CCD6拍攝的圖像映射至具體坐標系統(tǒng)中的圖像,例如,映射至圓柱表面24上的非平面圖像。把作為結(jié)果的所映射的圖像存儲在存儲器9中。
類似地,在第二成像系統(tǒng)中,按照與用于圖像拍攝操作的焦距對應的映射表把經(jīng)由CCD106拍攝的圖像映射至該具體坐標系統(tǒng),并且把作為結(jié)果的所映射的圖像存儲在存儲器109中。
如圖4所示,第一成像系統(tǒng)的存儲器9中存儲的圖像與第二成像系統(tǒng)的存儲器109中存儲的圖像表現(xiàn)映射至圓柱表面24的圖像26和28。這兩個圖像26和28經(jīng)由重疊區(qū)域30和31彼此精確地連接,而不論焦距如何。
圖5示出了通過把如圖4所示的在圓柱表面24上的圖像26和28在平面上展開而獲得的圖像。由第一成像系統(tǒng)的后向映射單元8所映射的圖像(A)的映射數(shù)據(jù)26包括具有在顯示器上測量的標準圖像大小的圖像(A)和其中該圖像與具有第二成像系統(tǒng)的顯示器上所測量的標準圖像大小的鄰接圖像(B)重疊的重疊區(qū)域31的圖像。類似地,由第二成像系統(tǒng)的后向映射單元108所映射的圖像(B)的映射數(shù)據(jù)28包括具有在顯示器上測量的標準圖像大小的圖像(B)和其中該圖像與具有第二成像系統(tǒng)的顯示器上所測量的標準圖像大小的鄰接圖像(B)重疊的重疊區(qū)域30的圖像。
在彼此鄰接的第一和第二成像系統(tǒng)中,由第一成像系統(tǒng)拍攝的圖像超越連接邊界29而達到其中該圖像與由第二成像系統(tǒng)拍攝的具有顯示器上的所測量的標準圖像大小的圖像(B)重疊的重疊區(qū)域31,而由第二成像系統(tǒng)拍攝的圖像超越連接邊界29而達到其中該圖像與由第一成像系統(tǒng)拍攝的具有顯示器上的所測量的標準圖像大小的圖像(A)重疊的重疊區(qū)域30。注意重疊區(qū)域30的大小被設置為等于重疊區(qū)域31的大小。
因為兩個圖像關于重疊區(qū)域30和31中的每個而非常精確地對齊,所以可以按照重疊區(qū)域中圖像的評估結(jié)果而控制光圈2(或102)和CCD圖像處理單元7(或107),,從而鄰接成像系統(tǒng)之間的色彩差異被最小化,其中在所述重疊區(qū)域中該圖像與由鄰接成像系統(tǒng)所拍攝的具有顯示器上的所測量的標準圖像大小的圖像重疊。
更具體地說,第一成像系統(tǒng)具有重疊區(qū)域評估單元10(圖1)來評估在由第一成像系統(tǒng)所拍攝的具有顯示器上的所測量的標準圖像大小的圖像(A)和由第二成像系統(tǒng)所拍攝的圖像28之間的重疊部分30中的圖像的圖像質(zhì)量。類似地,第二成像系統(tǒng)具有重疊區(qū)域評估單元110來評估在由第二成像系統(tǒng)所拍攝的具有顯示器上的所測量的標準圖像大小的圖像(B)和由第一成像系統(tǒng)所拍攝的圖像26之間的重疊部分31中的圖像的圖像質(zhì)量。
如圖1所示,指示由第一成像系統(tǒng)的重疊區(qū)域評估單元10所進行的評估的結(jié)果的數(shù)據(jù)被輸入到第一成像系統(tǒng)的控制器12,并且也被輸入到第二成像系統(tǒng)的控制器112,指示由第二成像系統(tǒng)的重疊區(qū)域評估單元110所進行的評估的結(jié)果的數(shù)據(jù)被輸入第二成像系統(tǒng)的控制器112,并且也被輸入第一成像系統(tǒng)的控制器12。按照評估結(jié)果,第一第二成像系統(tǒng)的控制器12和112調(diào)節(jié)圖像質(zhì)量,從而重疊區(qū)域中色彩的差異被最小化。
在上述實施例中,重疊區(qū)域中的圖像數(shù)據(jù)由彼此鄰接的成像系統(tǒng)二者評估。替代地,圖像數(shù)據(jù)之一的圖像質(zhì)量可以被固定作為基準。例如,在第一成像系統(tǒng)中獲得的圖像的圖像質(zhì)量可以被固定,并且可以參照在第一成像系統(tǒng)中獲得的圖像的圖像質(zhì)量而調(diào)節(jié)在第二成像系統(tǒng)中獲得的圖像的圖像質(zhì)量。
每個成像系統(tǒng)具有重疊區(qū)域處理單元來對在由當前成像系統(tǒng)所拍攝的具有顯示器上的所測量的標準圖像大小的圖像和由鄰接成像系統(tǒng)所拍攝的圖像之間的重疊部分執(zhí)行具體處理。
更具體地說,第一成像系統(tǒng)具有重疊區(qū)域處理單元11,該重疊區(qū)域處理單元11被適配來對在具有第一成像系統(tǒng)的顯示器上的所測量的標準圖像大小的圖像(A)和由第二成像系統(tǒng)所拍攝的圖像28之間的重疊部分30執(zhí)行混合處理。類似地,第二成像系統(tǒng)具有重疊區(qū)域處理單元111,該重疊區(qū)域處理單元111被適配來對在由第二成像系統(tǒng)所拍攝的具有顯示器上的所測量的標準圖像大小的圖像(B)和由第一成像系統(tǒng)所拍攝的圖像26之間的重疊部分31執(zhí)行混合處理。第一和第二成像系統(tǒng)的重疊區(qū)域處理單元11和111的每個向另一重疊區(qū)域處理單元提供重疊區(qū)域的RGB像素數(shù)據(jù)(圖1)。重疊區(qū)域處理單元11和111的每個就鄰接成像系統(tǒng)的重疊區(qū)域的大小和圖像質(zhì)量分析所接收的像素數(shù)據(jù),并且按照分析結(jié)果適當?shù)貙χ丿B區(qū)域執(zhí)行處理。
更具體地說,第一成像系統(tǒng)的重疊區(qū)域處理單元11按照從與第一成像系統(tǒng)鄰接的第二成像系統(tǒng)提供的像素數(shù)據(jù)來對圖5所示的重疊區(qū)域30的圖像數(shù)據(jù)執(zhí)行混合處理。在完成混合處理后,重疊區(qū)域30的結(jié)果圖像數(shù)據(jù)被發(fā)送至輸出單元14。
在此處理中,可以把僅重疊區(qū)域30的圖像數(shù)據(jù)發(fā)送至輸出單元14,或者可以把包括重疊區(qū)域30的圖像數(shù)據(jù)的、具有在顯示器上所測量的標準圖像大小的圖像(A)的圖像數(shù)據(jù)經(jīng)由重疊區(qū)域處理單元11發(fā)送至輸出單元14。在把僅重疊區(qū)域30的圖像數(shù)據(jù)提供至重疊區(qū)域處理單元11的情況下,輸出單元14從存儲器9獲取其余圖像數(shù)據(jù),并且把所獲取的圖像數(shù)據(jù)添加到重疊區(qū)域30的圖像數(shù)據(jù),以獲得具有顯示器上所測量的標準圖像大小的整體圖像數(shù)據(jù)(A)。具有顯示器上所測量的標準圖像大小的結(jié)果圖像數(shù)據(jù)(A)從輸出單元14輸出至外部器件。
類似地,在第二成像系統(tǒng)中,按照來自與第二成像系統(tǒng)鄰接的第一成像系統(tǒng)的像素數(shù)據(jù),重疊區(qū)域處理單元111對圖5所示的重疊區(qū)域31的圖像數(shù)據(jù)執(zhí)行混合處理。重疊區(qū)域31的結(jié)果圖像數(shù)據(jù)被發(fā)送至輸出單元114。輸出單元114向外部器件輸出包括經(jīng)過混合處理的重疊區(qū)域31的圖像在內(nèi)的、具有顯示器上所測量的標準圖像大小的圖像(B)。
如上所述,從輸出單元14輸出的圖像(A)包括已經(jīng)經(jīng)過重疊處理的重疊區(qū)域30,從輸出單元114輸出的圖像(B)包括已經(jīng)經(jīng)過重疊處理的重疊區(qū)域31。這使得外部器件能夠簡單通過并排對齊圖像(A)和圖像(B)而獲得廣角圖像。
或者,可以不執(zhí)行重疊區(qū)域?qū)Υ幚恚梢园寻ㄖ丿B部分的圖像(A)和圖像(B)的映射數(shù)據(jù)提供至外部器件,并且可以在外部器件中執(zhí)行重疊區(qū)域?qū)Υ幚?。在此情況下,因為在外部器件中執(zhí)行重疊區(qū)域?qū)Υ幚?,因此降低了圖像拍攝設備上的處理負擔。另外在此情況下,重疊區(qū)域映射至特定區(qū)域,并且因此允許外部設備在不需要與重疊區(qū)域的圖像數(shù)據(jù)相關聯(lián)的任何信息的情況下執(zhí)行重疊區(qū)域?qū)Υ幚?。即,如果預先定義重疊大小,則外部器件能夠按照預先定義的重疊大小來執(zhí)行重疊區(qū)域?qū)Υ幚?,并且因此不需要向外部器件發(fā)送除圖像數(shù)據(jù)之外的任何信息。
或者,在圖像拍攝設備不執(zhí)行重疊區(qū)域?qū)Υ幚淼那闆r下,每次圖像數(shù)據(jù)輸出至外部器件時,指示重疊大小的數(shù)據(jù)可以與圖像數(shù)據(jù)一起提供。再或者,重疊大小可以預先定義為待輸出的圖像的總圖像大小的函數(shù),或者重疊大小可以不管總圖像大小任何而固定為具體值。
下面參照圖6和7描述本發(fā)明的其它實施例。在圖6和7中,與圖1或5中的部分類似的部分由類似的參考標號表示,并且在此將不對它們進行進一步的詳細解釋。
圖6示出了包括三個成像系統(tǒng)的圖像拍攝設備,該三個成像系統(tǒng)的每個與圖1中所示的兩個成像系統(tǒng)類似。第三成像系統(tǒng)包括成像光學系統(tǒng),包括鏡頭201和204、光圈202、及用作圖像感應器件的CCD 206;CCD圖像處理單元207;后向映射單元208;可重寫非易失性存儲器209;重疊區(qū)域評估單元210;重疊區(qū)域處理單元211;控制器212;映射表集合213;以及輸出單元214。這些部件類似于上述的第一或第二成像系統(tǒng)的部件,因此在此省略其重復的說明。
在本例中,圖像拍攝設備被構(gòu)造為數(shù)據(jù)傳輸不僅允許在第一和第二成像系統(tǒng)之間進行,而且允許在第二和第三成像系統(tǒng)之間傳輸各種類型的數(shù)據(jù)。即,如圖6所示,指示由第二成像系統(tǒng)的重疊區(qū)域評估單元110進行的評估的結(jié)果的數(shù)據(jù)被輸入至第二成像系統(tǒng)的控制器112,也被輸入至第三成像系統(tǒng)的控制器212,指示由第三成像系統(tǒng)的重疊區(qū)域評估單元210進行的評估的結(jié)果的數(shù)據(jù)被輸入至第三成像系統(tǒng)的控制器212,也被輸入至第二成像系統(tǒng)的控制器112。按照評估結(jié)果,第二和第三成像系統(tǒng)的控制器112和212調(diào)節(jié)圖像質(zhì)量,從而重疊區(qū)域中的色彩差異被最小化。
第二和第三成像系統(tǒng)的重疊區(qū)域處理單元111和211的每個向另一重疊區(qū)域處理單元提供重疊區(qū)域的RGB像素數(shù)據(jù)。重疊區(qū)域處理單元111和211的每個就鄰接成像系統(tǒng)的重疊區(qū)域的大小和圖像質(zhì)量來分析所接收的像素數(shù)據(jù),并且按照分析結(jié)果對重疊區(qū)域適當?shù)貓?zhí)行處理。
圖7示出了通過把圓柱表面上的三個圖像在平面上展開而獲得的圖像。注意,所展開的圖像類似于圖5所示,除了它包括由第三成像系統(tǒng)所獲得的附加圖像(C)。在第三成像系統(tǒng)中,以類似于圖像(A)或(B)的映射數(shù)據(jù)26或28的方式,通過按照與在圖像拍攝操作中所應用的焦距對應的映射表而把由第三成像系統(tǒng)的CCD206所拍攝的圖像映射至具體坐標系統(tǒng),而獲得圖像(C)的映射數(shù)據(jù)36。
由第二成像系統(tǒng)的后向映射單元108所映射的圖像(B)的映射數(shù)據(jù)28包括具有顯示器上所測量的標準圖像大小的圖像(B)和重疊區(qū)域35的圖像,其中該圖像與具有第三成像系統(tǒng)的顯示器上所測量的標準圖像大小的鄰接圖像(C)重疊。類似地,由第三成像系統(tǒng)的后向映射單元208所映射的圖像(C)的映射數(shù)據(jù)36包括具有顯示器上所測量的標準圖像大小的圖像(C)和重疊區(qū)域34的圖像,其中該圖像與具有第二成像系統(tǒng)的顯示器上所測量的標準圖像大小的鄰接圖像(B)重疊。
如同第一和第二成像系統(tǒng)的圖像,由第二成像系統(tǒng)拍攝的圖像超越連接邊界33達到重疊區(qū)域35,在重疊區(qū)域35中,該圖像與由第三成像系統(tǒng)所拍攝的具有顯示器上的所測量的標準圖像大小的圖像(C)重疊,而由第三成像系統(tǒng)拍攝的圖像超越連接邊界33達到重疊區(qū)域34,在重疊區(qū)域34中,該圖像與由第二成像系統(tǒng)所拍攝的具有顯示器上的所測量的標準圖像大小的圖像(B)重疊,其中,重疊區(qū)域34的大小被設置為等于重疊區(qū)域35的大小。
此外,如同第一和第二成像系統(tǒng)的圖像,該兩個圖像關于重疊區(qū)域34和35中的每個而非常精確地對齊,并且按照在重疊區(qū)域中的圖像的評估結(jié)果來控制光圈102(或202)和CCD圖像處理單元107(或207),從而最小化在第二和第三成像系統(tǒng)之間的彩色差異,在重疊區(qū)域中,該圖像與由鄰接成像系統(tǒng)所拍攝的具有顯示器上的所測量的標準圖像大小的圖像重疊。
此外,如同第一和第二成像系統(tǒng)的圖像,第二和第三成像系統(tǒng)的重疊區(qū)域處理單元111和211的每個向另一重疊區(qū)域處理單元提供重疊區(qū)域的RGB像素數(shù)據(jù)(圖6)。重疊區(qū)域處理單元111和211的每個就鄰接的成像系統(tǒng)的重疊區(qū)域的大小和圖像質(zhì)量來分析所接收的像素數(shù)據(jù),并且按照分析結(jié)果來對重疊區(qū)域適當?shù)貓?zhí)行處理。
因此,可以精確地連接由第一至第三成像系統(tǒng)所拍攝的三個圖像。類似地,也可以經(jīng)由固定大小的重疊區(qū)域精確地連接由具有四個或更多成像系統(tǒng)的圖像拍攝設備所拍攝的四個或更多的圖像。
如上所述,在諸如被適配賴通過連接從多個成像系統(tǒng)輸出的圖像來獲取廣角圖像的諸如多鏡頭攝像機或全方位攝像機的圖像拍攝設備中,特別是在其中成像系統(tǒng)被布置為由成像系統(tǒng)拍攝的圖像部分地彼此重疊的圖像拍攝設備中,覆蓋包括具有顯示器上所測量的標準圖像大小的圖像的區(qū)域和重疊區(qū)域、并且可切換或可重寫的后向映射表的集合被存儲在每個CCD之后級上布置的單元中,并且根據(jù)焦點(焦距)而切換映射表,從而由鄰接成像系統(tǒng)所拍攝的輸出圖像能夠經(jīng)由重疊區(qū)域而精確地彼此連接,而不論焦點值如何。即,后向映射表根據(jù)焦點值的改變而動態(tài)地切換,從而圖像數(shù)據(jù)的重疊區(qū)域被精確地映射至具體區(qū)域,而不論焦點值如何。
每個圖像的重疊區(qū)域被非常精確地映射至特定區(qū)域,并且在此區(qū)域中的數(shù)據(jù)關于鄰接圖像而被評估。按照評估結(jié)果,控制CCD圖像處理單元和光圈,從而從鄰接成像系統(tǒng)的CCD圖像處理單元輸出的數(shù)據(jù)之間的彩色差異被精確地校正。
用于按照從鄰接成像系統(tǒng)提供的重疊數(shù)據(jù)來執(zhí)行諸如混合處理的邊界對待處理的塊(重疊區(qū)域處理單元)被布置在用于按照所選擇的后向映射表執(zhí)行映射的后向映射單元之后的級上,由此由每個成像系統(tǒng)的重疊區(qū)域處理單元對圖像數(shù)據(jù)執(zhí)行邊界對待處理,并且結(jié)果圖像數(shù)據(jù)輸出至外部器件。因此,使得外部器件能夠簡單通過并排放置圖像來獲得具有所希望的視角的圖像。
因此,在被適配來通過連接從多個成像系統(tǒng)輸出的圖像來獲取廣角圖像的諸如多鏡頭攝像機或全方位攝像機的圖像拍攝設備中,可以獲得在鄰接成像系統(tǒng)之間的邊界區(qū)域上不模糊的高質(zhì)量圖像,而不管焦點設置如何。
通過交換后向映射表的數(shù)據(jù),可以容易地獲得鏡像反轉(zhuǎn)圖像、垂直翻轉(zhuǎn)圖像、或其它反轉(zhuǎn)圖像。在本發(fā)明中,對于圖像拍攝設備的成像系統(tǒng)的相對位置沒有具體限制。即,不在水平線上安排成像系統(tǒng),而是可以垂直地安排它們。對于成像系統(tǒng)的數(shù)目也不存在具體限制,因為經(jīng)過映射處理的圖像被單獨地從每個成像系統(tǒng)輸出。即,可以按照獲得所希望的視角所需要的數(shù)目而在圖像拍攝設備中安排與該數(shù)目一樣多的成像系統(tǒng)。
雖然,在上述實施例中,假定本發(fā)明應用于如日本專利No.2974500中所公開的共視點多光學系統(tǒng)攝像機,但是本發(fā)明也可以應用于其中多個攝像機(成像系統(tǒng))簡單并行布置的圖像拍攝設備,因為當將被拍攝的主體處于足夠距離的位置時,在這樣的圖像拍攝設備中的多個成像系統(tǒng)的視點能夠視為彼此一致。
本發(fā)明也可以通過向系統(tǒng)或設備提供其上存儲了實施上述任何實施例的功能的軟件程序的存儲介質(zhì)來實現(xiàn),由此系統(tǒng)或設備中的計算機(或CPU或類似控制器件)讀取并執(zhí)行在存儲介質(zhì)上存儲的程序代碼。
能夠用于本發(fā)明以提供程序代碼的存儲介質(zhì)的具體例子包括軟盤、硬盤、光盤、磁光盤、CD-ROM盤、CD-R盤、磁帶、非易失性存儲卡、以及ROM。
當按照根據(jù)本發(fā)明的上述實施例之一或其混合的一個或多個功能通過在計算機上執(zhí)行程序代碼而實現(xiàn)時,在計算機上運行的操作系統(tǒng)(OS)可以按照程序代碼執(zhí)行所有或部分處理。注意,以這樣的方式的實現(xiàn)也落入本發(fā)明的范圍。
本領域技術人員應當理解,根據(jù)設計要求和其它因素,各種修改、組合、子組合和替代也是可以的,只要它們在所附權(quán)利要求或其等同內(nèi)容的范圍內(nèi)。
有關申請的交叉引用本申請包含2005年12月14日在日本專利局提交的日本專利申請JP2005-360811的有關主題,其整體內(nèi)容通過引用包含于此。
權(quán)利要求
1.一種包括多個成像裝置的圖像拍攝設備,其中每個成像裝置包括具有可變焦距的鏡頭和圖像感應器件,所述多個成像裝置被布置為使得它們的視點基本上彼此一致并且圖像區(qū)域部分地彼此重疊,從而能夠通過連接由各個成像裝置獲得的多個圖像而獲得廣角圖像,每個成像裝置包括針對焦距的各個值而準備的多個映射表的集合,每個映射表表現(xiàn)針對各個焦距值之一的在具體坐標系統(tǒng)和其中表現(xiàn)由每個圖像感應器件拍攝的圖像的坐標系統(tǒng)之間的對應關系;控制器,適配為選擇與用于由圖像感應器件拍攝圖像的焦距對應的映射表;以及映射單元,適配為按照由所述控制器選擇的映射表中描述的對應關系,而把每個圖像映射至所述具體坐標系統(tǒng)。
2.按照權(quán)利要求1所述的圖像拍攝設備,其中,在映射表集合中的映射表是針對焦距的各個不同值而準備,針對各個不同的焦距之一,每個映射表表現(xiàn)從每個圖像感應器件拍攝的圖像向三維坐標系統(tǒng)中的非平面圖像或進一步向二維平面圖像的映射中的對應關系。
3.按照權(quán)利要求1所述的圖像拍攝設備,其中,由每個圖像感應器件拍攝的圖像包括作為由多個單位組成的廣角圖像的單位的、具有在顯示器上所測量的標準圖像大小的圖像,還包括重疊區(qū)域中的圖像,在重疊區(qū)域中該圖像與由鄰接成像裝置拍攝的具有在顯示器上的所測量的標準圖像大小的圖像重疊,重疊區(qū)域中圖像的顯示器上的所測量的大小保持為固定,而不論焦距如何。
4.按照權(quán)利要求1所述的圖像拍攝設備,其中,在彼此鄰接的第一和第二成像裝置中,由第一成像裝置拍攝的圖像超越與由第二成像裝置所拍攝的具有顯示器上的所測量的標準圖像大小的圖像的連接邊界,達到其中由第一成像裝置拍攝的圖像重疊由第二成像裝置拍攝的圖像的第一重疊區(qū)域,以及由第二成像裝置拍攝的圖像超越與由第一成像裝置所拍攝的具有顯示器上的所測量的標準圖像大小的圖像的連接邊界,達到其中由第二成像裝置拍攝的圖像重疊由第一成像裝置拍攝的圖像的第二重疊區(qū)域,所述第一重疊區(qū)域具有與所述第二重疊區(qū)域的大小相同的大小。
5.按照權(quán)利要求3所述的圖像拍攝設備,其中,每個成像裝置從鄰接成像裝置獲取在由當前成像裝置所拍攝的顯示器上的所測量的標準圖像大小的圖像和由鄰接成像裝置所拍攝的圖像之間的重疊部分的評估結(jié)果,并且根據(jù)所獲取的評估結(jié)果針對由鄰接成像裝置所拍攝的圖像的色彩而校正重疊部分的色彩差異。
6.按照權(quán)利要求5所述的圖像拍攝設備,其中,每個成像裝置還包括光圈;以及重疊區(qū)域評估單元,被適配來評估在由當前成像裝置所拍攝的具有顯示器上的所測量的標準圖像大小的圖像和由鄰接成像裝置所拍攝的圖像之間的重疊部分;并且其中,每個成像裝置的控制器按照從鄰接成像裝置的重疊區(qū)域評估單元提供的評估結(jié)果而調(diào)節(jié)成像裝置的光圈值和/或由圖像感應器件所拍攝的圖像的圖像質(zhì)量,從而最小化色彩差異。
7.按照權(quán)利要求3所述的圖像拍攝設備,其中,每個成像裝置向其它成像裝置發(fā)送在重疊區(qū)域中的圖像的像素數(shù)據(jù),在該重疊區(qū)域中由成像裝置拍攝的具有顯示器上的所測量的標準圖像大小的圖像重疊由鄰接成像裝置拍攝的圖像,以及每個成像裝置接收從其它成像裝置發(fā)送的像素數(shù)據(jù),并且每個成像裝置按照所接收的像素數(shù)據(jù)對重疊區(qū)域中的圖像執(zhí)行混合處理。
8.按照權(quán)利要求7所述的圖像拍攝設備,其中,每個成像裝置還包括重疊區(qū)域處理單元,被適配以對在由成像裝置所拍攝的具有顯示器上的所測量的標準圖像大小的圖像和由鄰接成像裝置所拍攝的圖像之間的重疊部分執(zhí)行混合處理,以及所述重疊區(qū)域處理單元從鄰接成像裝置獲取像素數(shù)據(jù),對重疊部分執(zhí)行混合處理,并且輸出包括經(jīng)過混合處理的重疊部分的、具有在顯示器上的所測量的標準圖像大小的圖像。
9.一種圖像處理方法,用于通過連接由多個成像裝置拍攝的圖像而獲得廣角圖像,其中每個成像裝置包括具有可變焦距的鏡頭和圖像感應器件,所述多個成像裝置被布置為使得它們的視點基本上彼此一致并且圖像區(qū)域部分地彼此重疊,所述圖像處理方法包括步驟從針對用于圖像拍攝操作的焦距的各個值而準備的多個映射表的集合中選擇映射表,每個映射表表現(xiàn)針對各個焦距值之一的在具體坐標系統(tǒng)和其中表現(xiàn)由每個圖像感應器件拍攝的圖像的坐標系統(tǒng)之間的對應關系;以及按照在所選擇的映射表中描述的對應關系,而把由每個圖像感應器件所拍攝的每個圖像映射至所述具體坐標系統(tǒng),從而按照所選擇的映射表而映射至所述具體坐標系統(tǒng)的圖像和由鄰接成像裝置映射至所述具體坐標系統(tǒng)的圖像在重疊區(qū)域中彼此重疊,所述重疊區(qū)域保持固定而不管焦距如何。
10.一種計算機程序,用于通過連接由多個成像裝置拍攝的圖像而獲得廣角圖像,其中每個成像裝置包括具有可變焦距的鏡頭和圖像感應器件,所述多個成像裝置被布置為使得它們的視點基本上彼此一致并且圖像區(qū)域部分地彼此重疊,所述計算機程序在計算機上可執(zhí)行以實施包括下列的功能功能,從針對用于圖像拍攝操作的焦距的各個值而準備的多個映射表的集合中選擇映射表,每個映射表表現(xiàn)針對各個焦距值之一的在具體坐標系統(tǒng)和其中表現(xiàn)由每個圖像感應器件拍攝的圖像的坐標系統(tǒng)之間的對應關系;以及功能,按照在所選擇的映射表中描述的對應關系,而把由每個圖像感應器件所拍攝的每個圖像映射至所述具體坐標系統(tǒng),從而按照所選擇的映射表而映射至所述具體坐標系統(tǒng)的圖像在重疊區(qū)域中與由鄰接成像裝置拍攝、并映射至所述具體坐標系統(tǒng)的圖像重疊,所述重疊區(qū)域保持固定而不管焦距如何。
11.一種包括多個成像單元的圖像拍攝設備,其中每個成像單元包括具有可變焦距的鏡頭和圖像感應器件,所述多個成像單元被布置為使得它們的視點基本上彼此一致并且圖像區(qū)域部分地彼此重疊,從而能夠通過連接由各個成像裝置獲得的多個圖像而獲得廣角圖像,每個成像單元包括針對焦距的各個值而準備的多個映射表的集合,每個映射表表現(xiàn)針對各個焦距值之一的在具體坐標系統(tǒng)和其中表現(xiàn)由每個圖像感應器件拍攝的圖像的坐標系統(tǒng)之間的對應關系;控制器,適配為選擇與用于由圖像感應器件拍攝圖像的焦距對應的映射表;以及映射單元,適配為按照由所述控制器選擇的映射表中描述的對應關系,而把每個圖像映射至所述具體坐標系統(tǒng)。
全文摘要
一種包括多個成像單元的圖像拍攝設備,其中每個成像單元包括具有可變焦距的鏡頭和圖像感應器件。所述多個成像單元被布置為使得它們的視點基本上彼此一致并且圖像區(qū)域部分地彼此重疊,從而使得能夠通過連接由成像單元獲得的多個圖像而獲得廣角圖像。每個成像單元包括映射表的集合,每個映射表表現(xiàn)在具體坐標系統(tǒng)和其中表現(xiàn)由每個圖像感應器件拍攝的圖像的坐標系統(tǒng)之間的針對具體焦距的對應關系。每個成像單元還包括控制器,適配為選擇與焦距對應的映射表;以及映射單元,適配為按照所選擇的映射表而把圖像映射至該具體坐標系統(tǒng)。
文檔編號H04N5/225GK1982934SQ200610166779
公開日2007年6月20日 申請日期2006年12月14日 優(yōu)先權(quán)日2005年12月14日
發(fā)明者出口聰 申請人:索尼株式會社