一些實施例涉及一種裝置,并且特別地而非排他性地涉及一種具有光敏器件陣列的裝置。
背景技術(shù):
用于確定到目標(biāo)的距離的設(shè)備是已知的。
當(dāng)前的光(或激光)范圍和檢測(LIDAR)設(shè)備和/或3D圖/深度設(shè)備通常限于單個應(yīng)用,它們針對該單個應(yīng)用被優(yōu)化。例如,在一些設(shè)備中,多個相機或者相機陣列提供可以用于確定范圍的圖像。計算相機應(yīng)用可以將這些圖像內(nèi)的特征相比較并且使用與相機或相機陣列相關(guān)聯(lián)的內(nèi)部和外部參數(shù)的知識來確定距設(shè)備的距離。計算相機應(yīng)用因此可以產(chǎn)生具有相關(guān)聯(lián)的3D深度圖的3D圖像。這些應(yīng)用例如可以采用諸如前景背景分離、3D掃描、3D建模之類的技術(shù)。這些3D深度圖或模型然后可以在增強現(xiàn)實(AR)、虛擬現(xiàn)實(VR)以及甚至物流應(yīng)用中被采用。
3D/深度計算的準(zhǔn)確度、速度和一致性對于諸如3D掃描和建模等關(guān)鍵使用情況而言是重要的。比如,3D掃描設(shè)備應(yīng)當(dāng)生成一致的3D模型,這些3D模型可以被物流公司用于存儲空間估計。3D模型中的錯誤例如可以導(dǎo)致不正確的空間估計。
然而,相機、算法和設(shè)備生產(chǎn)中的限制阻止了對所有的錯誤、運動和變型的有效糾正。另外,這些問題在移動設(shè)備中由于受限的計算能力、電池容量以及設(shè)備在捕獲期間的運動而通常更糟糕。
技術(shù)實現(xiàn)要素:
根據(jù)第一方面,提供了一種裝置,包括:至少一個相機模塊,被 配置成生成至少一個圖像;至少一個基于ToF SPAD的范圍檢測模塊,被配置成生成在裝置與在模塊視場內(nèi)的目標(biāo)之間的至少一個距離確定;以及處理器,被配置成從至少一個相機模塊輸出接收至少一個圖像、并且從基于ToF SPAD的范圍檢測模塊輸出接收至少一個距離確定、并且基于至少一個相機模塊輸出和至少一個距離確定來確定深度圖。
處理器可以被配置成確定操作模式,并且基于至少一個相機模塊輸出和至少一個距離確定來確定深度圖還可以基于操作模式。
操作模式可以是光強度模式,其中光強度模式可以基于由裝置確定的周圍光水平而被確定。
還基于操作模式來確定深度圖還可以包括被配置成進行以下操作的處理器:當(dāng)光強度模式是低周圍光時,基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖;當(dāng)光強度模式是高周圍光時,基本上基于來自至少一個相機模塊的至少一個圖像來確定深度圖;以及當(dāng)光強度模式既不是低周圍光也不是高周圍光時,基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖。
操作模式可以是速度模式,其中速度模式可以基于在深度圖內(nèi)的目標(biāo)的速度被確定。
還基于操作模式來確定深度圖還可以包括被配置成進行以下操作的處理器:當(dāng)速度模式是快時,基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖;當(dāng)速度模式是慢時,基本上基于來自至少一個相機模塊的至少一個圖像來確定深度圖;以及當(dāng)速度模式既不是快也不是慢或者既是快又是慢時,基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖。
操作模式可以是準(zhǔn)確度模式,其中準(zhǔn)確度模式可以基于在深度圖內(nèi)的目標(biāo)的期望準(zhǔn)確度被確定。
還基于操作模式來確定深度圖還可以包括被配置成進行以下操 作的處理器:當(dāng)準(zhǔn)確度模式是高準(zhǔn)確度模式時,基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖;當(dāng)準(zhǔn)確度模式是低準(zhǔn)確度模式時,基本上基于來自至少一個相機模塊的至少一個圖像來確定深度圖;以及當(dāng)準(zhǔn)確度模式既不是低準(zhǔn)確度模式也不是高準(zhǔn)確度模式時,基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖。
操作模式可以是范圍模式,其中范圍模式可以基于在深度圖內(nèi)的目標(biāo)距裝置的期望距離被確定。
還基于操作模式來確定深度圖還可以包括被配置成進行以下操作的處理器:當(dāng)范圍模式是微距離或近距離時,基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖;當(dāng)范圍模式是遠(yuǎn)距離時,基本上基于來自至少一個相機模塊的至少一個圖像來確定深度圖;以及當(dāng)范圍模式既不是近距離也不是遠(yuǎn)距離或者既是近距離又是遠(yuǎn)距離時,基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖。
操作模式可以是功率模式,其中功率模式可以基于裝置的期望功率使用被確定。
還基于操作模式來確定深度圖還可以包括被配置成進行以下操作的處理器:當(dāng)功率模式是低功率模式時,基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖;當(dāng)功率模式是高功率模式時,基本上基于來自至少一個相機模塊的至少一個圖像來確定深度圖;以及當(dāng)功率模式既不是低功率模式也不是高功率模式時,基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖。
至少一個相機模塊可以包括以確定的距離被分離的兩個相機模塊,其中至少一個基于ToF SPAD的范圍檢測模塊之一可以被配置成 位于由確定的距離定義的體積內(nèi)。
至少一個相機模塊可以包括多孔徑相機。
處理器可以被配置成:基于來自至少一個相機模塊輸出的至少一個圖像來確定第一深度圖;確定深度圖上的至少一個點,該至少一個點與來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定在空間上重合;以及基于在空間上重合的距離確定來在至少一個點處校準(zhǔn)第一深度圖。
根據(jù)第二方面,提供了一種方法,包括:提供被配置成生成至少一個圖像的至少一個相機模塊;提供被配置成生成在裝置與在模塊視場內(nèi)的目標(biāo)之間的至少一個距離確定的至少一個基于ToF SPAD的范圍檢測模塊;從至少一個相機模塊輸出接收至少一個圖像并且從基于ToF SPAD的范圍檢測模塊輸出接收至少一個距離確定;以及基于至少一個相機模塊輸出和至少一個距離確定來確定深度圖。
該方法還可以包括確定操作模式,并且其中基于至少一個相機模塊輸出和至少一個距離確定來確定深度圖還可以包括基于操作模式根據(jù)至少一個相機模塊輸出和至少一個距離確定來確定深度圖。
確定操作模式可以包括確定光強度模式。
確定光強度模式可以包括確定周圍光水平。
基于操作模式確定深度圖還可以包括:當(dāng)光強度模式是低周圍光時,基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖;當(dāng)光強度模式是高周圍光時,基本上基于來自至少一個相機模塊的至少一個圖像來確定深度圖;以及當(dāng)光強度模式既不是低周圍光也不是高周圍光時,基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖。
確定操作模式可以包括確定速度模式。
確定速度模式可以包括確定在深度圖內(nèi)的目標(biāo)的速度。
還基于操作模式來確定深度圖還可以包括:當(dāng)速度模式是快時,基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定 來確定深度圖;當(dāng)速度模式是慢時,基本上基于來自至少一個相機模塊的至少一個圖像來確定深度圖;以及當(dāng)速度模式既不是快也不是慢或者既是快又是慢時,基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖。
確定操作模式可以包括確定準(zhǔn)確度模式。
確定準(zhǔn)確度模式可以包括確定在深度圖內(nèi)的目標(biāo)的期望準(zhǔn)確度。
還基于操作模式來確定深度圖還可以包括:當(dāng)準(zhǔn)確度模式是高準(zhǔn)確度模式時,基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖;當(dāng)準(zhǔn)確度模式是低準(zhǔn)確度模式時,基本上基于來自至少一個相機模塊的至少一個圖像來確定深度圖;以及當(dāng)準(zhǔn)確度模式既不是低準(zhǔn)確度模式也不是高準(zhǔn)確度模式時,基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖。
確定操作模式可以包括確定范圍模式。
確定范圍模式可以包括確定在深度圖內(nèi)的目標(biāo)距裝置的期望距離。
還基于操作模式來確定深度圖還可以包括:當(dāng)范圍模式是微距離或近距離時,基本上基于來自所述基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖;當(dāng)范圍模式是遠(yuǎn)距離時,基本上基于來自至少一個相機模塊的至少一個圖像來確定深度圖;以及當(dāng)范圍模式既不是近距離也不是遠(yuǎn)距離或者既是近距離又是遠(yuǎn)距離時,基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖。
確定操作模式可以包括確定功率模式。
確定功率模式可以包括確定裝置的期望功率使用。
還基于操作模式來確定深度圖還可以包括:當(dāng)功率模式是低功率模式時,基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖;當(dāng)功率模式是高功率模式時,基本上基于來 自至少一個相機模塊的至少一個圖像來確定深度圖;以及當(dāng)功率模式既不是低功率模式也不是高功率模式時,基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖。
提供至少一個相機模塊可以包括定位以確定的距離被分離的兩個相機模塊,其中提供至少一個基于ToF SPAD的范圍檢測模塊包括在由確定的距離定義的體積內(nèi)定位至少一個基于ToF SPAD的范圍檢測模塊之一。
提供至少一個相機模塊可以包括提供多孔徑相機。
該方法還可以包括:基于來自至少一個相機模塊輸出的至少一個圖像來確定第一深度圖;確定所述深度圖上的至少一個點,該至少一個點與來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定在空間上重合;以及基于在空間上重合的距離確定來在至少一個點處校準(zhǔn)第一深度圖。
根據(jù)第三方面,提供了一種裝置,包括:用于生成至少一個圖像的部件;用于從基于ToF SPAD的范圍檢測模塊生成至少一個距離確定的部件;以及用于基于至少一個相機模塊輸出和至少一個距離確定來確定深度圖的部件。
該裝置還可以包括用于確定操作模式的部件,其中用于基于至少一個相機模塊輸出和至少一個距離確定來確定深度圖的部件還可以包括用于基于操作模式根據(jù)至少一個相機模塊輸出和至少一個距離確定來確定深度圖的部件。
用于確定操作模式的部件可以包括用于確定光強度模式的部件。
用于確定光強度模式的部件可以包括用于確定周圍光水平的部件。
用于基于操作模式確定深度圖的部件還可以包括:用于在光強度模式是低周圍光時基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖的部件;用于在光強度模式是高周圍光時基本上基于來自至少一個相機模塊的至少一個圖像來確定深度 圖的部件;以及用于在光強度模式既不是低周圍光也不是高周圍光時基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖的部件。
用于確定操作模式的部件可以包括用于確定速度模式的部件。
用于確定速度模式的部件可以包括用于確定在深度圖內(nèi)的目標(biāo)的速度的部件。
用于還基于操作模式來確定深度圖的部件還可以包括:用于在速度模式是快時基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖的部件;用于在速度模式是慢時基本上基于來自至少一個相機模塊的至少一個圖像來確定深度圖的部件;以及用于在速度模式既不是快也不是慢或者既是快又是慢時基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖的部件。
用于確定操作模式的部件可以包括用于確定準(zhǔn)確度模式的部件。
用于確定準(zhǔn)確度模式的部件可以包括用于確定在深度圖內(nèi)的目標(biāo)的期望準(zhǔn)確度的部件。
用于還基于操作模式來確定深度圖的部件還可以包括:用于在準(zhǔn)確度模式是高準(zhǔn)確度模式時基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖的部件;用于在準(zhǔn)確度模式是低準(zhǔn)確度模式時基本上基于來自至少一個相機模塊的至少一個圖像來確定深度圖的部件;以及用于在準(zhǔn)確度模式既不是低準(zhǔn)確度模式也不是高準(zhǔn)確度模式時基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖的部件。
用于確定操作模式的部件可以包括用于確定范圍模式的部件。
用于確定范圍模式的部件可以包括用于確定在深度圖內(nèi)的目標(biāo)距裝置的期望距離的部件。
用于還基于操作模式來確定深度圖的部件還可以包括:用于在范 圍模式是微距離或近距離時基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖的部件;用于在范圍模式是遠(yuǎn)距離時基本上基于來自至少一個相機模塊的至少一個圖像來確定深度圖的部件;以及用于在范圍模式既不是近距離也不是遠(yuǎn)距離或者既是近距離又是遠(yuǎn)距離時基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖的部件。
用于確定操作模式的部件可以包括用于確定功率模式的部件。
用于確定功率模式的部件可以包括用于確定裝置的期望功率使用的部件。
用于還基于操作模式來確定深度圖的部件還可以包括:用于在功率模式是低功率模式時基本上基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定來確定深度圖的部件;用于在功率模式是高功率模式時基本上基于來自至少一個相機模塊的至少一個圖像來確定深度圖的部件;以及用于在功率模式既不是低功率模式也不是高功率模式時基于來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定以及來自至少一個相機模塊的至少一個圖像二者的組合來確定深度圖的部件。
該裝置還可以包括:用于基于來自至少一個相機模塊輸出的至少一個圖像來確定第一深度圖的部件;用于確定深度圖上的至少一個點的部件,該至少一個點與來自基于ToF SPAD的范圍檢測模塊的至少一個距離確定在空間上重合;以及用于基于在空間上重合的距離確定來在該至少一個點處校準(zhǔn)第一深度圖的部件。
附圖說明
現(xiàn)在將參考附圖僅作為示例來描述一些實施例,在附圖中:
圖1示出了根據(jù)一些實施例的包括距離確定模塊的示例裝置的示意性視圖;
圖2示出了使用圖1所示的示例裝置的示例波束覆蓋;
圖3示出了通過圖1所示的示例裝置實現(xiàn)的示例測距時序圖;
圖4示出了在圖1所示的裝置內(nèi)實現(xiàn)的飛行時間(SPAD)和相機模塊的示意性視圖;
圖5示出了示例相機和相機陣列配置;
圖6a到圖6i示出了根據(jù)一些實施例的、包括距離確定模塊的另外的示例裝置;
圖7示出了圖1以及圖6a到圖6i中所示的裝置內(nèi)的飛行時間模塊的錐體尺寸的示例集電極和發(fā)射極視場;
圖8示出了使用圖6f和圖6g所示的裝置的示例波束覆蓋;
圖9到圖11示出了采用根據(jù)一些實施例的裝置的示例方法;
圖12示出了根據(jù)一些實施例的示例飛行時間模塊的示意性視圖;以及
圖13示出了示例裝置的操作的流程圖。
具體實施方式
與本文中描述的實施例相關(guān)聯(lián)的概念是采用范圍求解模塊和應(yīng)用并且使其相關(guān)聯(lián)以幫助實現(xiàn)3D測距應(yīng)用和3D建模應(yīng)用。
移動電話中傳統(tǒng)的多相機或相機陣列實施方式例如可以確定目標(biāo)遠(yuǎn)離移動電話并且從而使得能夠?qū)σ苿与娫掃M行姿態(tài)控制。首先,多個相機可以捕獲圖像。圖像信號處理器(ISP)然后對圖像進行后處理以構(gòu)造3D圖。多相機(以及尤其是雙相機)實施方式可以提供3D掃描和前景背景分離。多相機實施方式通常不增加移動電話的Z高度(或厚度),這對于更高分辨率的移動相機而言在“像素競賽(pixel race)”方面是一個普遍的問題。不幸的是,計算相機實施方式具有以下問題:
噪聲:相機的圖像質(zhì)量(IQ)在低光條件下通常由于高的環(huán)境噪聲、低的信號速率以及圖像傳感器靈敏度的限制而很差。
速度:相機實施方式在捕獲低光中的圖像方面通常由于更長的聚焦時間和更長的曝光時間而很慢。任何對象移動和設(shè)備運動(例如握 手)可以在所捕獲的圖像中引起閃爍并且因此在生成的任何3D模型中引起錯誤。
準(zhǔn)確性:由于3D/深度圖通過圖形處理被創(chuàng)建,所以3D/深度圖的準(zhǔn)確性受到圖像質(zhì)量和ISP算法的限制。比如,如果相機由于對象移動或握手移動設(shè)備而沒有正確地聚焦,則圖像將會很模糊并且因此所計算的結(jié)果可能不正確。另外,制造和生產(chǎn)一致性可能限制準(zhǔn)確性。
功率:多相機和多芯片實施方式相對于電池供電設(shè)備消耗大量功率。多幀捕獲和計算也非常耗電。
大?。合鄼C模塊大小相對于手持式或移動式設(shè)備很明顯。多個相機因此可能在移動設(shè)備中占據(jù)更多空間。
生產(chǎn):多相機設(shè)備由于零件到零件的變化以及多相機之間的潛在未對準(zhǔn)而可能面臨生產(chǎn)挑戰(zhàn),而深度計算部分基于多個相機之間的距離來計算。因此,多相機實施方式的變化和未對準(zhǔn)可能導(dǎo)致不準(zhǔn)確的3D/深度圖生成。
諸如相機IQ、捕獲速度和準(zhǔn)確性等以上限制因此可能限制多相機3D/深度實施方式的使用及其用戶體驗。另外,尺寸和功耗問題可能進一步限制其在移動設(shè)備中的實施方式。
本文中進一步詳細(xì)討論的概念可以體現(xiàn)在其中傳統(tǒng)的多相機實施方式與飛行時間(ToF)模塊組合的示例中。ToF模塊可以包括支持激光器、傳感器和孔徑(其可以是合適的光學(xué)窗口或透鏡)的封裝。光脈沖從激光器發(fā)出,穿過孔徑,并且可以被反射離開目標(biāo)(通過返回孔徑)并且回到傳感器。光行進到目標(biāo)并且被反射回傳感器所需要的時間可以用于基于已知的光速來確定目標(biāo)與設(shè)備之間的距離。這被稱為距離的直接測量。替選地,可以通過測量光源輸出的信號與在目標(biāo)上被反射并且被光傳感器檢測到的信號之間的相位平移來獲得所需要的時間的間接測量。
ToF模塊傳感器可以包括被用作反射光的指示器的單光子雪崩二極管(SPAD)。通常,SPAD的陣列被提供作為傳感器以便檢測反射的光脈沖。光子生成的載波(諸如光脈沖中的光子)可以在SPAD陣 列中的SPAD中的一個或多個SPAD中觸發(fā)雪崩電流。雪崩電流可以將事件發(fā)信號,即已經(jīng)檢測到光的光子。
以這樣的方式,飛行時間模塊可以改善精度、速度并且減小由計算相機應(yīng)用產(chǎn)生的變化。
雖然可以使用傳統(tǒng)的紅外(IR)光和IR接近傳感器來克服所提出的問題中的一些問題,然而其在準(zhǔn)確性和測距方面受到限制。例如,以下表格說明了與飛行時間(ToF)模塊相比而言使用傳統(tǒng)的IR和IR反射輔助的問題。
另外,包括IR光和IR傳感器的IR模塊可能占據(jù)很大的空間并且因此將增加成本、尺寸和功率。
在下文中進一步詳細(xì)描述的實施例中,ToF模塊輔助的3D/深度解決方案在低的光、速度、準(zhǔn)確性、范圍、功率、尺寸等方面具有很多優(yōu)點。例如,可以使用單光子雪崩二極管(SPAD)并且計數(shù)所返回的光子而非返回信號功率的ToF模塊可以改善低光性能、測量速度和測距準(zhǔn)確性。類似地,在一些實施例中,使用SPAD的ToF模塊可以測量光速并且可以降低整個系統(tǒng)功耗。ToF模塊還可以使用被合并在單個模塊內(nèi)的豎直腔體表面發(fā)射激光器(VCSEL)加上SPAD并且可以用于針對多相機3D/深度實施方式減小物理尺寸。例如,如本文中所描述的,ToF模塊可以代替多個相機中的一個或多個相機。另外,ToF模塊的封裝大小可以使得能夠復(fù)用多個相機之間的空間。
圖1中示出了根據(jù)一些實施例的包括ToF距離確定模塊的第一示例設(shè)備或裝置。
圖1示出了例如包括耦合到柔性線纜117的第一相機111的裝置或設(shè)備101。另外,示例裝置101包括也耦合到柔性線纜117的第二相機115。第一相機和第二相機111、115被布置成使得它們被配置成至少捕獲部分交疊的視場,但是它們通過“空白”空間被分離,使得每個相機的視場充分難以使得3D/深度分析被執(zhí)行。示例裝置101還包括柔性線纜117。柔性線纜117是適合用于向諸如相機等模塊提供功率和定時信號并且還使得能夠向諸如圖像信號處理器(ISP)119和存儲器121等處理器提供圖像和感測數(shù)據(jù)的輸出的電氣耦合的示例。因此,在一些實施例中,柔性線纜117可以用諸如印刷電路板跡線等任意合適的電氣耦合來代替,其中印刷電路還支持或定位相機和其他模塊。
示例裝置或設(shè)備101可以包括被配置成執(zhí)行或運行用于處理圖像或傳感器數(shù)據(jù)的程序或應(yīng)用的處理器或圖像信號處理器119。例如,ISP 119可以被配置成處理圖像和/或傳感器數(shù)據(jù)以生成合適的3D/深度圖或模型。示例裝置或設(shè)備101還可以包括耦合到柔性線纜117的存儲器121。存儲器121可以被配置成存儲傳感器數(shù)據(jù)和圖像信號數(shù)據(jù),并且還存儲由ISP 119執(zhí)行的應(yīng)用。
裝置101還可以包括也耦合到柔性線纜117的ToF模塊113。ToF模塊113在示例裝置101中被定位在第一相機111與第二相機115之間的“空白”空間中。ToF模塊的示意性示例關(guān)于圖12被進一步詳細(xì)地示出。ToF模塊包括電壓源1204。這一電壓源可以是片上電壓源或者可以是可以在芯片外部并且可以采用任意合適格式的電壓源。
電壓源1204被配置成控制向SPAD陣列1202施加的電壓。電壓源1204提供在SPAD陣列1202中的每個SPAD中使用的電壓。每個SPAD的輸出可以被提供給數(shù)字計數(shù)器/時間-距離變換器(TDC)1206。在一個實施例中,數(shù)字計數(shù)器/TDC 1206被配置成在SPAD的輸出每次指示單個光子的到達(dá)時進行計數(shù)。數(shù)字計數(shù)器/TDC 1206還被配置成使用這些計數(shù)并且應(yīng)用時間-距離變換來輸出所檢測的合適的目標(biāo)距離值。時間-距離變換可以是任意合適的過程,諸如“碼表”功能 或者基于強度的調(diào)節(jié)功能。數(shù)字計數(shù)器/TDC 1206的輸出可以被輸入到控制器1208??刂破?208可以采用任意合適的形式并且可以用硬件、軟件和/或這二者的組合來實現(xiàn)。在一些實施例中,控制器可以包括固件控制器。在其他實施例中,控制器包括至少一個處理器??刂破?208的輸出可以用于向電壓源1204提供輸入。由控制器1208提供的輸入控制由電壓源1204提供的電壓。
ToF模塊113還可以包括光源1212,光源1212可以由光源驅(qū)動器1209來驅(qū)動并且由控制器1208來控制。光源可以是豎直腔體表面發(fā)射激光器(VCSEL)。ToF模塊可以被配置成根據(jù)任意合適的方式來確定目標(biāo)與該模塊之間的距離。
圖1所示的示例還示出了可以由裝置來感測的“近處”或前景目標(biāo)103以及“遠(yuǎn)處”或背景目標(biāo)105。
ISP 119被配置成接收ToF模塊113的傳感器輸出并且從第一相機111和第二相機115接收圖像以執(zhí)行更優(yōu)化的測距確定。在以下示例中,這些通過生成3D/深度圖或模型的操作來例示。另外,在一些實施例中,ISP 119可以被配置成控制相機和ToF模塊以便更加優(yōu)化所生成的3D/深度圖或模型的功耗、生成速度或準(zhǔn)確性。這一控制在一些實施例中可以基于到ISP 119的傳感器或相機輸入。
關(guān)于圖13,描述如圖1所示的裝置執(zhí)行的一系列示例操作。
ISP 110在一些實施例中可以被配置成確定操作模式或使用情況。操作模式或使用情況可以基于傳感器或用戶輸入被確定。例如,操作模式可以是基于光的操作模式(低、中、高光水平)、基于速度的操作模式(快、中、慢)、基于范圍的操作模式、或者基于目標(biāo)的操作模式。操作模式可以定義要向所接收的數(shù)據(jù)應(yīng)用的處理的類型并且因此定義如何控制傳感器或相機生成傳感器或圖像數(shù)據(jù)。
圖13中通過步驟1301示出了確定操作模式的操作。
ISP然后可以被配置成基于所確定的操作模式來控制ToF模塊和/或相機模塊。
圖13中通過步驟1302示出了基于所確定的操作模式來控制模塊 的操作。
ISP然后可以被配置成接收ToF模塊輸出和/或相機圖像數(shù)據(jù)。
圖13中通過步驟1305示出了接收ToF模塊輸出和/或相機圖像數(shù)據(jù)的操作。
ISP然后可以被配置成處理所接收的ToF傳感器數(shù)據(jù)和/或相機圖像數(shù)據(jù)。例如,ISP可以被配置成生成環(huán)繞裝置的3D/深度圖或模型。在一些實施例中,ISP被配置成使用ToF傳感器數(shù)據(jù)生成“近處”目標(biāo)模型,并且使用相機圖像數(shù)據(jù)生成“遠(yuǎn)處”目標(biāo)模型,并且將這兩個目標(biāo)模型組合以生成3D/深度圖,所生成的3D/深度圖與可以通過傳感器類型中的一個或其他傳感器類型實現(xiàn)的相比具有更大的范圍或更低的功耗。
例如,雖然相機通常在強光條件下性能更好,然而ToF模塊在低光條件下性能更好。ToF模塊對所返回的光子進行計數(shù)以便測量距離。由于環(huán)境噪聲在暗或差光條件下更低,所以ToF模塊的測量準(zhǔn)確性和測距距離在暗/低光下更高。因此,例如,在其中ISP 119被配置成接收多相機圖像和ToF模塊傳感器輸出二者的一些實施例中,ISP 119可以確定光水平并且根據(jù)這一光水平來選擇使用ToF模塊輸出還是相機圖像來生成3D映射。例如,在強光(其可以是>3K勒克斯鹵素)使用情況或模式下,使用相機圖像數(shù)據(jù),對于低光(其可以是<1K勒克斯鹵素)使用情況或模式,使用ToF模塊輸出,并且對于中間光模式(其可以是在1K到3K勒克斯鹵素之間),可以使用兩種類型的混合。這在下面的表格中被概括。
另外,在其中相機能夠捕獲在紅外頻譜的范圍內(nèi)的圖像(換言之, IR相機以多相機配置被使用,或者如果IR過濾器和RGB相機以多相機配置被使用)的一些實施例中,ToF模塊也可以用作照亮場景的IR照明器。
在一些實施例中,ISP 119還可以確定在定義的周期內(nèi)是否需要3D/深度圖或模型,并且確定是否使用相機圖像數(shù)據(jù)、ToF傳感器數(shù)據(jù)或者這二者的組合數(shù)據(jù)。多相機方法生成3D/深度應(yīng)用輸出所需要的時間要求相機捕獲圖像并且然后要求ISP捕獲深度圖。圖像捕獲和ISP計算操作占用大量時間。比如,相機通常需要大約500ms以聚焦。然而,ToF模塊通常需要大約33ms以測量準(zhǔn)確的范圍。
在一些實施例中,ISP 119可以確定要實現(xiàn)快(諸如<120ms)、中等(諸如120ms到1s)還是慢(諸如>1s)估計模式或使用情況,并且基于該確定來選擇圖像或傳感器數(shù)據(jù)輸入。因此,ISP可以被配置成初始化ToF模塊用于快速捕獲模式或使用情況,例如當(dāng)確定范圍為“移動”對象時。ISP還可以在慢捕獲模式或使用情況下(諸如在3D/深度圖為“靜止”對象的情況下)初始化并且處理多相機圖像。
ISP還可以并行地操作ToF模塊和多個相機二者,并且可以使用ToF模塊輸出以在很短時間內(nèi)估計移動對象(諸如移動的手)上的范圍,同時多相機圖像可以被配置成并行地構(gòu)建更慢目標(biāo)(諸如身體的休息)和背景的3D圖。這在下面的表格中被概述。
如本文中所討論的,采用純多相機實施方式的傳統(tǒng)的3D/深度應(yīng)用可能具有很難或者不能夠克服的準(zhǔn)確性限制。比如,相機圖像質(zhì)量(IQ)可能受到諸如自動聚焦(AF)實施方式、鏡頭和圖像傳感器等硬件的限制。另外,多個相機在裝置的生產(chǎn)或制造中可能未對準(zhǔn)。 由于ToF傳感器包括激光器和SPAD,其中范圍測量結(jié)果基于平均光子到達(dá)時間而非返回功率的幅度或光子計數(shù),所以測距準(zhǔn)確性獨立于目標(biāo)反射率,并且因此可能導(dǎo)致低于幾個百分比的測距測量的平均誤差。
ISP在一些實施例中因此可以確定準(zhǔn)確性模式或使用情況(換言之需要準(zhǔn)確性的情況)并且基于所需要的準(zhǔn)確性模式或使用情況來選擇多相機和ToF模塊輸出。例如,如果ISP被配置成生成坐在沙發(fā)上的人員的3D圖,則可以使用ToF模塊測距估計來給出與該人員(主要對象)有關(guān)的準(zhǔn)確的3D/深度信息并且并行地移動“感興趣的窗口”以構(gòu)建背景(次要對象)的不太準(zhǔn)確的3D圖。然后可以將兩個深度圖組合以生成完整的3D/深度模型。以下表格示出了示例準(zhǔn)確性使用情況的概述。
ToF模塊還可以使得能夠在近距離和微距離處測量準(zhǔn)確性范圍,而多相機實施方式針對距裝置的遠(yuǎn)距離和近“無限”距離產(chǎn)生更好的結(jié)果。在一些實施例中,ISP可以被配置成確定基于距離的模式或者使用情況,并且基于所確定的模式選擇使用ToF模塊還是相機數(shù)據(jù)。例如,通過將ToF模塊與相機模塊組合,ISP可以被配置成通過校準(zhǔn)相機模塊來生成在寬的距離范圍上準(zhǔn)確的3D/深度圖。因此,在一些實施例中,ToF模塊可以被配置成產(chǎn)生測距信息,測距信息可以用于幫助或偏移多相機模塊內(nèi)的任何生產(chǎn)或制造誤差。多相機模塊例如可以具有零件到零件變化、熱變化和電勢未對準(zhǔn),這些可能導(dǎo)致3D/深度圖的不準(zhǔn)確計算。類似地,在一些實施例中,ISP可以使用ToF模塊測距信息提供用于多相機模塊的參考。比如,ToF模塊范圍可以確 定在例如20mm的第一距離處的諸如墻壁等目標(biāo),而多相機確定的范圍是第二距離,例如220mm。因此,例如由于相機模塊內(nèi)的生產(chǎn)變化或者熱變化而導(dǎo)致困難。由于已知ToF模塊測距更準(zhǔn)確,所以ISP可以使用ToF測距作為校準(zhǔn)或參考值并且將多相機測距確定值偏移第一距離和第二距離之差,例如偏移-20mm。提供所確定的第一距離和第二距離之間的誤差針對多個距離是恒定的,多相機模塊因此可以用于確定超過ToF最大有效范圍距離(例如>1300mm)但是得益于由ToF模塊提供的校準(zhǔn)或參考的目標(biāo)的范圍。
因此,通過使用ToF模塊校準(zhǔn)相機模塊,可以生成能夠同時提供近距離范圍和遠(yuǎn)距離范圍的3D圖的3D/深度模型或圖。例如,如果裝置試圖映射或建模附近的目標(biāo),諸如停留在花上的蝴蝶,并且還嘗試映射或建模諸如花園背景等目標(biāo)。蝴蝶和花可以在距設(shè)備大致10cm的距離處,而花園在大約10m的距離處,ToF模塊可以被配置成測量與在“微”距離處蝴蝶/花有關(guān)的信息。并行地,多相機可以移動“感興趣的窗口”(WoI)以構(gòu)建花園的3D圖。處理器或ISP然后可以組合或合并兩個深度模型以生成與在其他傳感器類型的情況下有可能的明顯更大范圍的3D圖。
因此,例如關(guān)于圖2,通過所示出的微距離201以及近、中間和遠(yuǎn)距離205示出了第一相機111的視場寬度211、ToF模塊113的視場213以及第二相機115的視場215。這一基于距離的使用情況/模式選擇例如在下面的表格中被概括。
在一些實施例中,ISP可以被配置成確定基于功率的使用情況或 操作模式。在這樣的實施例中,ToF模塊可以被配置成測量范圍以便在一些模式/使用情況下(諸如當(dāng)裝置在低光或功率效率(或低功率)模式下操作時)降低功耗。指示由于在低光水平下,相機趨向于具有差的IQ。在試圖克服差的IQ時,相機需要更多的時間(以及因此更多的能量)以聚焦,另外增加了相機增益并且擴展了曝光時間。
例如,圖3示出了針對多相機實施方式的第一測距周期、第二測距周期和第三測距周期的功耗。第一測距周期311示出了“高”功率實施方式,其中示出了在低光情況下僅使用相機的裝置執(zhí)行測距或映射操作的功耗與時間的圖。第二測距周期331示出了“平衡的”功率實施方式,其中示出了使用ToF模塊幫助裝置在低光情況下執(zhí)行測距操作的裝置的功耗與時間的圖。第三測距周期351示出了示例“低”功率實施方式,其中示出了僅使用ToF模塊執(zhí)行測距操作的裝置的功耗與時間的圖。第一測距周期311包括校準(zhǔn)及數(shù)字內(nèi)務(wù)處理(CDH)部分301,之后是測距部分303并且之后是處理部分305,其中測距部分期間的功耗是由CDH部分301、測距部分303和處理部分305下面的總面積定義的整個功耗的一大部分。第一測距周期之后是備用周期321,之后是第二測距周期331,之后是ToF輔助CDH部分341、ToF輔助測距部分343和處理部分345。通過使用ToF模塊,稍微增加了瞬時功耗,但是使得測距操作明顯更短并且因此明顯降低了整個周期上的功耗。第二測距周期之后是另外的備用周期323,之后是第三測距周期351,之后是僅ToF的CDH部分361、僅ToF的測距部分363以及僅ToF的處理部分365。通過使用ToF模塊,在測距部分和處理部分中僅降低了瞬時功耗,并且測距操作可以明顯更短并且因此進一步明顯降低整個周期上的功耗。
因此,在一些實施例中,ISP可以被配置成使用ToF傳感器的輸出直接讀出范圍并且減小相機聚焦時間(并且因此減小整個功耗)。由于ToF傳感器被設(shè)計成激光器安全(通常為第1等級),所以激光器的最大功率受到限制并且因此能夠可靠地確定的距離范圍在僅使用ToF模塊的情況下受到限制。因此,在一些實施例中,ISP可以被 配置成確定在涉及遠(yuǎn)距離和寬視場(FoV)測距的高/最大功率范圍模式或使用情況下要使用來自多相機的圖像。另外,ISP可以被配置成使得組合的ToF傳感器和多相機3D/深度實施方式能夠在不同的功率模式下實現(xiàn)“平衡的”功耗。
圖4示出了(并未按比例)ToF模塊401和相機模塊411的平面圖。ToF模塊遠(yuǎn)遠(yuǎn)更小并且如圖1所示可以復(fù)用相機模塊周圍的空間并且與多相機共享柔性連接。ToF模塊通常遠(yuǎn)小于相機模塊。比如,ToF模塊401可以具有由長度405、寬度407和深度409定義的體積,該體積比由尺寸(長度413、寬度415和深度417)定義的簡單的相機模塊411的體積大約小25倍。
這樣,ToF模塊可以被放置在相機模塊之間的空隙或者空間中而不影響對封裝件定尺寸。例如,圖6a中示出了圖1所示的裝置的合適的實施方式的頂視圖,其中第一相機611和第二相機615的雙相機配置通過ToF模塊613分離并且全部安裝在柔性連接器617上。
在一些情況下,一個或多個相機模塊可以用相機陣列/混合的相機和相機陣列來代替。
圖5中示出了相機陣列和混合的相機和相機陣列的示例,其中示出了包括第一陣列相機501和第二陣列相機501b的雙陣列。圖5還示出了包括第一陣列相機503a、第二陣列相機503b和相機模塊503c的三陣列503。另外,圖5示出了包括第一陣列相機505a、第二陣列相機505b、第三陣列相機505c和第四陣列相機505d的多孔徑陣列505。
圖6b例如示出了示例設(shè)備,其中圖6a的布置的第一相機611被 多孔徑相機陣列619取代。
如先前所討論的,為了產(chǎn)生合適的3D/深度圖,在雙相機配置中,相機模塊之間需要間隙或空隙。由于ToF模塊遠(yuǎn)小于雙相機配置中的每個相機模塊,所以ToF模塊有可能復(fù)用相機模塊之間的這一空隙或間隙或空間。另外,在一些實施例中,還可以通過使用在ToF模塊“下面”以及在多個相機之間的空間來改進封裝件體積優(yōu)化。例如,如圖6c所示,可以在ToF模塊613下面以及第一相機611與第二相機615之間放置主OIS(光學(xué)圖像穩(wěn)定器)模塊621等另一部件。以這樣的方式,可以最小化ToF輔助的3D/深度相機實施方式所需要的整個系統(tǒng)空間/體積。另外,通過在相機模塊之間放置ToF模塊,ToF模塊的視場(FoV)與每個相機模塊的FoV對稱地并且在最大程度上交疊。
雖然本文中所描述的實施例特征化基于多相機的ToF模塊輔助的3D/深度相機實施方式,然而在一些實施例中,ToF模塊可以代替相機模塊或相機陣列模塊之一以及幫助3D/深度圖或模型確定。例如,圖6d示出了其中第二相機被柔性連接器617上的ToF模塊去除/取代的示例。圖6e另外示出了其中圖6d所示的第一相機模塊611被多相機陣列619取代的示例。在這樣的實施例中,ToF模塊可以與單個相機或相機陣列一起使用以用于緊湊且經(jīng)濟的3D/深度實施方式。比如,ToF模塊和單個相機解決方案可以用在低成本或中端3D/深度使用情況下,其中設(shè)計具有緊湊的空間以及材料單(BoM)預(yù)算。
在一些實施例中,ToF模塊或傳感器可以是任意合適類型的模塊或傳感器。例如,在一些實施例中,模塊或傳感器可以是具有直方圖生成能力的直接ToF傳感器。直方圖生成能力使用SPAD技術(shù)從不同的目標(biāo)采集返回的光子。在這樣的實施例中,不同的目標(biāo)示出不同的直方圖峰值并且因此可以用于生成或者幫助產(chǎn)生簡單的低分辨率3D/深度圖或模型。這些低分辨率圖或模型可以用在諸如前景/背景或目標(biāo)/背景分離等簡單使用情況下。直方圖功能和低分辨率圖或模型也可以在諸如低光條件等情況下改善3D/深度相機陣列。
3D/深度圖的應(yīng)用在3D感測中。對象在視場中的運動也可以在產(chǎn) 生對象的3D圖之后來計算。3D感測因此可以用在裝置的目標(biāo)跟蹤和姿態(tài)控制中。純多相機實施例的挑戰(zhàn)之一在于模塊的計算速度和尺寸。比如,典型的3D感測結(jié)構(gòu)化光或ToF相機產(chǎn)品(諸如微軟的Kinect和因特爾的RealSense)使用IR照明和IR傳感器用于姿態(tài)控制。雖然IR解決方案可以在低光條件下確定3D圖,然而IR解決方案需要另外的功率和成本,尤其是在移動形狀因子內(nèi)實現(xiàn)的情況下。這是由于典型的移動設(shè)備相機是具有IR截止濾波器的RGB相機。在一些實施例中,姿態(tài)控制和3D感測應(yīng)用可以使用多個相機模塊(或相機陣列)的多個ToF模塊幫助來實現(xiàn)。這些實施例具有以下優(yōu)點。
首先,ToF模塊遠(yuǎn)小于并且遠(yuǎn)便宜于RGB相機和IR相機模塊。因此,多個ToF模塊小于單個相機,并且在姿態(tài)控制設(shè)備中使用多個ToF模塊比在多相機實施方式中使用另外的相機是更加空間和成本有效的。比如,可以使用雙ToF模塊加上雙相機實施方式而非四相機解決方案。
因此,例如,如圖6f所示,示出了多ToF模塊和單相機陣列設(shè)備。該設(shè)備包括位于相機陣列619的一側(cè)的第一ToF模塊613a以及位于相機陣列619的另一側(cè)的第二ToF模塊613b。第一ToF模塊613a、相機陣列619和第二ToF模塊613b連接到柔性連接器617。圖6h示出了對圖6f的設(shè)備的修改,其中相機陣列619用相機模塊611來代替。
另外,關(guān)于圖6g和圖6i,示出了示例多ToF模塊和多相機示例。關(guān)于圖6g,相機陣列619和相機模塊611彼此相鄰并且與兩個ToF模塊113a和113b分離。每個ToF模塊因此可以檢測距離以及由目標(biāo)運動引起的距離的任何變化。圖6i示出了其中ToF模塊113a和113b以及相機611/相機陣列619模塊交替以便兩個ToF模塊能夠分離并且相機/相機陣列模塊二者能夠分離的示例。
在這樣的實施例中,可以通過使用ToF模塊來實現(xiàn)初始或簡單3D感測。例如,可以通過多個ToF和至少一個相機來實現(xiàn)諸如手部移動等目標(biāo)跟蹤或簡單姿態(tài)檢測。
ToF模塊113a和113b因此可以非常快地確定視場內(nèi)的任何目標(biāo) 并且確定其位置和移動。多相機和ISP因此可以進行圖像的進一步計算分析以用于另外的3D感測和復(fù)雜姿態(tài)分析(例如手指姿態(tài)分析)。
在一些實施例中,由多個ToF模塊生成的3D感測可以用多相機3D感測來補充。因此,多ToF模塊和多相機3D/測距圖或模型可以比多相機實施方式具有更好和更準(zhǔn)確的結(jié)果。
多ToF實施方式可以具有另外的優(yōu)點。如圖7所示,ToF模塊113具有發(fā)射極視場(FoV)701和集電極視場(FoV)703。在圖7所示的示例中定義傳感器FoV的其最小值為大約25度。增加單ToF模塊中的FoV需要更高的功率(其因此受到第1等級安全極限的限制)或者更短的最大有效范圍(由于逆平方定律)。在本文中所描述的實施例中,通過采用多個ToF模塊,增加了FoV而沒有減小最大有效測距距離。這例如可以在圖8中被示出,圖8示出了第一單相機611、雙ToF模塊613a、613b配置(類似于圖6f和圖6h),其中相機FoV 811和ToF模塊FoV 813a和813b產(chǎn)生比圖2所示的ToF模塊FoV大的用于ToF模塊的組合FoV。圖8還示出了雙相機611、615以及雙ToF模塊613a、613b配置(類似于圖6g),其中相機FoV 831和835、ToF模塊FoV 833a和833b產(chǎn)生比圖2所示的ToF模塊FoV大的用于ToF模塊的組合FoV。
在一些實施例中,可以管理ToF模塊與多個相機之間的生產(chǎn)對準(zhǔn)。比如,通過將ToF定位在相機模塊之間的空隙中,減小了相機未對準(zhǔn)的自由度,因為相機之間幾乎不存在“空間”并且因此減小了變化的機會。另外,在一些實施例中,相機可以在生產(chǎn)期間用于檢查ToF VCSEL的IR FoV以便確保正確的ToF對準(zhǔn)。
關(guān)于圖9到圖11示出了相機和ToF模塊數(shù)據(jù)的組合的示例。因此,例如,圖9到圖11示出了各種“困難的”示例目標(biāo)901、1001、1101。還示出了由相機產(chǎn)生的目標(biāo)相機視圖903、1003、1103。還示出了具有VCSEL照明的目標(biāo)相機視圖905、1005、1105。能夠使用基于ToF SPAD的模塊產(chǎn)生距離估計的已經(jīng)被照明的這些區(qū)域在附圖中用907、1007、1107來示出,其中光色區(qū)域定義其中可以以高的置 信度來估計距離的區(qū)域。確定了基于ToF SPAD的距離估計之后,可以將這些估計與目標(biāo)相機圖像上的點組合以生成目標(biāo)相機視圖的圖像909、1009、1109以及基于ToF SPAD的距離視圖。換言之,圖9到圖11示出了如何能夠?qū)⒒赥oF SPAD的距離數(shù)據(jù)與相機圖像組合以生成更準(zhǔn)確的距離確定,因為已知的ToF估計距離可以用于設(shè)置計算3D圖像的數(shù)據(jù)點。
應(yīng)當(dāng)清楚,設(shè)備可以是任意合適的設(shè)備。僅作為示例而非限制,設(shè)備可以是移動電話、智能電話、平板、計算機、測量設(shè)備、諸如用于燈的開關(guān)控制器、諸如水龍頭或者廁所中的水源的控制、門控制器、距離傳感器、影響控制器或者任何其他合適的設(shè)備。
一些實施例可以使用其他傳感器而非SPAD。這些傳感器可以集成能夠接收光強度、到達(dá)時間、頻率或相位或幅度/強度調(diào)制、波長(顏色)或其他信息的光敏元件。
應(yīng)當(dāng)理解,以上描述的布置可以至少部分用集成電路、芯片集、封裝在一起或者在不同的封裝件中的一個或多個晶片、離散電路系統(tǒng)或者這些選項的任意組合來實現(xiàn)。
以上已經(jīng)描述了具有不同變型的各種實施例。應(yīng)當(dāng)注意,本領(lǐng)域技術(shù)人員可以組合這些不同的實施例和變型的各種元素。
這樣的替選、修改和改進意在作為本公開內(nèi)容的一部分,并且意在處于本發(fā)明的范圍內(nèi)。因此,以上描述僅作為示例而非意在限制。本發(fā)明僅如以下權(quán)利要求及其等同方案中所定義地被限制。