在當(dāng)今數(shù)字化時(shí)代,視覺產(chǎn)品的需求與日俱增,在自主移動機(jī)器人 (AMR)、倉庫機(jī)器人、無人機(jī)、農(nóng)業(yè)、工廠檢查和安防/監(jiān)控等應(yīng)用場景,會實(shí)施基于機(jī)器視覺的人工智能 (AI) 與先進(jìn)技術(shù)來執(zhí)行關(guān)鍵功能。要想提高現(xiàn)有的目標(biāo)檢測和識別能力,需要解決在不利光照條件下,對運(yùn)動中的對象和更遠(yuǎn)距離的精細(xì)細(xì)節(jié)捕獲圖像的難題。而安森美先進(jìn)的CMOS圖像傳感器技術(shù)正是推動這一領(lǐng)域不斷創(chuàng)新的關(guān)鍵。這些技術(shù)不僅能夠提高圖像傳感器的靈敏度和分辨率,還能夠通過更加智能的傳感器片上多幀合成以及壓縮技術(shù)來獲得低系統(tǒng)帶寬需求的高動態(tài)范圍影像,還實(shí)現(xiàn)了HDR運(yùn)動補(bǔ)償、LED閃爍抑制、運(yùn)動喚醒等功能。在這樣一個(gè)競爭激烈的市場中,利用領(lǐng)先的CMOS圖像傳感器技術(shù)的企業(yè)將能夠更好地滿足市場需求,提高產(chǎn)品的競爭力和市場份額。因此,深入了解和應(yīng)用這一技術(shù)已經(jīng)成為了企業(yè)推進(jìn)視覺產(chǎn)品創(chuàng)新的必要手段。
安森美(onsemi)最新推出的AR0822是一顆集eHDRTM , 運(yùn)動補(bǔ)償(Motion Compensation), 運(yùn)動喚醒(Wake on Motion)幾大硬核功能于一體的八百萬像素的4K圖像傳感器芯片。下面讓我們來了解一下這些專業(yè)名詞吧。
什么是HDR?
HDR = High Dynamic Range, 高動態(tài)范圍。也有叫WDR(Wide Dynamic Range)的,其實(shí)是不同廠家不同的叫法,實(shí)際上都是一樣的。
動態(tài)范圍計(jì)算公式:
Smax:最大可測量到的信號,即像素飽和信號值,也就是像素的滿井電荷;
Smin:最小可偵測到的信號,即SNR=1時(shí)的信號值,也就是全黑場景下的讀出噪聲;
也就是
多次曝光是如何來提升動態(tài)范圍的呢?
為什么需要HDR?
自然界的光線強(qiáng)度從0.0001??????2? 弱星光到超過100K ??????2?的夏季太陽直射光,整個(gè)亮度的動態(tài)范圍約180dB. 人眼能分辨出來的最大動態(tài)范圍約120dB.
當(dāng)今相機(jī)的應(yīng)用場景存在不少動態(tài)范圍的挑戰(zhàn):
怎么樣才能更好的處理高亮度場景呢?
這三個(gè)維度基本上就代表了目前主流的HDR技術(shù)方向。
我們來看看目前主流的幾種實(shí)現(xiàn)HDR的技術(shù):
多次曝光
大小像素
超級曝光
- 多次曝光
多次曝光技術(shù),通過長曝光來捕捉低亮度處的細(xì)節(jié),通過中、短曝光來捕捉中高亮度處的圖像。在常規(guī)像素設(shè)計(jì)的情況下,通過多次曝光技術(shù)就可以達(dá)到120dB(3次曝光) 甚至140dB(4次曝光) 的動態(tài)范圍。然而一般的多次曝光技術(shù)存在不足:對于運(yùn)動的物體會有運(yùn)動偽色影,特別是對于LED光源,有時(shí)它能被短曝光時(shí)間捕捉到,有時(shí)候則不能,那就導(dǎo)致了LED閃爍不清的問題。典型的脈沖光源是LED交通燈、交通標(biāo)志和汽車尾燈。
- 大小像素
這類設(shè)計(jì)的芯片上同時(shí)存在大像素和小像素,大像素來捕捉低光信息,小像素來捕捉高光信息。由于大小像素是同時(shí)曝光的,這種設(shè)計(jì)避免了運(yùn)動偽影問題。然而這種技術(shù)存在大像素QE損失,以及由于大小像素QE不同、串?dāng)_等影響產(chǎn)生的色彩問題,需要使用者花費(fèi)大量的資源和成本來進(jìn)行校正,給用戶帶來了很大的挑戰(zhàn)。大小像素技術(shù)是利用大像素和小像素感應(yīng)光線的比例來實(shí)現(xiàn)HDR,目前半導(dǎo)體制作技術(shù)能力不允許任意的擴(kuò)大或者縮小像素物理尺寸,所以大小像素技術(shù)能達(dá)到動態(tài)范圍也是有限的。
在現(xiàn)在成本以及小型化壓力下,要將同樣分辨率的芯片做小,就需要使用更小的像素,大小像素方案比單像素方案更難去縮小像素尺寸。注:大小像素技術(shù)是安森美的專利,在2009年由美光公司獲得。
- 超級曝光,即我們在Hyperlux系列采用的技術(shù)。
通過增加額外的電路,當(dāng)像素電容飽和時(shí)候,溢出的電荷繼續(xù)轉(zhuǎn)移到外掛的電容存儲中去,從而實(shí)現(xiàn)了超大的滿井電荷,動態(tài)范圍能達(dá)到單次曝光110dB,多次曝光能達(dá)到150dB。這種方式在110dB下沒有LED 閃爍問題和運(yùn)動偽影問題,同時(shí)還有非常好的低光照性能。
看了這么多的HDR技術(shù),那么安森美AR0822是怎么樣的技術(shù)呢?為什么說它是eHDRTM 呢?
通常多次曝光的sensor會發(fā)送每一次曝光的數(shù)據(jù)給到后端處理器來進(jìn)行合成,而3次曝光就需要發(fā)送3幀數(shù)據(jù)。當(dāng)今應(yīng)用對圖像傳感器的分辨率要求越來越高,4K 800萬能提供更多的細(xì)節(jié),可是,3張800萬像素的圖片的數(shù)據(jù)量多大呢?如果是多相機(jī)的應(yīng)用方案呢?處理器能提供多大的帶寬呢?
如果采用傳統(tǒng)的HDR 數(shù)據(jù)傳輸方式,4K 3次曝光需要超過10Gbps,這對SERDES以及線纜的挑戰(zhàn)十分巨大。
AR0822 是eHDRTM (embedded High Dynamic Range),多次曝光合成是在sensor內(nèi)部進(jìn)行完成的,通過內(nèi)部智能擬合以及壓縮功能,可以將3次曝光的20bit數(shù)據(jù)壓縮成12bit數(shù)據(jù),然后再傳輸給后端平臺,極大的降低了系統(tǒng)的數(shù)據(jù)帶寬。
AR0822 支持多種多次曝光合成線性化擬合功能,DLO(Digital Lateral Overflow)以及SCMAX(Smooth Combination Max), 我們稱其智能擬合,這種模式降低了多次曝光合成時(shí)的亮度臨界區(qū)域的噪聲。
還記得我們前面說的多次曝光HDR的一個(gè)不足嗎?對,就是運(yùn)動偽影以及LED 閃爍,AR0822 片上HDR合成還加入了運(yùn)動補(bǔ)償(Motion compensation)功能來減輕這些問題:
運(yùn)動補(bǔ)償包含運(yùn)動捕捉和運(yùn)動糾正兩個(gè)模塊,運(yùn)動捕捉模塊來捕捉T1和T2之間的運(yùn)動值(對每一個(gè)pixel進(jìn)行motion mask的計(jì)算),運(yùn)動糾正模塊使用motion mask來對T1數(shù)據(jù)進(jìn)行運(yùn)動補(bǔ)償。
例圖:上路實(shí)拍,可以看出AR0822出色的HDR效果,以及極好的低亮度性能。
注:圖片截取自視頻流。
更值得一提的是,AR0822除了eHDRTM 外,還具備WOM (Wake on Motion)功能:
AR0822可以運(yùn)行在極低的幀率下,當(dāng)檢測到畫面ROI區(qū)域中有運(yùn)動發(fā)生,則去喚醒SOC,恢復(fù)sensor運(yùn)行到正常模式。
而其杰出的motion detect ROI 則進(jìn)一步降低功耗:
我們對畫面進(jìn)行運(yùn)動捕捉block 分區(qū),只關(guān)注開啟區(qū)域的運(yùn)動檢測,像典型的可視門鈴,上圖中場景內(nèi)存在樹木花草,一旦有什么“風(fēng)吹草動”或者小動物經(jīng)過,很可能系統(tǒng)就開啟誤報(bào),而可編程的運(yùn)動捕捉區(qū)域,可以很好的降低這種誤報(bào)。配合PIR,通過sensor自帶的運(yùn)動捕捉和超級低功耗模式,可以讓整機(jī)系統(tǒng)電池使用時(shí)間延長50倍。
先進(jìn)的CMOS圖像傳感器技術(shù)的發(fā)展,將不斷推動視覺產(chǎn)品的創(chuàng)新和進(jìn)步。無論是在工業(yè)自動化、汽車安全、醫(yī)療診斷等領(lǐng)域,這一技術(shù)都將扮演著越來越重要的角色。安森美的AR0822傳感器集eHDRTM , 運(yùn)動補(bǔ)償, 運(yùn)動喚醒幾大硬核功能于一體,解決工程師在設(shè)計(jì)視覺系統(tǒng)時(shí)所面臨的動態(tài)范圍、運(yùn)動偽影、LED閃爍、功耗等復(fù)雜挑戰(zhàn),實(shí)現(xiàn)更多創(chuàng)新。