楊少魁 張媛媛 曹海軍
摘要:曝光是攝像機拍攝中的一種基本處理和重要功能,用于獲得亮度合適的圖像,曝光控制技術也是攝像機領域中的一項關鍵技術和重要研究方向。本文統(tǒng)計并分析了攝像機曝光技術方面國內和國際上的專利申請情況,并介紹了攝像機曝光領域中的各個技術分支及其代表性專利,闡述了該領域現(xiàn)有技術的發(fā)展情況。最后總結了攝像機曝光技術方面我國和國外專利的不同特點,希望能為我國相關企業(yè)和科研單位提供技術研發(fā)和專利布局方面的思路。本文也可以為攝像機曝光領域的專利審查提供現(xiàn)有技術情況。
關鍵詞:攝像機;曝光;技術分支;專利分析
中圖分類號:TN948.41;G306 文獻標識碼:A 文章編號:1003-5168(2020)24-0156-05
1 引言
攝像機成像的作用是模擬和代替人類視覺系統(tǒng),以獲得視覺信息;攝像機曝光是控制拍攝圖像亮度的處理,是成像過程中的一個基本處理,只有經過合適的曝光才能獲得亮度合適的圖像,不至于過暗或過亮。專業(yè)的相機中可以通過拍攝者的設置來進行曝光參數(shù)的控制,而一般的成像模組中會集成自動曝光處理功能,使得采集到的圖像有合適的亮度[1]。
專利作為技術信息的重要載體,其中也必然反映了攝像機曝光技術的整個發(fā)展脈絡,覆蓋了其中的各個技術分支。因此,本文針對攝像機曝光技術方面的專利進行分析,既可以梳理出該技術的發(fā)展路線以供本領域的技術人員參考,對相關企業(yè)和科研院所在技術研發(fā)和專利布局方面提供幫助,也可以使本領域的專利審查人員了解現(xiàn)有技術狀況,有助于檢索和審查工作。
2 攝像機曝光技術專利統(tǒng)計分析
本文以中國專利文獻檢索摘要數(shù)據(jù)(CNABS)和德溫特世界專利索引數(shù)據(jù)庫(DWPI)為檢索基礎數(shù)據(jù)庫,使用攝像機控制領域的IPC和CPC分類號H04N5/235及其下位點組,并結合關鍵詞“曝光”來檢索獲得攝像機曝光技術領域的專利文獻,檢索日期截至2019年12月31日。本文將從年度專利申請數(shù)量、專利申請國家或地區(qū)分布、主要申請人方面進行統(tǒng)計分析。
2.1 攝像機曝光技術專利申請總體情況
在專利申請數(shù)量方面,從圖1可以看出,在2000年至2018年期間,攝像機曝光技術方面的專利申請量在世界上基本呈現(xiàn)穩(wěn)步增長的態(tài)勢,在我國也是如此;因為曝光本身是攝像機的一個基本處理和重要的功能,需要不斷地進行研究和創(chuàng)新,以提高攝像機的性能。另外,從圖1中還可以看出,在2000年等早期年份,關于攝像機曝光的專利在中國的申請只占世界上非常少的一部分,但隨著時間的推移,中國專利申請量在全世界的占比快速增長,到2015年至2018年都超過了50%,并且占比持續(xù)上升,這也說明了隨著中國經濟的快速發(fā)展和知識產權體系的不斷完善,包括國外在內的越來越多的申請人都在中國進行這方面的專利布局。
2.2 攝像機曝光技術專利申請區(qū)域分布
在專利申請的國家或地區(qū)分布方面,從圖2可以看出,日本在攝像機曝光領域中的專利申請數(shù)量遙遙領先,占到了全世界的40%,其次是美國和中國,歐洲和韓國在該領域中的專利數(shù)量較少。因為在攝像機產業(yè),日本的生產廠商在世界中獨占鰲頭,因而在攝像機曝光領域中技術也領先于其他國家和地區(qū)。
2.3 攝像機曝光技術專利主要申請人分析
在國外主要申請人方面,從圖3中可以看出,佳能、富士、奧林巴斯、索尼、尼康是申請數(shù)量排名前幾位的申請人,這些均是世界上生產攝像機的最大廠商,都是日本的企業(yè),也反映了日本在攝像機產業(yè)中的地位。另外,韓國三星也在攝像機曝光領域中申請了較多的專利數(shù)量。
在國內主要申請人方面,從圖4中可以看出,歐珀、努比亞、維沃、華為、中星微電子在攝像機曝光領域中申請的專利數(shù)量排名前五;歐珀、努比亞和維沃等本身是制造手機等電子終端的企業(yè),并不是專門的攝像機廠商,但因為攝像頭和拍攝已經成為手機等終端的重要部件和功能,因而上述企業(yè)也申請了大量專利。
通過對比圖3和圖4可以看出,在攝像機曝光技術方面中國企業(yè)的專利數(shù)量仍然少于日本等世界領先企業(yè)的專利數(shù)量,這也反映了中國在這方面技術積累的薄弱,但是以攝像機在終端方面的應用為突破口,也可以不斷發(fā)展自己的技術,這也給我國企業(yè)在攝像機技術方面的研發(fā)路線和努力方向給出了啟示。
3 攝像機曝光領域專利技術發(fā)展分析
對于攝像機曝光而言,其獲得的圖像的亮度由四個方面的因素決定:環(huán)境光亮度、相機的光圈大小、曝光時間(也稱為快門速度)、信號增益。這四個因素中,環(huán)境光亮度是由外界環(huán)境光照決定的,但是也并非不能人為控制,例如拍攝時使用閃光燈來提升光照亮度;而其余的三個因素則可以通過控制攝像機來調節(jié),因而光圈大小、曝光時間和信號增益是一般的控制曝光所使用的參數(shù)[1]。在攝像機曝光技術中,一般包括采用拍攝時補光、曝光時間(快門)控制、圖像信號增益控制、光圈控制、包圍式曝光等幾個方面,其中包圍式曝光用于獲得高動態(tài)范圍圖像。
3.1 拍攝補光技術
補光技術是實質是采用照明手段影響景物亮度,一般是指在環(huán)境光亮度較低的條件下,例如夜晚,采用閃光燈等形式進行補光,以獲得比較理想的光照條件,進而得到亮度合適的圖像。對于照明補償技術,其中很重要的一個思路是根據(jù)當前環(huán)境光亮度值來確定需要補光的亮度,這樣才能獲得合適的拍攝照明亮度,例如日本的三洋電機株式會社在其申請的專利JPH1031250A中提供了一種數(shù)字照相機,包括閃光燈和CCD成像器,首先在閃光燈不發(fā)光條件下曝光CCD成像器,生成一個亮度信號以計算亮度評估值;隨后,使閃光燈在發(fā)出預閃光條件下曝光CCD成像器,根據(jù)獲得的亮度信號再次評估亮度值;然后,根據(jù)由這兩種方式獲得的兩個亮度評估值,計算閃光燈的主閃光量。
另外,控制閃光燈的閃光時間也是很重要的一個方面,因為一般的成像傳感器從工作時序上來說分為電荷收集與積累、電荷轉移、電荷信號讀出這幾個階段,在線曝光或卷動式快門的信號電荷讀出方式中,在拍攝圖像的同時使用閃光燈時,可能發(fā)生圖像灰度在頂部和底部不同的現(xiàn)象。對此,日本索尼株式會社申請的專利JP2010093729A中公開了一種成像設備,設定閃光燈控制信號的輸出定時,以使從閃光燈發(fā)光的開閉時間段被包含于從信號電荷讀出完成到隨后的第二讀出命令信號輸入為止的時間段內;根據(jù)閃光燈發(fā)光命令的輸入和輸出定時,向閃光燈提供控制信號并且以預定間隔來提供讀出控制信號。
采用閃光燈補光的方式一般都是在拍攝瞬間發(fā)出較強的光來進行照明,這種方式在拍攝人像時可能會導致問題,因為在光線較暗的環(huán)境下拍攝的時候,突然的閃光會讓人眼很不適應,會不自覺的閉眼,無法拍攝到理想的人像。針對這一問題,國內企業(yè)廣東歐珀移動通信有限公司提出的專利申請CN104243842A公開了一種閃光燈強度控制方法,在閃光燈拍攝模式下進行拍照時,如果檢測到人臉,則獲取人臉在拍攝圖像中的區(qū)域,在該區(qū)域大于預設區(qū)域時,根據(jù)該區(qū)域設置閃光燈的電流值,使得當該區(qū)域大于預設區(qū)域時,閃光燈的電流強度隨著該區(qū)域的變大而變小。由于當人臉與攝像設備的距離越近時,人臉在拍攝圖像中的區(qū)域越大,這樣使得閃光強度越小,因此該專利能夠實現(xiàn)基于人臉與攝像設備的距離的閃光燈強度的動態(tài)調整,從而減小閃光燈對眼睛的沖擊,減少拍攝時眨眼的概率,提高人像拍攝質量。
3.2 曝光時間控制技術
曝光時間是決定圖像亮度的一個重要參數(shù),圖像傳感器完成光電轉換的過程在一定時間間隔內光電流通過積累成為電荷,這個積分時間長度就是曝光時間;曝光時間增加,圖像亮度增加,反之曝光時間減少,圖像亮度也減小[2]。曝光時間也稱為快門時間或快門速度,因為曝光時間的多少是由快門機構來決定的。
在模擬相機的初期采用的是機械式快門,隨著CCD等數(shù)字相機技術的發(fā)展,出現(xiàn)了電子快門,即通過控制每個像元電荷累積時間的方式實現(xiàn)曝光時間控制。例如,日本佳能公司申請的專利JP2005159418A,在背景技術中提到:在傳統(tǒng)攝像機中,通過機械快門的開閉進行曝光;然而,高速秒時由機械條件的界限所制約,無法進一步提高曝光時間控制的精度;因而提出了一種電子快門的方法,在多個位置檢測前幕簾以及后幕簾的通過,在檢測出前幕簾的通過后經過預定時間后,在檢測出后幕簾的通過之前,順序進行像素的復位,能夠實現(xiàn)沒有機械制約的高速秒時的曝光時間控制。
對于光照度比較均勻的場景,一般的曝光控制算法都可以獲得高質量的圖像,根據(jù)當前光照度按照一定的算法即可以計算出合適的曝光時間;但是對于場景中同時存在暗和亮的部分,例如在圖像中既有陽光直射的區(qū)域,同時也存在光照被遮擋的陰影區(qū)域時,簡單的曝光控制算法則無從計算合適的曝光時間。對此,美國的全視技術公司提出了具有雙重自動曝光控制的圖像傳感器,在其申請的專利CN1518120A中公開了一種圖像傳感器,其像素陣列包括多個亮像素和多個暗像素;暗曝光控制電路控制多個暗像素的曝光時間,亮曝光控制電路控制多個亮像素的曝光時間。該專利中提出的技術方案可以解決自動曝光控制算法混淆亮和暗部分的組合的圖像,導致成像困難的問題。
在拍攝場景中經常會存在閃爍的光源,如以一定頻率閃爍的LED燈光;還存在閃爍的拍攝目標,如計算機屏幕等,因為屏幕是以一定的頻率(60Hz)刷新的;由于閃爍的頻率較高、時間較短,與攝像機的曝光時間為同一個量級,這往往會導致拍攝圖像中存在紋理,導致拍攝圖像很差,這一問題也需要通過適當?shù)乜刂破毓鈺r間來解決。例如國內的歐珀公司在其申請的專利CN109120863A中,提供了一種拍攝方案,當監(jiān)測到拍攝預覽畫面中存在閃爍光源時,實時測算閃爍光源的閃爍頻率,并根據(jù)閃爍頻率計算生成目標曝光時間,然后基于該目標曝光時間進行圖像拍攝;通過采用上述技術方案,可以根據(jù)閃爍光源的閃爍頻率合理確定目標曝光時間,并基于目標曝光時間對包含該閃爍光源的拍攝主體進行拍攝,不僅有效解決了由于閃爍光源造成的拍攝畫面的亮度、顏色失真的問題,還可以避免由于閃爍光源造成的拍攝畫面中的空間紋理,能夠有效提高拍攝圖像的質量。
3.3 增益控制
增益控制是攝像機系統(tǒng)對圖像亮度的電信號施加的增益進行控制,以獲得亮度合適的圖像。此處的增益也被稱為感光度(ISO值);通過圖像傳感器轉換后的模擬點信號,在轉換為數(shù)字信號之前,將會通過一個稱為自動增益控制(AGC)模塊,該模塊將輸入信號放大,從而使輸出信號強度滿足最終圖像亮度的要求;尤其是在入射光能量較小,光圈和曝光時間的設置無法滿足要求時,調節(jié)信號增益是一種有效的手段[1]。但是增益控制也存在負面影響,在信號被放大的同時,其中的噪聲也被放大了,因而如何即采用增益控制增加圖像亮度,而又不至于噪聲過大,這也是一個研究的方向。
中國電子科技集團公司申請的專利CN104754240A中,提出一種CMOS圖像傳感器自動曝光方法,在獲取當前拍攝的圖像后,計算圖像的當前曝光量和目標亮度閾值,計算當前曝光量到目標亮度閾值之間需要調整的傳感器曝光量,并將其劃分為2n+1個曝光量分段;依據(jù)每個分段的曝光量及該分段的奇偶性采用曝光時間和模擬增益交替調整的方式調整曝光量直至曝光量達到目標亮度閾值;如曝光時間和模擬增益均調整到最大值,曝光量仍未達到目標亮度閾值,則調整數(shù)字增益。本發(fā)明的效果在于整合了快門優(yōu)先自動曝光模式和增益優(yōu)先自動曝光模式的優(yōu)點,同時兼顧運動物體拍攝與低噪聲的要求,有效的提高了拍攝質量。
歐珀公司申請的專利CN104660915A中,公開了一種全景拍照曝光的控制方法及裝置,其中在啟動全景拍照后,根據(jù)移動終端當前移動的實際角速度、預設角速度和移動終端在以所述預設角速度移動時保證畫面不模糊的曝光時間,調整預置的曝光時間和增益;根據(jù)調整后的曝光時間和增益控制曝光。本專利根據(jù)移動終端移動時的實際角速度對曝光時間和增益進行調整,實際角速度越大,調整后的曝光時間越小,調整后的增益越大,保證畫面的清晰度,實際角速度越小,調整后的曝光時間越大,調整后的增益越小,圖像噪聲就會越少,從而可以解決畫面模糊的問題且可以減少噪點。
3.4 光圈控制
光圈大小也是控制曝光的一個重要參數(shù)。光圈大小指的是相機的鏡頭中光能夠進入的孔徑的大小,當光圈孔徑增大時,到達傳感器的光通量也隨之增大,圖像亮度提高。光圈控制曝光的基本原理就是通過調節(jié)光圈大小以得到亮度合適的圖像[2]。
在通過光圈控制曝光方面,日本的索尼公司在申請的專利JPH09284784A中指出,傳統(tǒng)的彩色相機是檢測包括目標和背景在內的整個場景內的亮度來自動控制光圈大小,如果目標所在的區(qū)域和背景區(qū)域的亮度差別較大,背景亮度會妨礙針對目標對象獲得準確的光圈值。針對這一問題,該專利中公開的圖像拾取裝置能夠執(zhí)行對目標對象的準確自動光圈控制。
我國的浙江大華技術股份有限公司也在申請的專利CN101719988A中公開了一種智能化特征區(qū)域控制自動光圈的方法,包括獲取圖像Y/C的分量數(shù)據(jù)、智能提取監(jiān)控對象區(qū)域、特征區(qū)域亮度值提取、特征區(qū)域亮度值與預設亮度值比較、自動光圈控制等步驟,實現(xiàn)根據(jù)特征區(qū)域的亮度情況控制自動光圈的孔徑,且能智能化獲取監(jiān)控對象特征區(qū)域,并具備自適應能力,保證圖像中的監(jiān)控對象的可視亮度。
照相機等攝像裝置中在驅動光圈時,還同時調節(jié)電子快門速度和ISO感光度,由此維持適當曝光量;但是,由于電子快門速度或ISO感光度是電氣控制,幾乎不會產生時間延遲;而由于光圈是機械驅動,會產生延遲;因此,在到達希望設定的曝光之前產生時間差,這會導致在圖像中產生閃爍,降低圖像質量。對此,日本奧林巴斯株式會社子在申請的專利JP2016184874A中提供了即使改變光圈值也不會在圖像中產生閃爍的攝像方法,其中設定攝像元件的電子快門速度,在改變光圈的開口和電子快門速度來進行曝光量的調節(jié)時,使得光圈的開口的變化速度與對應的曝光量變化速度一致,以避免電子快門速度和光圈調整速度的不同步。
大華公司在專利CN110139042A中提供了一種光圈調整方法:根據(jù)預定參數(shù)確定光圈調整步長,其中的預定參數(shù)包括亮度、曝光、焦段;根據(jù)光圈調整步長進行調整。由于綜合考慮了亮度、曝光和焦段參數(shù),使得光圈調整步長能夠根據(jù)當前的實際使用情況來確定,克服了現(xiàn)有技術中光圈的調整往往采用單一維度信息作為依據(jù),導致調整不準確的問題。
3.5 包圍式曝光
包圍式曝光的一個重要作用是提高圖像的動態(tài)范圍,圖像的動態(tài)范圍指的是圖像中亮度的變化跨度,一般取決于其中的最大亮度和最小亮度。在動態(tài)范圍(即亮度變化范圍)方面,人類視覺系統(tǒng)能夠感知到的現(xiàn)實場景的動態(tài)范圍至少會達到104:1,但是常用的攝像機在捕獲圖像時的動態(tài)范圍通常僅為1000:1[3],因而如何增加圖像的動態(tài)范圍,使之不斷趨近于人眼視覺系統(tǒng)的程度,這也是曝光技術中一個不斷發(fā)展的方面。
包圍式曝光也是一種有悠久傳統(tǒng)的拍攝技術,在傳統(tǒng)膠片攝影時代,為了保證拍攝曝光的精確度,避免曝光失誤,攝影師經常會在測光的基礎上確定一個曝光數(shù)據(jù),然后以這個曝光數(shù)據(jù)為基準,分別增加和減少一定的曝光量進行拍攝[4]。包圍式曝光的基本原理是利用單次曝光算法獲得一幅基準圖像,例如該圖像的曝光量為E,再通過改變曝光時間分別獲取曝光量為E/2和2E的兩張圖像,這三張不同曝光量的圖像可以更好地覆蓋了整個場景的動態(tài)范圍,然后可以將這三張圖像通過一定的融合算法得到最終圖像,可以具有更高的動態(tài)范圍。
例如,美國的幻影自動化機械公司在其申請的專利US2002176010A1中,提供一種將不同曝光時拍攝的同一場景的多幅圖像進行組合,增大圖像傳感器有效動態(tài)范圍的系統(tǒng)和方法。日本的富士膠片株式會社在其申請的專利JP2009268066A中,以不同的攝像條件連續(xù)性地獲取多個攝像圖像,然后對其進行合成,生成輸出圖像;其中的攝像部件可以通過以時間長度不同的曝光時間進行曝光,連續(xù)性地拍攝多個攝像圖像;也可以通過以不同的光圈開度曝光而連續(xù)性地拍攝多個攝像圖像。
由于包圍式曝光是合成在不同曝光條件下采集的圖像,可能會導致圖像不連續(xù)的問題,例如過曝高亮區(qū)域、半色調區(qū)域以及陰影細節(jié)丟失區(qū)域的圖像不連續(xù);對此,佳能株式會社在其申請的專利JP2012217102A中,提出了能夠在避免圖像不連續(xù)的同時,生成通過最廣的色調范圍再現(xiàn)變化區(qū)域的被攝體的高動態(tài)范圍圖像的方法。
一般的高動態(tài)范圍拍攝模式中,通常需要拍攝多張同一場景不同曝光程度的照片,在通過軟件合成時,將中等亮度照片中相對曝光不足的部分圖像用較亮照片中對應的部分圖像代替,而相對曝光過度的部分圖像用較暗照片中對應的部分圖像代替,最終合成HDR圖像,這種方案需要拍攝多張不同亮度照片,處理速度較慢。針對此問題,歐珀公司申請的專利CN105578068A中提供了一種高動態(tài)范圍圖像的生成方法,相比于現(xiàn)有技術中計算亮度平均值來說,該專利中使用的算法計算出來的圖像整體亮度值更高,依此確定的曝光參數(shù)可保證在控制攝像頭捕捉圖像時,亮區(qū)不會出現(xiàn)曝光過度的情況;通過以上曝光參數(shù)捕捉的圖像作為待處理圖像,提升其中亮度值低于第二亮度閾值的區(qū)域的亮度,并生成HDR圖像,可有效提高動態(tài)范圍,且該方案不需要拍攝多張照片來合成HDR圖像,可提升處理速度,實現(xiàn)快速拍照。
4 結語
本文通過對攝像機曝光技術方面的專利進行統(tǒng)計分析,并闡述了該領域中的技術分支以及典型專利。分析這些專利中技術方案可知,他們更注重于核心技術的基礎研究,并且在其專利體系中,往往是針對某一技術方案中的某一細節(jié)的問題做出改進,多數(shù)是基于以往的專利技術中存在的缺陷,進行進一步的改進和研發(fā),以此不斷推進自己的技術體系和專利體系的發(fā)展。相比之下,我國在攝像機產品方面還沒有形成自己的優(yōu)勢企業(yè),技術起步較晚;在純粹的基礎技術研究方面仍然比較落后,尤其是針對圖像傳感器芯片級,或者攝像機信號處理芯片級的技術方面有較大差距;但華為等技術實力雄厚的企業(yè)已經在攝像機以及曝光控制方面提出了一些芯片級層面的專利技術。隨著我國經濟的快速發(fā)展和科研創(chuàng)新能力的不斷增強,以歐珀、維沃、努比亞等為代表的終端廠商也紛紛針對其產品申請了一定數(shù)量的專利;通過對比可以看出,國內企業(yè)的專利技術主要以終端應用為載體,例如集成于手機等終端的攝像模組的功能改進;針對人像攝影等特定應用場合,或者更側重于用戶體驗方面進行改進。這也啟示我國相關企業(yè)可以以這些方面為突破口,結合攝像機在各應用領域的不同形態(tài)和用戶體驗方面研究創(chuàng)新,以此為契機帶動自己技術和產品創(chuàng)新。
同時,對于攝像機領域的專利審查工作而言,通過本文也可以簡要地了解在攝像機曝光技術方面的現(xiàn)有技術情況,同時也可以幫助審查員快速準確地理解專利申請的技術方案,有針對性在相應的技術分支下進行檢索,并準確地進行創(chuàng)造性評判,提高檢索和審查效能。
參考文獻:
[1] 孟夢.高清攝像機自動白平衡和自動曝光算法研究實現(xiàn)[D].西安:西安電子科技大學,2014.
[2] 梁佳毅.高性能數(shù)碼相機自動曝光算法研究與實現(xiàn)[D].上海:復旦大學,2008.
[3] 趙金波.基于多曝光的高動態(tài)范圍成像技術研究[D].西安:西安郵電大學,2018.
[4] 華威.數(shù)碼時代的包圍曝光[J].中國攝影家,2010:112-113.