愛伊米

SK海力士新一代CMOS影象感測器:A4C感測器

眼睛對於包括人類在內的動物而言至關重要,它幫助我們測量距離,是生存的條件之一。捕獵者在捕獵時使用眼睛來測量與獵物之間的距離,而獵物也在用眼睛觀察是否有捕獵者正在靠近,以便避開危險。大約5。4億年前,地球上開始出現擁有視力的生物,而與視力息息相關的生存競爭也由此拉開序幕。從那時起,眼部結構各異的動物物種數量飛速增長。生物進化早期的物種在這一方面十分多元,從僅有一隻眼睛的寒武厚槳蝦(Cambropachycope)到多達五隻眼睛的歐巴賓海蠍(Opabinia)和麒麟蝦(Kylinxia)等。而如今,大多數動物都擁有兩隻眼睛【1】。

透過雙眼觀察物體會出現輕微的雙眼視差,也就是左眼和右眼接收到的影象位置有所差異。大腦透過計算這種差異來預測與目標物體之間的距離。這就是所謂的雙眼視差(Binocular disparity)1,大多數動物都依靠雙眼視差來測量距離。

1雙眼視差(Binocular disparity):左眼和右眼所見物體在影象位置上存在差異

智慧手機攝像頭採用了一種名為相位檢測自動對焦(PDAF,Phase Detection Auto Focus)【2】的技術,該技術使用雙眼視差來根據拍攝物件調整焦距。在此基礎上,SK海力士研發了A4C(All 4-Coupled)影象感測器,在讀取色彩資訊的同時,利用每個畫素的視差,提高影象質量和自動對焦功能。本文將介紹SK海力士全新開發的A4C影象感測器所具備的三大優勢—快速準確的對焦檢測、高解析度影象以及多種應用場景。

A4C感測器的優勢之一:

快速準確的對焦檢測

A4C影象感測器的結構如圖1所示。與傳統Quad【3】感測器類似,A4C感測器搭載一個可將光線轉換為電流的光電二極體和僅特定波長光束可以穿透的濾色片。但是,與Quad感測器不同的是,A4C感測器的結構將每四個相同顏色畫素歸為一組,每組上方配備一個微透鏡(Micro lens)2,四個畫素分別位於左上角(TL,Top Left)、右上角(TR,Top Right)、左下角(BL,Bottom Left)和右下角(BR,Bottom Right)。

2微透鏡(Micro lens):一種將光集中到中心位置以提高CIS效率的透鏡。

SK海力士新一代CMOS影象感測器:A4C感測器

圖1  A4C感測器結構

A4C感測器的自動對焦功能基於這樣一種機制:如果來自物體的不同光線匯聚至一個焦點,則物體處於對焦狀態;如果來自物體的不同光線未能匯聚至一個點,則物體處於失焦狀態。換句話說,如果一個微透鏡下的四個畫素的強度值一致,則物體處於對焦狀態;如果強度值不一致,則物體處於失焦狀態。例如,在捕捉圖2所示物體時,當影象處於圖2第一個示例中的對焦狀態,上方紅色光路和下方藍色光路會落在同一微透鏡下的同一組畫素。然而,如圖2第二個和第三個示例所示,當物體位於焦點交匯處的前方或後方,透過頂部和底部路徑進入透鏡的光路則無法聚焦到同一個微透鏡。這些光線會落在不同的畫素上,從而形成視差(Disparity)3。透過視差分析,感測器可以判斷出如何移動透鏡模組的位置才能將焦距調整至最佳狀態。

3視差(Disparity):當物體的一個點按照光路聚焦到感測器平面的不同位置時發生的位移。

SK海力士新一代CMOS影象感測器:A4C感測器

圖2 根據物體距離進行視差檢測

與現有的PDAF技術相比,A4C感測器能夠計算每個畫素的視差。換言之,A4C感測器具有很高的精度,在低於10 勒克斯(lux)的弱光環境下也可以確保10倍以上精度。與利用雙眼視差的PDAF技術不同,A4C感測器利用的是微透鏡下方位於上下左右四角的四個畫素的視差。因此,A4C感測器擁有非常出色的對焦檢測效能,能夠準確檢測水平或垂直方向的物體。傳統感測器與A4C感測器在自動對焦功能上的差距參見以下影片。

傳統感測器與A4C感測器在自動對焦效能上的比較

(左:普通自動對焦 / 右:A4C自動對焦)

A4C感測器的優勢之二:

高解析度影象

A4C感測器的輸出影象能以每個微透鏡下四個畫素為一組的方式提高感光度,或透過將各個畫素獨立輸出的方法來提高影象解析度(例如,5000萬畫素A4C感測器可以輸出5000萬畫素解析度的影象4或1250萬畫素微透鏡解析度的影象5)。如果感測器將每個微透鏡下四個畫素作為一組生成輸出影象,影象解析度會降至單獨使用每個畫素時的影象解析度的四分之一。但是,四個畫素一組的方法可以將感光度提高四倍。因此,在夜間、弱光環境等光線不足的情況下,微透鏡解析度(Micro lens resolution)感測器的優勢更為明顯。

4畫素解析度(Pixel resolution):A4C感測器的畫素數量

5微透鏡解析度(Micro lens resolution):A4C感測器的微透鏡數量。A4C感測器的微透鏡解析度是畫素解析度的四分之一。

另一方面,在白天或室外等光線充足的情況下,可以使用將各個畫素獨立輸出的方式來提高影象解析度。畫素解析度(Pixel resolution)是微透鏡解析度的四倍,因此,單獨畫素輸出的影象會更清晰,且有更多細節。但是,在使用A4C感測器的畫素解析度模式時,需要克服視差帶來的影象質量問題。當同一場景中的物體處於不同距離時(如圖3所示),鏡頭會捕捉處於聚焦狀態下的物體的高解析度影象,如實線所示。另一方面,所有處於失焦狀態的物體都會出現視差問題,如圖3虛線所示。這意味著,同一微透鏡下相鄰畫素之間的強度存在差異,進而導致影象中出現柵格圖案,影象質量下降。

SK海力士新一代CMOS影象感測器:A4C感測器

圖3 同一場景中位於不同距離的物體影象

圖4是使用A4C感測器拍攝處於不同距離的物體時得到的影象。距離感測器最近的綠色物體處於對焦狀態,而其他物體均處於失焦狀態,成像較為模糊。如果將圖4中的白色區域放大,可以看到視差造成的柵格圖案,影象質量下降。為改善圖片質量下降的問題,SK海力士的A4C感測器採用了專有A4C相位校正(APC,A4C Phase Correction)技術和四合一畫素(Q2B,Quad-to-Bayer)技術,可以對影象進行處理並改善影象質量。需要特別指出的是,SK海力士的APC演算法可以分析物體反射的光線,從而確定落在影象感測器的透鏡模組路徑。而且,這項技術既解決了因失焦區域視差所導致的影象質量下降問題,又保證了處於對焦狀態的物體區域的細節呈現。

SK海力士新一代CMOS影象感測器:A4C感測器

圖4  A4C感測器的輸出圖片

A4C感測器的優勢之三:

多種應用場景

除了精準對焦檢測和捕捉高解析度影象外,A4C感測器的優勢還包括它可以應用於一系列光場成像場景。光場成像是一種再現物體射線分佈的技術,可以計算場景中的光線強度和光線源頭的精確方向,並將這些資訊用於背景虛化(Bokeh)6、再對焦(Refocus)7和多視角(Multi-view)8等計算機視覺應用程式中。

6背景虛化(Bokeh):一種調整物體對焦同時模糊背景的技術

7再對焦(Refocus):一種在圖片成像後針對某一點進行再對焦的技術

8多視角(Multi-view):一種使用由不同角度拍攝的多幅影象來進行幾何或空間複合校準的技術

當使用A4C感測器拍攝影象時,從物體反射出來的、與焦點一致的光線經過四個不同的路徑,到達同一微透鏡下的四個畫素,如圖5所示。因此,如果感測器能夠感知A4C畫素的強度和微透鏡下的具體位置,便可明確具體畫素的光強度及光的來源方向。

SK海力士新一代CMOS影象感測器:A4C感測器

圖5 使用A4C感測器捕捉物體

具體而言,如果感測器以同一微透鏡下多個畫素為一組的模式形成區域性影象,這些畫素會接收透過相同透鏡模組路徑到達感測器的光線,這意味著,感測器可以再現從透鏡模組的相同位置感知到的區域性影象(例如,如果感測器將同一微透鏡下左上角TL的畫素作為一組來形成影象,則將呈現透鏡模組左上角的區域性影象)。這樣的區域性影象被稱為子孔徑(SA,Sub-Aperture)影象【4】,A4C感測器可以從透鏡模組的左上角、右上角、左下角和右下角生成四個子孔徑影象。如下文所述,這四個來自不同點的子孔徑影象可用於各種計算機的視覺應用。

1)背景虛化應用:使用四個子孔徑影象可以提高虛化影象的質量。由於左右攝像頭之間的視角和機械位移問題,使用普通雙攝鏡頭生成的背景虛化影象往往與實際場景有一定差別。但是,只要使用子孔徑影象,即透過A4C感測器生成區域性影象,就不會出現上述差別問題。此外,A4C感測器可以使用四張子孔徑影象來計算深度資料,在精度方面要優於使用兩個影象的雙攝像頭。

2)再對焦應用:子孔徑影象支援再對焦,即,透過A4C感測器的強度和方向資訊將焦點調整至指定位置。傳統的再對焦技術因為需要在影象感測器上方新增微透鏡陣列【4】,會存在機械誤差問題。而A4C感測器則不需要額外新增微透鏡陣列,因此不存在機械誤差問題,同時精度也可以得到很大改善。

3)多視角應用:從本質上來說,子孔徑影象是從不同角度觀察物體得出的影象資料。因此,在一系列多檢視應用場景中可以使用到四張子孔徑影象,包括3D影象恢復、3D安全應用程式以及改善弱光條件下影象質量等。

綜上所述,SK海力士開發的A4C感測器不僅可以克服傳統影象感測器的侷限性,而且具有三大優勢:快速準確對焦檢測、捕捉高解析度影象、多種光場成像應用場景。除A4C感測器外,SK海力士正在開發HDR(High Dynamic Range)、非拜耳(Non-Bayer)、畫素裝倉(Pixel Binning)等新型影象訊號處理(ISP,Image Signal Processing)技術。SK海力士憑藉業界最佳的裝置和工藝技術,開發了0。7um和0。64um微型畫素,提高了CIS(CMOS影象感測器,CMOS Image Sensor)畫素密度,使其在未來成為資訊感測器的核心組成部件。未來,SK海力士的CIS技術有望用於包括智慧手機攝像頭、生物、安全和自動駕駛汽車在內的各個應用領域,為創造經濟和社會價值做出貢獻。

參考文獻

【1】Andrew Parker,《一瞬之間:視覺激發的寒武紀大爆發》(In the Blink of an Eye: How Vision Sparked the Big Bang of Evolution),2003年。

【2】SK海力士新聞中心,影象感測器的視覺演變與創新,https://news。skhynix。com。cn/the_visual_evolution_and_innovation_of_image_sensors/。

【3】SK海力士新聞中心,SK海力士“1。0μm黑珍珠(Black Pearl)” 影象感測器詳解,https://news。skhynix。com。cn/everything-about-the-1-0%CE%BCm-black-pearl-sk-hynixs-image-sensor/。

【4】R。 Ng, M。 Levoy, M。 Bredif, G。 Duval, M。 Horowitz與P。 Hanrahan。“手持式全光學相機的光場攝影”,斯坦福大學計算機科學技術報告 CSTR 2005-02,2005年4月。