愛伊米

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

前言:

中關村線上2021年終特別欄目《Leading Technology 10》(以下簡稱LT10),旨在根據推動行業發展貢獻,並能夠代表未來一年乃至多年後形成的主流應用技術,且落地於產品本身為基準,評選年度10大領先技術,從而引領產業持續發展。

“馬里亞納”是地球上最深的海溝,最深處超過11000米,比世界最高峰珠穆朗瑪峰的海拔還多出2000多米。對於人類來說,馬裡亞納海溝更像一個深淵、一個未知之地,它隱藏著最虛無的黑暗,最厚重的壓力,人類探索馬利亞亞納海溝每一步,困難都是前所未有的。

就是這樣一個充滿挑戰和未知的名字,OPPO用其來形容自研晶片的難度,還用它為自研晶片品牌命名。而今,面對未來,OPPO終於踏出了第一步。

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

OPPO釋出首個自研NPU晶片——馬里亞納 MariSilicon X

馬里亞納MariSilicon X是OPPO首款自研晶片,同時也是全球首個為影像而生的專用NPU晶片。2021年,移動手機影像發展迎來新開端,手機影像正在集體進入硬體級演算法時代,OPPO作為先行者,此前曾全球首發與索尼聯合設計的超感光貓眼鏡頭,這是手機廠商首次實現將自研硬體級影象處理單元整合至感測器。

而這一次,馬里亞納MariSilicon X的釋出,意味著OPPO在移動影像領域走出了重要一步,這不僅是OPPO技術發展的重要里程碑,同時也開啟了計算影像發展的新徵程。有鑑於此,中關村線上認為,2021年OPPO推出的馬里亞納MariSilicon X自研NPU晶片可以參與本次終極評選。

01 自研NPU晶片,探索計算影像新極限

2021年,對於手機影像來是發展極為關鍵的一年。這一年,感測器在大幅升級,影像演算法也在提升,多攝像頭矩陣實現了全焦段覆蓋、多功能拍攝。手機廠商也在積極創造各自的影像標識,從多主攝融合再到計算光學、從液態鏡頭再到獨立影像晶片的研發,行業變革歷歷在目。

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

對於OPPO而言,影像一直都是長期堅持的核心賽道之一,值此移動影像大幅躍進的關鍵時刻,OPPO自然不會落下。馬里亞納MariSilicon X便是OPPO圍繞攝影技術不斷探索實踐的最新成果,其至少具備以下幾點行業意義:

1、馬里亞納® MariSilicon X用AI技術解決傳統手機影像難題——ISP和通用處理器算力不足導致的夜景影片長期以來畫質不佳的難題,以及傳統影像鏈路中的資訊損耗問題。

2、解決手機長期尚未解決的難題,弱光影片畫質,將計算影像推向了4K+20bit RAW+AI+Ultra HDR的極限,為行業設立了影像新標杆。

一般來說,很多手機晶片都支援相應的AI加速功能,透過協調整合CPU、GPU、DSP等傳統單元來輔助完成,不過在一些過載場景下,會對AI效能又有了新訴求。OPPO顯然也洞察到了這點,所以透過研發獨立NPU單元來輔助AI運算。

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

而在馬里亞納MariSilicon X支援下,暴漲的AI效能將會為影像提升帶來非常大的支援,尤其在畫質增強、夜景渲染等方面都有著非常搶眼的表現。

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

馬里亞納 MariSilicon X 4K影片截圖 V.S. Find X3 Pro 4K影片截圖

當然,馬里亞納MariSilicon X的更多作用還是在於對影像極限的探索,比如4K AI夜景影片,讓手機擁有更專業的影像能力,這是它存在的現實意義之一。

02 馬里亞納MariSilicon X基礎引數解析

馬里亞納MariSilicon X採用臺積電6nm EUV製程打造,這是全球首個6nm移動端獨立影像專用NPU。眾所周知,在晶片側,製程工藝越小,在同樣面積上整合的電路越複雜,電路的效能就越強。目前,手機端採用的6nm EUV處理器相比第一代7nm工藝,電晶體密度提升18%,效能和能效比已經有了顯著改善。馬里亞納MariSilicon X作為OPPO首個自研晶片,選擇從6nm開始入局,起點和難度都是非常高的。

在架構方面,馬里亞納MariSilicon X採用AI時代的DSA架構,和傳統晶片一樣,NPU也有不同的架構設計,而AI DSA便是當下公認的最理想NPU架構。

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

基於領先的架構設計,馬里亞納MariSilicon X擁有18 Tops AI算力,超過了iPhone 13 Pro的15。8 Tops。

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

能效上,馬里亞納MariSilicon X能效比達到了11。6Tops/w,執行OPPO AI降噪模型的速度是達到Find X3 Pro(驍龍888)的20倍,能效達到40倍。

馬里亞納MariSilicon X還採用了創新的雙層儲存架構,並在AI計算單元集成了專用的片上記憶體子系統,該記憶體子系統只服務於AI計算,最高可提供萬億位元/每秒的超大吞吐量,是目前手機最高記憶體吞吐量的十倍以上。

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

與此同時,馬里亞納MariSilicon X還配備Tb級讀寫速度的AI專用寬頻,傳輸速度最高可達8。5GB/s,為AI的高效運算提供充分的記憶體讀寫支援,讓超強算力不再受讀寫速度限制。

03 創新升級:無損的實時RAW計算和最大化感測器能力的RGBW Pro

① 無損的實時RAW計算

瞭解攝影的都知道,專業相機中有一種叫“RAW”的特殊格式,RAW格式實際就是一堆原始資料的合集,攝影師利用後期軟體,從RAW中選取關鍵資訊,最終呈現出一張令自己滿意、讓大眾悅目的影象。毫無疑問,RAW是產生絕佳影象的關鍵,因此擁有最多的原始資訊的RAW域,往往也被看作計算攝影的 “黃金點” 。

然而在手機中,AI計算往往只能在後端完成,原始影象資料在層層轉換後,會損失很多的資訊和細節,這意味著在透過AI處理影象時,實際處理的並非最初那張蘊含豐富資訊的“原始影象”,難以實現最佳的效果。

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

馬里亞納MariSilicon X的突破之處在於重塑轉換鏈路,引領性地將複雜的AI演算法以及20bit HDR融合全部前置到RAW域進行,AI計算也就不再受限於資訊量的損耗,可以為整個影像鏈路輸出高質量的影象資料。而且,與傳統後端計算相比,馬里亞納 MariSilicon X的實時RAW計算能夠帶來8dB的影象信噪比提升,比如改善基礎畫質,提升預覽成像、第三方APP畫質效果等等。

② 最大化感測器能力的RGBW Pro

2021年8月份,OPPO在未來影像技術釋出會上釋出了全新一代RGBW捕光感測器,透過從底層改變感測器畫素排列,進而提升感測器的進光量,目前該技術已經成功在Reno7系列上商用,而OPPO Reno7系列也憑藉這一創新技術成為迄今為止前置攝像頭感光能力最強的手機。

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

RGBW捕光感測器畫素示意

所謂的RGBW畫素排列就是用一個不包含色彩“W”畫素替換傳統RGGB拜耳陣列中的G(綠色)畫素,儘管實現了感光性的提升,但也帶來猜色難、色彩失準等問題。其中,在“猜色”過程中,需要複雜的演算法作為支撐,在全新的RGBW感測器個,OPPO將自研四合一畫素聚合等一系列演算法寫入感測器硬體,形成獨具優勢的“影象處理單元”,這個處理單元可以提供足夠的算力支援,這也是OPPO Reno7採用IMX709感測器拍攝卻不偏色的重要原因。

但此前這個“影象處理單元”是封裝在感測器之中的,而馬里亞納MariSilicon X畢竟是獨立NPU,無論是AI效能還是算力,實際上都有了更大幅的提升,此時再與RGBW感測器進行協同,也能幫助RGBW感測器釋放更大潛力。

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

從測試來看,在HDR AI降噪這類典型應用場景中,馬里亞納MariSilicon X透過雙鏈路的設計和2x RAW計算,能夠實現8。6dB信噪比和1。7倍解析力提升。這意味著,即便感測器規格沒有升級,也能透過馬里亞納MariSilicon X來提升手機的成像質量,對於手機影像提升來說確實是一件值得興奮的事情。

04 領先優勢:行業領先的Ultra HDR

在成像、影片應用中,目前主流的8bit色深,HDR提升到了10bit,達到了10。7億色。HDR技術可以實現更大的動態範圍,比如逆光場景下,可以大幅提升影片質量和觀感,HDR在很多手機拍攝場景中都能用到,其本身甚至已經成為了衡量手機影像能力的一個標準。

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

在新一代主流旗艦SoC中,HDR處理能力已經達到了18bit的程度,不過這一次馬里亞納MariSilicon X集成了自研MariLumi 影像處理單元,支援最高20bit的處理位寬,使得畫面動態範圍達到了20bit 120db(20 stops),四倍於當前旗艦。

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

在即時呈現出的畫面中,最亮與最暗之處的亮度對比極值達到100萬比1,接近人眼的實際觀察效果。

總結:

綜合來看,馬里亞納MariSilicon X採用了全新架構和旗艦Soc級製程工藝,它具備強大算力、能效比和計算速度,讓AI演算法的執行速度達到空前水平。未來,馬里亞納MariSilicon X將和通用平臺一起構成手機運算的“核心”,一機雙芯共同推動計算影像邁向新極限。有鑑於此,中關村線上認為馬里亞納® MariSilicon X的出現,勢必會對行業產生更積極的影響,在推動移動影像的發展,最終會惠及更廣大的消費者。

2021 LT10 | OPPO首個自研NPU晶片解析:計算影像更強了

手機影像是一個很長的賽道,OPPO過去十年在定製影象感測器、攝像頭模組、鏡頭方面、AI演算法方面積累了大量豐厚經驗,馬里亞納MariSilicon X的誕生,事實上也是一種厚積薄發的結果。

當然,晶片自研的難度已經上升到了一個新層次,尤其OPPO還是從6nm NPU開局,技術挑戰更大,投入的研發成本也更大,這也足以彰顯OPPO在晶片自研道路上的決心和意志。

能夠被評選為LT10中的一員,代表著馬里亞納MariSilicon X NPU具備強大的核心技術和引領產業發展的領導力。依託於技術研發實力、技術創新能力以及技術拓展潛力,不斷為使用者提供執行速度更快、效能更好且體驗更佳的優質產品,並持續推動產業發展。