愛伊米

AI晶片,一隻風口裡難以落地的“豬”

AI晶片,一隻風口裡難以落地的“豬”

本來是要給傳統行業賦能,結果要靠傳統行業續命,這個就是很多AI晶片公司要面對的現實。

江湖上有一位赫赫有名的大師,曾經傳授過一句口訣“站在風口上,豬都會飛”;當很多後起之秀憑藉口訣能夠御劍飛行時,其中最想請教大師的問題就是“在風口上飛起來了,但是要怎樣落地”。

當下的AI晶片創業公司都遇到這個問題,融資一輪又一輪,頂會論文一篇又一篇,PR一場接一場,流片一款又一款,現在最糾結問題還是怎麼落地?

對於AI產業來說,萬物AI可能早晚都能實現,但是對於一個AI晶片公司,最重要的活著看到那一天,而晶片產品落地是活著的前提條件。

01 緣起

世界上本沒有AI晶片,AI演算法多了,便有了AI晶片。

AI演算法出現後,業界發現原來CPU這種計算體系結構,效率太低,可用性極差,特別是在IOT端,都沒有什麼有效的解決辦法;如果一個東西滿足不了應用,那麼就需要有更有效的計算架構來替代,DSA(領域專用架構)應運而生,這個就是AI晶片的緣起。

一位AI大師苦思冥想,悟道新演算法;或者一個電路或者體系結構大師,苦思冥想,悟道新結構,他們不約而同做了一款AI晶片,可以在ISSCC/Hotchips等頂會上一鳴驚人;有效提升效能,降低儲存代價,於是想做一個AI晶片公司。

大體上,AI晶片分為雲側AI晶片和端側AI晶片;雲側,用在資料中心;端側,用在IOT,也被稱為AIOT;做AI晶片也面臨兩條路,端側AI晶片和雲側AI晶片;AI大師覺得,如果芯片面積小,功耗低一點,就走端側;面積大,效能高一點,那就走雲側;

但這兩條路的落地都充滿挑戰。

如果在雲端:就是主CPU和AI晶片分離,AI晶片是專用的加速晶片,以加速卡的形式用於伺服器上;而在端側,需求截然不同,必須是一個完整的SOC;所有端側AI晶片都是SOC,不存在獨立AI晶片的空間。

AI晶片好比一個人的右腦,負責音樂,繪畫,空間幾何想象;

但是使用者對終端AI晶片的需求,是一個完整的人,不但需要右腦,還需要左腦(CPU),

五臟(其他功能模組),四肢(IO模組)等等,這些都齊備,這才能滿足使用者的需求。

以安防領域(智慧視覺)舉例,IPC SOC 攝像頭晶片,目前有好多AI公司計劃在此方面發力,IPC SOC 晶片在AI晶片不存在時,就已經是業界相對標準的做法了。

一個IPC SOC,由CPU,影片編解碼模組(H。264/H。265), 影象處理模組(ISP), 音訊編解碼模組, 影片和圖形處理模組,安全引擎,外圍介面(mipi,ddr,I2S,USB,SDIO等等)組成,最後才是AI處理模組。

有AI模組的加入,支援神經網路加速,可以完成目標(人臉)檢測與跟蹤、場景識別,這個只是這個IPC SOC中其中一個較小的功能。

AI是IPC SOC是一個特性(feature);沒有AI也是一個具備廣泛應用IPC的SOC晶片,況且如果內嵌GPU的話,也能做不少AI的特性的工作;從中可以看出,在終端AI晶片側,AI是輔助,上單、打野、中單、射手都是必須的,否則5V5根本贏不了比賽。

道生一,一生二,二生三,三生萬物。

從AI大師悟道AI演算法,到AI IP,現在到AI SOC晶片;一個比一個難;但還不是最難的,

完成了整個軟體解決方案SDK;這才達到了這個及格線。

道是AI演算法,一是AI的IP,二是SOC晶片,三是軟體方案SDK。

走到這一步才具備推廣的基礎,是萬物皆可AI的前提。

02 雷神之錘

既然萬物可AI,那麼AI就可以賦能傳統行業,這個邏輯沒有問題,那麼有哪些傳統行業可以被“賦能”,這個是AI落地的核心問題。

目前在終端側AI,看的比較清楚的,一個是影片監控(安防),已經有很多玩家了;另一個是自動駕駛,也有很多玩家了;其他的領域還有哪些?

AI晶片公司就像《復仇者聯盟》裡的雷神托爾,拿著一把錘子(AI晶片),在所有行業,都砸一遍,看看有什麼油水;俗話說,手裡有一把錘子,看什麼都是釘子。

智慧眼鏡,智慧家電,自動駕駛,安防,智慧零售,能源勘探,智慧硬體,所有的地方都要拿錘子敲一下;用AI晶片賦能傳統行業,AI晶片這把錘子,不論看到什麼有公司打算去砸兩下;現在被AI這把錘子沒有被敲過的傳統行業已經不多了。

本來是要給傳統行業賦能,結果要靠傳統行業續命,

這個就是很多AI晶片公司要面對的現實;“拿著錘子找釘子”是無奈之舉。

但是這個是一個有效的手段,AI晶片公司實際上花了很大力氣來教育市場;但是能夠產生價值的地方不多,更多的時候是被市場教育了。

但是找到目標客戶,儘快產生價值,一方面可以實現晶片及方案落地,另一方面可以實現AI晶片的快速迭代。

找到最擅長的落地場景,給客戶提供一整套的解決方案,便於拿下商業合同,就需要變成所謂的行業解決方案專家;傳統的晶片公司,都是提供晶片給方案廠家,方案廠家做成整機或者方案給使用者。

現在AI這一波潮流催生很多公司,

一個是專門的AI方案廠家本身就不成熟,能夠賺到錢的AI方案公司也不多,能出真金白銀來採購晶片就更少。

另一個方案廠家本身就直接開發AI晶片;搞得很多AI晶片公司只能去推方案;所以為了這瓶醋,不得已就得去包一盤餃子。

03 華山論劍

與終端AI晶片形態各異完全不同,雲端AI晶片的形態非常類似,就是伺服器插AI加速卡,介面目前是PCIE;同時都需要外接DRAM儲存,原來直接DDR,現在都是直接HBM。

總之,這個形態已經固定好了,就是在雲資料中心領域,提供AI算力,看誰的晶片效能更高,適用性好,評價軟體和標準都一套成熟的模式和框架。

目前NVIDIA的A100晶片,目前有826mm2, 採用TSMC 7nm工藝,透過這兩個指標都來看,雲端芯片面積大,製程工藝先進,因此可見,雲端晶片的資金投入規模高,對晶片設計公司的技術挑戰也非常之大;

但是技術挑戰雖大隻是小問題,落地才是大問題。

這個領域已經被NVIDIA佔據了,

這個就是華山論劍,做出來就需要和NVIDIA正面碰撞;不論做出任何一款雲端的AI晶片,客戶就會靈魂三問:與NVIDIA的同款相比效能指標如何?功耗對比如何?適配AI演算法如何?

如果晶片廠商說,孩子剛生出來,就要和業界大佬去比,這個太苛求了吧。但是雲端客戶為什麼苛刻,非要和NVIDIA去比,因為這個領域的客戶也是非常集中,並且很強勢。

世界範圍內是亞馬遜,谷歌,微軟,阿里;國內是阿里雲,騰訊雲,華為雲,天翼雲,百度雲,金山雲,京東雲等等。

NVIDIA目前在雲端的AI加速卡佔據了95%以上的市場,如果他們要換解決方案,必然必須要比NVIDIA有優勢,功耗,效能,價格,適配性等等,這個是繞不過去的。“利不百,不變法;功不十,不易器”,就是這個道理。

另一個取巧的方法,根據對雲端業務的深入理解,避開NVIDIA的九陽神功,做雲端AI的定製化,不採用類似NVIDIA可程式設計的SM(流處理器)的路線。

走谷歌TPU的道路,不用支援所有的AI演算法,不用可程式設計,只支援某些AI演算法,走專用晶片路線,好處比較高效,比GPU更專用;功耗面積成本肯定對NVIDIA都有優勢。

這種做法的風險就是,AI領域每年都會有很多新的演算法及特性出來,是一個不斷髮展進度的領域;如果不是高度靈活的可程式設計架構,今天的AI晶片船票,還能不能趕上明天客戶應用的客船,就要打一個大大的問號。

還有一點不利的因素,不論是國外還是國內,很多雲廠,一方面都用NVIDIA的解決方案,另一方面都在自己做晶片。

谷歌的TPU,阿里的含光,華為的昇騰,百度的崑崙等等;最近的位元組跳動也擠入了這個行業;不禁令人感嘆,大廠做芯,有需求,有動力,已經蔚然成風,既是裁判又是運動員,雲端AI晶片創業公司如何與之競爭?

04 落地

雖然萬物可AI,對於客戶來講,可能需要的AI場景值不值得投入很多錢,是一個大問題。

例如客戶需求就是一個MCU,原本就是一片幾塊錢的預算,帶上AI功能後也不會偏差太多;對於AI公司來講,如果在這個細分賽道上再提供詳細解決方案,這點錢是否值得這麼大的軟體及方案投入是一個大大的問號。

以前有的公司做AI專案的時候,經常會收到各種定製需求,比如在廢物回收領域,使用者要用AI實現物品的分揀,就需要定製一套AI解決方案,這種例子不勝列舉。

演算法要實現,應該沒有問題,但是使用者不是需要一個AI演算法或者晶片,而是一整套AI解決方案,開動這套方案軟體的投入就更大。

到底為了這瓶醋,包盤餃子值不值?

AI晶片廠商高投入研發過後,卻不知道自己的產品要賣給哪些客戶或者說應用到哪些產品上,

無法找到可持續性的落地場景。

如果透過系統方案或者示範性專案,把晶片用上,讓客戶看到真正的價值,形成行業示範性應用案例,甚至推廣規範,那就是非常值得的。

在這個過程中,可以發現晶片的一些問題,同時為下一步晶片的迭代提供了方向,而AI應用則要透過資料來進行功能迭代,形成資料閉環迭代,一舉數得,非常有效。

AI晶片細分賽道越來越多,天下大勢,分久必合,合久必分;不可能每個賽道都有一顆AI晶片;量上不去,成本也cover不住;那麼就是要聚類。

對於AI晶片公司,不可能每個行業場景都要一套方案,需要認清自己的能力邊界,成為細分行業的老大,才能真正站穩腳跟。

推廣過程中,使用者會發現AI晶片公司對行業的理解遠遠不及使用者,但是隻有成為這個行業的專家,對行業背景的深入理解,才能夠帶給使用者物超所值的解決方案,這個要求比傳統的晶片公司對晶片的理解又更深了一層,也更難了一層。

AI的技術之風催熟了很多AI晶片公司,而AI的應用落地則是滯後的;當AI晶片脫離單純討論“技術能力”的範疇,如何能夠教育市場,減少技術到應用的時間,把研發投入快速轉換成銷售和利潤,是一個很有挑戰的問題。

因此瞄準萬物AI的目標,催化整個AI的應用落地;“為了這瓶醋,而包一頓餃子”的方法在目前階段也不失一個解決之道。

AI晶片,一隻風口裡難以落地的“豬”

AI晶片,一隻風口裡難以落地的“豬”