在英偉達、AMD的GPU/CPU晶片封裝中，已經應用到了HBM記憶體技術，透過在一個2。5D封裝中將GPU/CPU與HBM記憶體進行整合能夠提升記憶體頻寬、加速資料儲存的速度，從而應對神經網路、AI訓練等的記憶體頻寬需求。據瞭解，燧原科技也在其GPU晶片中使用了HBM2技術，由Rambus提供IP支援。

現在，Rambus公司率先在業界推出支援HBM3的記憶體子系統，速率可達8。4Gbps，能夠提供超過1TB/s的記憶體頻寬，它的引數指標較HBM2實現了大幅的提升。

日前，Rambus IP核產品營銷高階總監Frank Ferro，以及Rambus大中華區總經理蘇雷接受包括電子發燒友網在內的媒體採訪時，詳解了Rambus HBM3-Ready記憶體子系統的亮點和市場。

Rambus於2016年進入HBM的市場，得益於之前在行業領域長期的專業知識累積，提供包括高速介面、晶片以及2。5D等複雜IP，從而在HBM市場保持領先。

Rambus HBM3的資料傳輸速率高達8。4Gbps/pin，頻寬超過1TB/s，採用標準的16通道設定，可以達到1024位寬介面。能夠支援市面上所有主流的供應商所提供的DRAM，並大幅提高整個產品的密度。除了針對AI/ML訓練的市場之外，HBM3還可用於高效能計算及其他資料中心相關的主要應用場景、圖形應用程式和具體網路應用。

HBM3達到8。4Gbps，提供更寬的設計裕度

從HBM效能的歷史演進來看，最開始的HBM1，資料傳輸速率大概可以達到1Gbps左右；2016年的HBM2，最高資料傳輸速率可以達到2Gbps；接下來是2018年的HBM2E，最高資料傳輸速率可以達到3。6Gbps。

今年海力士釋出了HBM3產品，公開的最高資料傳輸速率達到5。2Gbps。儘管JEDEC尚未釋出HBM3相關的標準，但是Rambus也推出了HBM3產品，並將最高的資料傳輸速率提升到8。4Gbps。

Frank Ferro表示，Rambus與美光、海力士、三星等廠商有著非常密切的合作，為這些DRAM廠商提供HBM PHY以及其他相關方面的支援。我們推出HBM3產品，目前為止在資料傳輸速率上比海力士更高，8。4Gbps的速率選擇是出於未來產品規劃的考量，同時也可以為客戶和設計師提供更高的設計裕度，為未來的產品開發做好後續準備。

HBM3記憶體子系統的主要架構

如下圖所示，最上面有4塊DRAM記憶體條，透過TSV堆疊的方式疊加在一起，下面是SoC，再往下是中介層，在中介層下面就是綠色的封裝。這些部分組成了整個2。5D的系統架構。

作為一個完整的記憶體子系統產品，Rambus提供的並不僅僅是IP，同時也提供泛IP，以及整個系統的具體設計，包括經過驗證的PHY以及數字控制器。此外，還會在中介層和封裝上給客戶提供更好的參考設計支援和框架，因為這些也是整個記憶體子系統領域非常重要的環節。

Frank Ferro表示，得益於在HBM領域多年的經驗和專業知識，Rambus在市場份額上排名第一，同時已經贏得了超過50個設計訂單，這些訂單來自資料中心、ASIC的設計方等。目前為止，我們的控制器已經應用在了HBM市場超過85%的產品當中。

Rambus生產經驗的支援

Rambus有著對HBM生產經驗的支援，這裡展示的一款測試晶片，集成了PHY和控制器，基於HBM2E的DRAM，資料傳輸速率可以達到4Gbps，到目前為止依舊是行業的最高水平。晶片開發一次成功，無需返工，支援臺積電等晶圓代工廠的多製程節點。

Rambus的PHY產品透過完全整合的硬核方式進行交付，在交付之時已經包括了完整的PHY、I/O以及Decap，方便客戶進行系統整合。

對於I/O裝置產品來說，客戶也需要廠商提供非常強大的技術以及相關的除錯糾錯支援，Rambus不僅可以將產品提供給客戶，還可提供針對ASIC power up的現場客戶支援，幫助客戶進行現場糾錯，實現更好的裝置除錯啟動。

不同的提供商的生產2。5D流程本身也不一樣，是一個非常複雜的過程，不僅需要提供用於生產中介層的矽產品，還有根據廠商各有差異的封裝以及最後組裝。而Rambus可以同時支援OSAT和CoWoS生產2。5D流程。

此外，Rambus與各大DRAM供應商有著非常密切的合作關係，測試晶片已經過充分的雙向驗證以及測試。

2.5D封裝的挑戰

當前HBM採用2。5D封裝需要考慮兩個主要的挑戰：

Frank Ferro分析，第一，確保訊號的完整性，包括與中介層之間訊號的互聯，這是非常重要的環節，也是我們首要考慮的挑戰，這同時要求在整個封裝系統上具備非常良好的控制程式。

第二，2。5D封裝整體的尺寸非常小，所以必須考慮可能產生的散熱問題。不過HBM本身就是一個低功耗的解決方案，可以支援很大範圍內的工作溫度。

另外，Frank Ferro還指出，儘管目前HBM3的速率已經可以達到8。4Gbps，但對比GDDRDRAM已經達到16或者18Gbps的速率，還是有差距的。簡單來講，HBM發展的限制目前集中在中介層上。在HBM2的時代，中介層本身的技術是有限制的，即一代和二代的中介層最高只能做到兩層，它設計的線寬、金屬層的厚度都是非常有限的。HBM3的速率達到8。4Gbps，為此需要在中介層的設計上實現進一步最佳化。隨著中介層技術的發展，其本身的厚度、金屬層和線寬都有了一定的增加，這也推動了HBM未來的發展。

HBM3面向哪些應用領域

Frank Ferro解析，資料中心是HBM3最主要的應用場景，但隨著裝置越來越多的邊緣化，HBM3也可能被應用在5G裝置上，特別是那些對頻寬有更高要求的5G裝置。

另一個應用場景是AI/ML，現在AI/ML的資料很多時候需要上傳到雲端進行處理，然後再重新回到本地。所以HBM3未來在這個領域也有一定的應用前景。

最後是HPC，它也可以充分發揮HBM在功耗以及效能上的強大優勢。目前為止，已經有一些客戶開始與Rambus進行早期接洽，在這個領域展開具體的應用嘗試。

Rambus在中國市場的動作

當前，中國在資料中心、雲計算以及AI等領域都走在了世界前列，因此許多國外廠商更加重視中國市場。Rambus也不例外，蘇雷表示，從去年開始，Rambus年度的Design Summit除了總部以外，中國是全球唯一單獨舉辦的區域。圍繞中國市場，Rambus已經規劃了一系列的活動。例如，Rambus今年在全球範圍內釋出了CXL記憶體互聯計劃，將和中國的雲服務商、資料中心、伺服器OEM、ODM和記憶體公司等整個生態系統展開合作，以加快CXL記憶體互聯計劃的開發和應用、落地和發展。

據透露，Rambus的IP產品特別是HBM和GDDR6系列被業界廣泛採用，覆蓋一線的AI客戶。另外緩衝晶片、DDR5市場也會和記憶體生態系統的合作伙伴開展合作。

Rambus在中國擁有強大的銷售、市場、FAE和AE團隊，並且還將持續擴大，做好長期耕耘，未來將用更好的產品和服務來踐行Rambus“In China，for China”的承諾。

小結：

雖然目前JEDEC還沒有正式釋出HBM3標準，也很難去推測下一代HBM（例如HBM4）的效能，不過，Frank Ferro表示，整個行業對頻寬的需求幾乎是無止境、並且快速上升的。這也是Rambus將要持續進行的技術突破，以始終保持領先，從而不斷滿足市場的新需求。