美光:HBM 今年完售、明年配額也沒了!美光先進封裝佈局台灣,哪些台廠打進供應鏈?

美光:HBM今年已售完!明年配額也沒了

AI帶動HBM(高頻寬記憶體)需求,全球第三大記憶體製造商美光科技(Micron)表示,美光HBM 2024年已完售,且2025年的絕大部分供應也已分配完畢。

美光執行長梅羅特拉(Sanjay Mehrotra)在3月20日財報電話會議上表示,有望在 2024 財年從 HBM 獲得數億美元的收入,並預計從第三財季開始,HBM 的收入將進一步推動 DRAM 和整體毛利率。

另外,梅羅特拉指出,AI伺服器需求推動HBM、DDR5(D5)和數據中心SSD快速成長。這使得高階DRAM(動態隨機存取記憶體)和NAND供應吃緊,這也將進一步拉抬記憶體和儲存終端市場報價。

美光於2月時宣布,正式量產領先業界的8層堆疊高頻寬記憶體HBM3E(24GB)解決方案,每腳位傳輸速率超過9.2 Gb/s,記憶體頻寬達1.2 TB/s以上,與競品相比功耗降低約30%,憑藉其卓越的效能和能源效率助益AI解決方案。美光也規劃12層堆疊36GB HBM3E將在2024年3月送樣。

HBM3E小檔案

卓越效能: 每腳位傳輸速率超過 9.2 Gb/s,記憶體頻寬達 1.2 TB/s 以上,為 AI 加速器、超級電腦與資料中心提供如閃電般快速的資料存取速度。

優異效率: 與競品相比,美光 HBM3E功耗降低了約 30%。為了支援日益增長的 AI 需求和應用,HBM3E 能以最低的功耗提供最大的傳輸量,進而改善資料中心重要的營運成本指標。

高可擴展性: 美光 HBM3E 目前提供 24 GB 容量,使資料中心可無縫擴展其 AI 應用,無論是用於訓練大型神經網路還是加速推理任務,美光解決方案都能為其提供所需的記憶體頻寬。

美光先前也接受《數位時代》專訪,暢談其HBM布局,以下為報導內容:

「坦白說,美光HBM的布局比較晚,所以希望用領先的技術,帶領我們彎道超車、吸引客戶。」美光董事長盧東暉道出公司HBM的市場策略。

隨著AI來襲,大語言模型(LLM)崛起意味著更多的數據需要被儲存和傳輸,傳統的DRAM記憶體難以滿足AI晶片需求。在這樣的情況下,過去因為成本過高而較少被採用的HBM(高頻寬記憶體)因此找到最佳位置,也讓「記憶體」這個相對不性感的題目大受關注。

台灣美光董事長盧東暉 圖/台灣美光提供
台灣美光董事長盧東暉 圖/台灣美光提供

HBM由DRAM堆疊而成,所以日本微細加工研究所所長湯之上隆指出:「將來DRAM廠的興衰關鍵,就在於HBM的良率有多高。」從這點可看出,HBM對於記憶體廠搶攻未來市佔的重要方向。美光副總裁暨先進封裝主管辛赫(Akshay Singh)指出,預期至2025年,用於生成式AI和機器學習的HBM,年複合成長率將達到50%。

彎道超車三星、直追海力士!美光兩大技術發力HBM,上演逆襲之戰

過去記憶體一直都是大宗物資,與市場景氣波動密切,營收易在景氣低谷受到影響。

但技術含量高的HBM有機會打破這樣的局面,由於該產品最終要與GPU透過先進封裝CoWoS包在一塊,DRAM的厚薄度、封裝的散熱性及封裝後的線路連接都是重點,需要大量投入研發,商品本身的附加價值高,可抵抗市場波動影響,「產業壁壘變得很高。」盧東暉說。

這讓記憶體業者開啟一場「大者恆大」的戰役。

盧東暉表示:「HBM不能單獨拿出來,你一定要從前期就跟台積電或GPU大廠合作。」如同車用供應商一旦打進供應鏈地位就難以動搖,他表示美光希望透過領先的技術搶攻市占後,再逐步擴產放量,「你一味的追求產能沒用,如果沒有技術領先,那就會像之前景氣下滑的狀況一樣。」

集邦科技指出,當前HBM市場霸主是韓國記憶體巨頭SK海力士(SK Hynix),但美光表示在TSV(矽穿孔)部分則擁有全球最先進的技術;在DRAM製程上,美光也已超車三星電子(Samsung Electronic)。

首先,美光在矽穿孔(TSV,Through Silicon Via)的實力堅強。辛赫表示,美光擁有最先進的穿孔技術,孔洞間的距離為業界最小。由於TSV就如同散熱孔洞,數量越多散熱效果就越好,這對美光開發下一代HBM來說,是絕對有利的因素。

美光1-beta節點 圖/邱品蓉攝影
美光1-beta節點 圖/邱品蓉攝影

其次,是美光在DRAM製程上的領先。盧東暉解釋,記憶體其實就像摩爾定律,越往下代製程移動,同樣功耗下能繳出的性能越好。目前美光在DRAM製程上領先海力士量產1β(1-beta)製程,並搶先宣佈2025年量產1γ(1-gamma),領先兩大對手。由於HBM是透過堆疊DRAM而成,DRAM性能越好、功耗越低,HBM自然也會有相同的優勢。

一名IC設計主管分析,美光與台積電的盟友關係是另一個重要因素,「你看輝達(NVIDIA)、超微(AMD)都在台積電下單,美光跟台積電合作那麼緊密,當然有優勢。」由於HBM需要美光先將HBM封裝完成後,再送至台積電進行CoWoS整合,與台積電的合作相當重要。在封裝技術上,美光也在台灣進行相關佈局。

延伸閱讀:[黃仁勳敢喊「買愈多省愈多」關鍵是它!HBM是什麼?][1]

美光HBM如何為台廠帶來新商機?

美光副總裁暨運算與網路事業部運算產品事業群總經瓦伊迪亞納坦(Praveen Vaidyanathan)表示:「以HBM的歷史來說,日本和台灣未來將相當關鍵。」他表示,過去美光曾在日本進行HBM2的研發,到了HBM3e,部分研發團隊也設置於日本。

在先進封裝與封測的部分,盧東暉表示,目前只有台灣能做,一開始的研發團隊也在台灣,HBM3e最後出貨也的確在台灣。但他強調,這是區域分工考量的結果,未來是否會做技術轉移,也會依市場情況做調整。

美光 圖/邱品蓉拍攝
美光 圖/邱品蓉拍攝
美光副總裁暨運算與網路事業部運算產品事業群總經瓦伊迪亞納坦(Praveen Vaidyanathan 圖/貝查理攝影
美光副總裁暨運算與網路事業部運算產品事業群總經瓦伊迪亞納坦(Praveen Vaidyanathan 圖/貝查理攝影