台達電傳拿下輝達GB200伺服器電源訂單!為何獲黃仁勳青睞?一文看懂台達關鍵技術

由於AI伺服器帶動高瓦數電源供應器與散熱需求,電源大廠台達電今年是輝達(Nvdia)GTC大會唯一受邀的電源與散熱管理解決方案提供者, 市場更傳出台達電通吃輝達Blackwell架構系列B100、B200、GB200伺服器電源訂單,今年來自AI伺服器訂單將呈現爆炸性成長

台達透過 整合電源散熱被動元件 三大關鍵零組件,提供從電網到晶片一系列電源解決整合方案。

在台達電的攤位上,展示的是ORV3 AI伺服器基礎設施解決方案,包括效率達97.5%的電源供應器;及協助GPU運行的一系列關鍵產品,包括DC/DC轉換器、功率電感(Power choke)和3D Vapor Chamber散熱解決方案等;並展示旗下生產線運用NVIDIA Omniverse開發的數位孿生平台,提升智慧製造的能力。

台達如何搶攻AI電源商機,以下是《數位時代》2023年11月的專訪報導:

02_台達電源及零組件事業範疇執行副總裁史文景(右)贈送輝達共同創辦人暨執行長黃仁勳台達旗下Inne 圖/台達
02_台達電源及零組件事業範疇執行副總裁史文景(右)贈送輝達共同創辦人暨執行長黃仁勳台達旗下Inne 圖/台達

 

生成式人工智慧(AI)需要龐大的算力,帶動伺服器晶片的耗電功率提升,對電源供應器廠商來說是新的商機。在全球伺服器電源擁有5成市占率的台達電,主要供應AI伺服器的電源模組,台達電源及系統事業群總經理陳盈源直言:「 AI的訂單來得又急又快,被訂單追著跑 。」目前台達有德國、泰國、上海與台灣團隊在做AI電源相關產品,投注大量資源。

由於AI算力的需求攀升,使得晶片耗電功率也不斷升級,一台AI伺服器需要2顆CPU與4至8顆的GPU,GPU又是CPU功率的2至4倍,整體需要更多電力。為有效供電減少傳輸過程損耗,伺服器電壓輸出須從原本12伏特升高到48伏特,之後再經過層層降壓,在最後一段達到CPU或GPU等晶片需要的工作電壓,這是新的機會。

台達電供電模式|水平供電改背後供電,穩住GPU「最後一釐」

陳盈源說明,過去CPU最後一段的電力供給,是透過板上的電壓模組來供電,由主機板廠自行設計就結束。如今AI帶動大電流,主板上的電源管理IC沒辦法控制,需要獨立設計電源模組,「在GPU最後一段的DC-DC(直流對直流)電源由台達來設計,電源模組化對台達來說是新的商機。」

AI伺服器除了瞬間需要大電流,響應速度也要夠快,因此距離的遠近對供電是一個阻礙,供電模式會從原本水平供電,走向「背後供電」。白話來說,原本的電源模組圍繞在GPU晶片的周圍,為了縮短距離,電源模組改放到晶片正下方來供電,距離縮短成僅是主機板的厚度,從數十毫米縮短至1、2毫米的距離。

台達電_AI電源供應器 圖/翁挺耀攝
台達電_AI電源供應器 圖/翁挺耀攝

 

為何縮短距離很重要?陳盈源用「水塔理論」來比喻GPU供電:把水龍頭打開的瞬間會有很多水跑出來,但若水塔的水位太低,可能引發停水危機;套用在供電設計,一方面須維持大電流,同時兼顧穩定電壓,才不會造成伺服器當機。

現在台達與客戶的合作關係更加緊密,當客戶規畫設計IC晶片時就跟台達談規格,和客戶做共同開發,確保IC晶片做出來後,電源解決方案也準備好。

不只是滿足AI伺服器產品的需求,台達也思考如何透過AI加持電源產品。像是AI可做到預防維修,機台故障提前預警通知,並建議維修對策,藉此提高產品的可靠度,有助縮短停機時間。陳盈源表示,很快就會把AI功能導入到台達的產品線。

陳盈源_台達電電源及系統事業群總經理_2023_09_28_翁挺耀攝_14.jpg 圖/翁挺耀攝
陳盈源_台達電電源及系統事業群總經理_2023_09_28_翁挺耀攝_14.jpg 圖/翁挺耀攝

 

先進封裝需求猛,拚晶片電壓控制突圍

目前AI相關產品占台達伺服器電源的營收比重約15%,台達預估2023年伺服器電源營收20億美元,估算AI占3億美元(約新台幣90億元),未來AI相關營收將逐年提高。

當AI快速發展,台達最大的挑戰在於提升電力轉換效率。「電源功率變大,但機櫃給電源的空間並不會跟著變大,如何在有限的空間裡,把數倍的電源放進去,這是一個非常大的挑戰。」陳盈源表示,除了台達本身持續提高電源轉換效率,零件供應商也要跟上,像是功率半導體、被動元件等策略夥伴共同完成新品研發。

另外,深耕50多年電力電子技術的台達也在研究電源產品如何克服CoWoS(Chip on Wafer on Substrate)先進封裝的製程挑戰。台積電提出的CoWoS先進封裝,是指把數顆晶片封裝一起,達到降低功耗、滿足AI的需求,這使得台達在最後一段的晶片供電,必須提供多組電壓的能力。

AI伺服器3步降壓供電 圖/數位時代製作
AI伺服器3步降壓供電 圖/數位時代製作

 

過去單晶片的封裝,一個CPU只要一種工作電壓,如今記憶體、CPU集合在同一封裝裡,當整合愈多的晶片進來,需要的電壓種類愈多。舉例GPU的電壓可能是0.8伏特、記憶體電壓可能是1.2伏特,加上每一個晶片需要的電流響應速度不同,電源控制變得更複雜。

陳盈源透露,「現在大晶片廠,不管在開發CPU或GPU都會找台達來開發最後的晶片供電方案,未來的產品都已在規畫中。」

台達電

成立: 1971年
董事長: 海英俊
AI關鍵技術: 提供從電網到晶片的供電解決方案,並針對AI晶片獨立設計電源模組

延伸閱讀: GB200大單,這9家台廠先拿下!為何獲輝達點名?一次盤點關鍵技術

責任編輯:蘇祐萱、謝宗穎

更多報導
台積電「滋補時刻」得等Google,輝達給不了?CoWoS擴產、卡關動態大解密
【圖解】誰是輝達、超微最強後盾?高階晶片+伺服器紅利怎吃?矽谷、台灣領跑AI商機

看更多相關新聞
鴻海前進GTC 董座劉揚偉會黃仁勳暗示新合作
黃仁勳好忙 輝達GTC現身台達、華碩、雲達等台廠夥伴攤位簽名留念
不讓輝達專美、蘇姿丰點名AI PC 陸行之:算力下放產業鏈可分碎肉
台達通吃輝達AI電源訂單 今年相關伺服器業績將爆炸性成長
黃仁勳認為半導體產品將不再只是仰賴單一合作單位 而是建立更龐大的製造生態系統