鴻海科技日透露訊息 輝達最新AI伺服器邁入量產 液冷將成主流 3大勢力爭食黃金領域

搭載輝達GB200晶片的AI伺服器邁入量產,能達到散熱標準的液冷系統商機備受關注;組裝代工廠、電源供應商、散熱零組件廠正展開前所未見的競合態勢。

文/楊喻斐

根據《財訊》雙週刊報導,隨著輝達AI伺服器GB200 NVL72即將量產出貨,液冷散熱的解決方案再度受到市場關注;近來在鴻海科技日以及2024年OCP全球高峰會上,從ODM(原廠委託設計代工)商、電源供應器廠再到散熱模組業者,均積極搶進液冷供應鏈,三方勢力將發展出全新的競合關係。

鴻海科技日於10月9日落幕,現場展示量產版GB200 NVL72產品,為目前最高階的AI伺服器;董事長劉揚偉喊話,鴻海是第一家量產出貨的組裝代工廠,一口氣亮相整組的機櫃、CDU(冷卻液分配系統)、QD(快接頭)、連接器、大電壓線纜等產品,成為科技日活動中人氣最旺的焦點。

能耗受重視 加速轉液冷

進入AI伺服器時代,1顆晶片的TDP(熱設計功耗)較通用型伺服器增加2~5倍以上,達到1000瓦等級;如今,輝達最新的GB200系列,其熱功耗倍增至2700瓦之多。若以整個機櫃來看,過去1個機櫃的熱功耗達20至50千瓦,可以採用氣冷解熱;但G200 NVL72機櫃的熱功耗高達130~140千瓦,必須採用液冷的方式才能有效解熱。

以每天家用的熱水器舉例,1台熱功耗僅700瓦,而整機櫃的AI伺服器布滿的水線總長高達數公里,以水溫大概20~25度進入系統,GB200晶片的熱功耗高達2700瓦,帶出來的水溫達60~70度,就能想像有多熱了。

如果熱能無法有效排除,就會出現當機、故障等情況,這也就說明,為什麼散熱設計變得愈來愈重要。因此,研究機構集邦科技預估,隨著GB200機櫃方案正式放量出貨,將帶動液冷散熱的滲透率,從今年11%提升至2025年的24%,並以水對氣的方式為主流。

《財訊》雙週刊指出,集邦科技也預估,輝達Blackwell平台今年占高階GPU伺服器晶片的出貨比重約4%,Hopper平台占比95%。進入2025年之後,Blackwell將取代Hopper成為出貨主流,占比大幅提升至84%。由此可知,氣冷轉向液冷的趨勢將於明年更加顯著。

集邦科技分析師邱珮雯指出,不只是AI伺服器的耗能提升、帶動液冷散熱的需求,各國政府對於能耗的議題也更加重視。例如歐盟、中國等即要求未來新建的資料中心,其PUE(Power Usage Effectiveness,電力使用效率)必須要達到1.3以下的標準;以目前既有氣冷散熱為主的資料中心來看,PUE都在1.5至1.7之間,並不符合規範。

另外,值得關注的是,GB200 NVL72機櫃中的液冷散熱設備與關鍵零組件的產值,是傳統氣冷機櫃的28倍之多,因此吸引各方業者積極布局,希望在發展初期盡早卡位成功,未來能夠成為輝達以及各大CSP(雲端服務供應商)長期合作的供應商。

ODM搶進 鴻海最積極

就商機而言,液冷散熱產業鏈有6大關鍵設備與零組件,其中最貴的就是CDU,角色有點像是中央電腦的概念,最多可以負責8個大型機櫃的液冷分配系統,1台要價6萬至8萬美元。再者,水冷板、分歧管、內部分歧管、風扇、快接頭也都是關鍵零組件。

鴻海集團旗下的鴻騰精密已經成功開發出快接頭,內部人士透露,今年5月底接到任務之後,8月底前即完成所有高低溫、熱脹冷縮、壓力等各種環境測試。鴻騰本身擁有金屬沖壓的能力,精密加工的技術不輸競爭同業,因此這個不鏽鋼材質的快接頭,只要避開歐美廠商的專利,以及符合OCP規範的規格,其實就不難開發出來,難的是取得輝達推薦供應商資格以及CSP業者的認證。

在AI伺服器ODM廠商當中,以鴻海垂直整合的動作最為積極;不只是分歧管、快接頭、全流量閥式快接頭、大電壓線纜、光纖電纜等都自己做之外,就連CDU也是自製。工業富聯技術長周泰裕透露,很早之前,鴻海即在高雄、美國等地區設立了AI效能實驗室,一點一滴累積了垂直整合的能力。

這次緯穎在OCP全球高峰會上也推出了液冷技術,透過投資供應商ZutaCore的方式布局,希望達到技術整合的目標;至於母公司緯創持續專注AI伺服器模組、主機板再到整組機櫃的ODM業務。

廣達過去在AI伺服器的業務當中,以L10至L12業務為主力,也就是從主機板、模組、整組機櫃再到軟硬體系統整合等一條龍的服務。市場關注,廣達資深副總經理楊麒令持續接任光寶科獨立董事之後,雙方未來會如何在液冷市場攜手合作。

三族群競合 推進整合力

「在液冷散熱的市場裡面,已經可以看到ODM廠商、電源供應器廠以及散熱模組業者三方角力與競合的態勢。」集邦科技資深分析師龔明德觀察。

以電源供應器大廠台達電為例,不只是追求規格的升級潮,更往CDU、水冷板等關鍵設備與零組件推進。另外,既有的散熱模組廠商也積極從氣冷往液冷發展,追求掌握更多的關鍵零組件整合能力。

從美系CSP業者的策略來看,谷歌最早採用液冷散熱方案,已占自家AI伺服器的比重約3成;至於其他的CSP業者,採用液冷散熱的比率還僅有個位數。在中國的供應鏈裡,阿里巴巴是導入液冷散熱最積極的廠商,未來新建的資料中心也全部以液冷為優先。這也顯示,未來液冷市場仍有很大的成長空間。

《財訊》雙週刊指出,現階段,每家業者各憑本事,積極搶攻液冷市場的大餅,首要目的除了先取得輝達認證之外,最終還是要贏得CSP業者的青睞,這不只是考驗技術能力,過去與CSP業者合作的歷史軌跡,也成為是否能勝出的關鍵。

開放運算計畫(Open Compute Project)會議,每年在歐洲(春季)、美國(秋季)各舉辦一次;為全球性倡議活動,期以開放式的運算架構,制定資料中心產業的硬體規格。…(本文出自《財訊》雙週刊723期)

更多財訊文章

泳渡日月潭、登玉山、台北馬拉松樣樣來!臺灣蔦屋書店日籍董事長 大塚一馬 下一步挑戰單車環島

麥當勞竟成美國總統大選關鍵之一 川普和賀錦麗最新民調誰領先?

台積電站穩千元,高階主管身價不凡!她的財富實力堪與魏哲家比美 「十億級」富豪名單一次看

中鋼前總座王錫欽新動向曝光!焦佑倫力邀加盟華新 布局全球特殊合金市場