Keynote日/黃仁勳NVLink 打造未來世界綁定輝達生態系野心

財經中心/廖珪如報導

NVLink Fusions能讓所有輝達生態系運算結合,甚至客製化,影響各行各業。(圖/翻攝自輝達官方YT)
NVLink Fusions能讓所有輝達生態系運算結合,甚至客製化,影響各行各業。(圖/翻攝自輝達官方YT)

▲NVLink Fusions能讓所有輝達生態系運算結合,甚至客製化,影響各行各業。(圖/翻攝自輝達官方YT)

 

眾所矚目輝達執行長黃仁勳今(19)日keynote日談到未來輝達願景,提到NVLink Fusion、半客製化AI基礎建設(Semi-Custom AI Infrastructure)以及NVIDIA與混合型ASIC AI基礎建設(NVIDIA Plus ASIC Hybrid AI Infrastructure)的概念

NVLink Fusion的概念與意義

NVLink Fusion是NVIDIA的高速互連技術NVLink的進階版本,旨在實現多晶片模組(Multi-Chip Module, MCM)的無縫整合。黃仁勳強調,這項技術的核心在於開放性,讓第三方廠商的客製化晶片(例如ASIC)能與NVIDIA的GPU、CPU和其他硬體高效協作。概念是NVLink Fusion提供了一個高頻寬、低延遲的互連架構,能將不同的處理單元(如GPU、CPU、ASIC)整合成一個統一的AI計算平台。這不僅提升了資料傳輸效率,還能讓企業根據特定需求打造高效能的AI基礎建設。

因為目前傳統的AI基礎建設往往受限於單一硬體架構的性能瓶頸。NVLink Fusion通過模組化的互連方式,讓不同類型的晶片能夠協同工作,實現更高的靈活性和可擴展性。例如,企業可以將NVIDIA的GPU與自家的ASIC結合,針對特定AI工作負載(如生成式AI或大規模資料分析)進行優化。其應用場景可使用在超大規模資料中心、邊緣運算以及高效能運算(HPC)場景,特別是在需要快速處理海量資料的生成式AI應用中(如大型語言模型訓練)。

半客製化AI基礎建設

半客製化AI基礎建設(Semi-Custom AI Infrastructure)是NVIDIA針對不同行業需求的靈活解決方案,旨在平衡通用性和客製化的需求。概念是半客製化AI基礎建設允許客戶基於NVIDIA的標準化硬體平台(如DGX系統或Grace CPU Superchip)進行一定程度的客製化調整。這些調整包括特定的軟體堆疊、記憶體配置或網路拓撲,以適應特定應用場景(如金融建模、醫療影像分析或自動駕駛)。

因為不同產業對AI的需求差異很大,例如金融業需要低延遲的交易處理,醫療業則需要高精度的資料處理。半客製化方案讓客戶無需從頭設計整個AI基礎建設,同時保留足夠的靈活性來滿足特定需求,降低開發成本和時間。這有技術支撐,黃仁勳提到,這類基礎建設通常與NVIDIA的AI Enterprise軟體套件結合,提供了預訓練模型、工具包(如NVIDIA RAPIDS)以及優化的運算框架。

NVIDIA與混合型ASIC AI基礎建設

混合型ASIC AI基礎建設(NVIDIA Plus ASIC Hybrid AI Infrastructure)是NVIDIA與第三方ASIC(特殊應用積體電路)供應商合作的創新模式,結合NVIDIA的通用運算平台與客製化晶片的優勢。概念是這種基礎建設允許客戶將NVIDIA的GPU、CPU與第三方設計的ASIC整合,形成一個混合運算平台。黃仁勳特別提到,這種模式適用於需要極高效率的應用場景,例如特定AI模型的推理任務或能源效率要求高的邊緣設備。這讓ASIC因其針對特定任務能高度優化而具有能效優勢,但開發成本高且靈活性低。NVIDIA的混合型方案則是通過NVLink Fusion將ASIC與GPU/CPU整合,既保留了ASIC的效率,又利用了NVIDIA硬體的通用性和軟體生態系統(如CUDA、TensorRT)的強大支持。

實際案例就是與Qualcomm的合作,Qualcomm的5G和AI ASIC與NVIDIA的GPU結合,應用於智慧城市和自動駕駛場景。黃仁勳的這些建設概念圍繞著靈活性、開放性和高效能展開,試圖通過NVLink Fusion、半客製化以及混合型ASIC方案,滿足從超大規模資料中心到邊緣設備的多元需求。這些策略不僅展示了NVIDIA在硬體上的領先地位,也反映了其試圖通過軟體和生態系統整合來擴大市場影響力的野心。

更多三立新聞網報導
快檢查!不是炎黃子孫? 這四個姓代表你可能戰神後代
Keynote日/黃仁勳談輝達Cuda Q助攻量子運算
新任教宗認可AI浪潮 黃志芳:台灣扮演推動角色
圖輯/輝達全球記者會 秀remarkable台灣供應鏈照片