AWS 攜手NVIDIA提升AI訓練效率運算效能增十倍

Newtalk新聞 |蘇元和綜合報導

2025年12月2日週二下午8:58

[Newtalk新聞] 在AWS re:Invent 大會上，NVIDIA 與 Amazon Web Services（AWS）進一步擴大雙方策略合作，在互連技術、雲端基礎架構、開放模型及物理人工智慧（AI）等領域開展全新技術整合。

「AWS將NVIDIA NVLink Fusion整合至其客製化晶片，包括次世代 Trainium4晶片、Graviton 與 AWS Nitro System。」做為此次擴大合作的一部分，AWS 將支援 NVIDIA NVLink Fusion 這個專為客製化 AI 基礎架構打造的平台，用於部署其自研晶片，其中包括用於推論與具代理型 AI 模型訓練的次世代 Trainium4 晶片、涵蓋廣泛工作負載的 Graviton CPU，以及 Nitro System 虛擬化基礎架構。

以下是輝達發布最新合作動態與完整內容：

藉由採用 NVIDIA NVLink Fusion，AWS 將結合 NVIDIA NVLink 垂直擴展互連技術、 NVIDIA MGX 機架架構與 AWS 客製化晶片，以提升效能並加速其新一代雲端規模 AI 能力的上市時程。

AWS 正以整合 NVLink 與 NVIDIA MGX 為目標設計 Trainium4，這是 NVIDIA 與 AWS 針對 NVLink Fusion 展開多世代長期合作中的第一步。

AWS 已經大規模部署搭載 NVIDIA GPU 的 MGX 機架。導入 NVLink Fusion 將使 AWS 能進一步簡化各平台的部署與系統管理。

AWS 也可以運用 NVLink Fusion 供應商生態系，取得從機架與機箱到電力供應與冷卻系統等完整元件，滿足整機架部署所需。

透過支援 AWS Elastic Fabric Adapter與 Nitro System，AWS 上的 NVIDIA Vera Rubin 架構將在維持與 AWS 雲端基礎架構完全相容的同時，為客戶提供更強大的網路選項，加速全新 AI 服務的推出。

NVIDIA 創辦人暨執行長黃仁勳表示：「GPU 運算需求正急遽攀升。更多的運算造就更聰明的 AI，更聰明的 AI 帶動更廣泛的應用，而更廣泛的應用又帶動對更多運算的需求，AI 的良性循環已經成形。隨著 NVIDIA NVLink Fusion 導入 AWS Trainium4，我們正把NVIDIA垂直擴展架構與 AWS 的客製化晶片整合，打造新一代加速運算平台。NVIDIA 與 AWS 正攜手打造支撐 AI 產業革命的運算基礎，將先進 AI 帶到世界各國的每一家企業，加速世界邁向智慧化。」

AWS 執行長 Matt Garman 表示：「AWS 與 NVIDIA 攜手合作已超過 15 年，如今這段旅程再寫下新的里程碑。透過與 NVIDIA 合作，我們正推進大規模 AI 基礎架構，為客戶帶來更高的效能、效率與擴充性。未來在 AWS Trainium4、Graviton 與 Nitro System 上支援 NVIDIA NVLink Fusion，將為客戶提供全新能力，讓他們能以前所未有的速度創新。」

AWS 透過包括 NVIDIA HGX B300 及 NVIDIA GB300 NVL72 GPU 在內的 NVIDIA Blackwell 架構，擴充其加速運算產品組合，讓客戶能立即使用業界最先進的訓練與推論 GPU。為視覺應用打造的 NVIDIA RTX PRO 6000 Blackwell 伺服器版本 GPU 也預計在未來數週於 AWS 上提供。

這些 GPU 將成為 AWS 基礎架構的支柱一部分，為全新 AWS AI Factories 服務提供動能。AWS AI Factories 是一項全新 AI 雲端服務，將在由 AWS 代管的客戶自有資料中心中，提供專用的基礎架構，協助全球客戶掌握先進 AI 服務與能力，同時維持對自身資料的掌控權並遵循各地法規。

NVIDIA 與 AWS 承諾在全球部署主權 AI 雲，將最先進的 AI 創新帶給世界各地。隨著 AWS AI Factories 上線，雙方將提供安全且符合主權要求的 AI 基礎架構，在滿足日益嚴格的主權 AI 規範同時，為全球各類型組織帶來前所未有的運算能力。

對公部門機構而言，AWS AI Factories 將重塑美國聯邦級高效能運算與 AI 版圖。採用 AWS AI Factories 的客戶，將能把以可靠性、安全性與可擴展性著稱的 AWS 業界領先雲端基礎架構與服務，與 NVIDIA Blackwell GPU 及涵蓋 NVIDIA Spectrum-X 乙太網路交換器在內的 NVIDIA 全端加速運算平台無縫整合。

這套統一的架構可確保客戶在維持對專有資料的完全掌控並完全遵循在地監管框架的前提下，存取先進 AI 服務與能力，並訓練與部署超大規模模型。

NVIDIA Nemotron 與 Amazon Bedrock 整合擴大軟體最佳化效益。

除硬體方面外，此次合作也擴大了 NVIDIA 軟體堆疊與 AWS AI 生態系的整合。NVIDIA Nemotron 開放模型現已整合至 Amazon Bedrock，協助客戶建置生產級生成式 AI 應用與智慧代理。開發者可使用 Nemotron Nano 2 與 Nemotron Nano 2 VL，打造以高效率、高精準處理文字、程式碼、影像與影片的專用代理型AI 應用。

此次整合讓高效能的 NVIDIA 開放模型可以在Amazon Bedrock 的無伺服器平台上立即存取，客戶仰賴其經驗證的擴充性與零基礎架構管理能力。業界領導廠商 CrowdStrike 與 BridgeWise 已率先採用這項服務部署專用 AI 智慧代理。

NVIDIA 軟體在 AWS 上簡化開發者體驗

NVIDIA 與 AWS 也在軟體層共同開發，加速每一家企業的資料支柱。Amazon OpenSearch Service 現已提供向量索引建置的無伺服器 GPU 加速能力。這是以 NVIDIA cuVS這套用於 GPU 加速向量搜尋與資料分群的開源函式庫。這項里程碑標誌著非結構化資料處理開始根本性轉向 GPU。早期採用者已看到向量索引速度最高提升 10 倍，同時成本降至原先的四分之一。

這樣顯著的效能提升，透過在正確時間提供剛好所需的 GPU 運算能力，降低搜尋延遲、加快寫入速度，並讓檢索增強生成（RAG）等動態 AI 技術能以更高生產力運作。AWS 也是首家提供結合 NVIDIA GPU 的無伺服器向量索引服務的大型雲端供應商。

要打造可投入實際運行的 AI 智慧代理，必須具備效能可視化、最佳化能力與可擴展的基礎架構。結合用於代理開發與協調的 Strands Agents、用於深度剖析與效能調校的 NVIDIA NeMo Agent Toolkit，以及提供安全且可擴展代理基礎架構的 Amazon Bedrock AgentCore，企業即可為開發者提供從原型到量產部署的完整且可預期路徑。

這項支援的擴充建立在 AWS 既有的 NVIDIA 技術整合基礎上，包括 NVIDIA NIM 微服務，以及 NVIDIA Riva 與 NVIDIA BioNeMo 等框架，同時也涵蓋已與 Amazon SageMaker 與 Amazon Bedrock 整合的模型開發工具。透過這些整合，企業能以前所未有的速度部署代理型AI、語音 AI 與科學應用。

攜手 AWS 加速物理 AI

發展物理 AI 需要高品質且多樣化的資料集來訓練機器人模型，同時也仰賴在實際部署前，透過模擬環境進行測試與驗證的框架。

NVIDIA Cosmos 世界基礎模型（WFM）現已在 Amazon EKS 上以 NVIDIA NIM 微服務形式提供，可在雲端原生架構下，以高可靠性支援即時機器人控制與模擬工作負載。針對大量批次任務與離線工作負載，例如大規模合成資料產生，Cosmos WFM 也能在 AWS Batch 上以容器方式提供。

Cosmos 生成的世界狀態可搭配 NVIDIA Isaac Sim 與 Isaac Lab 等開源模擬與學習框架，用於訓練與驗證機器人。

包括 Agility Robotics、Agile Robots、ANYbotics、Diligent Robotics、Dyna Robotics、Field AI、Haply Robotics、Lightwheel、RIVR 與 Skild AI 等領先機器人公司，正透過 NVIDIA Isaac 平台結合 AWS，應用於多種情境，從機器人資料的收集、儲存與處理，到訓練與模擬，以擴展機器人開發規模。

查看原文