一片售價600萬台幣GPU 將為Nvidia帶來什麼AI未來？黃仁勳四年來首度在台開講 數千人擠爆會場

「AI軍火商」輝達（Nvidia）創辦人黃仁勳周一（5/29）在2023台北國際電腦展（Computex）做專題演講，在南港展覽館二館的七樓會場擠進數千人聽講，現場排隊人龍拉到好幾層樓。

從經濟部長王美花、前行政院副院長沈榮津、台塑集團總裁王文淵、台塑四寶高層，到廣達副董事長梁次震等產官界大咖都來聽講，顯見外號「1兆男」黃仁勳的市場魅力。

黃仁勳周一上午原定演講一個半小時，最後延長至幾乎兩小時才結束。

從產品面來說，他在暌違四年的首次台灣公開演講，總計發表了加速運算、網路及元宇宙等領域的多項產品。

加速運算部分

1. 推出DGX GH200的AI超級電腦，是把256個Grace Hopper超級晶片連接成一個超大型、1-Exaflop、144TB GPU的巨型模型，用於推動生成式人工智慧、推薦系統和資料分析。

2. Grace Hopper超級晶片設計開始量產，搭載GH200的系統，加入了全球系統製造商根據NVIDIA Grace、Hopper、Ada Lovelace架構的400多種系統配置。

3. NVIDIA MGX 提供系統製造商模組化架構，以滿足全球資料中心多樣化的加速運算需求。

黃仁勳也提到，售價20萬美元（約600萬台幣）的GPU H100，已經全面量產。

網路部分

為超大規模生成式人工智慧打造的乙太網路平台：全新 NVIDIA Spectrum-X ，結合了NVIDIA Spectrum-4、BlueField-3 DPU 與加速軟體，已有全球主要雲端服務提供商，使用此平台來擴大生成式人工智慧服務的規模。

元宇宙部分

已有全球主要電子製造商運用NVIDIA生成式AI與Omniverse，打造先進的數位化工廠。

例如，鴻海旗下的富士康工業互聯網、宜鼎國際、和碩聯合科技、廣達及緯創資通使用 NVIDIA Omniverse、Isaac Sim 及 Metropolis 多項技術打造虛擬工廠、模擬機器人、自動檢測系統。

10年來電腦速度提升100萬倍，摩爾定律只有兩倍

黃仁勳在演講中再度強調，生成式AI的iPhone時刻已經到來，每個人都能自己寫程式，只要開口告訴電腦即可。

他說明，導入AI的運算效益很驚人，累計10年來電腦速度提升了100萬倍，反觀摩爾定律只有兩倍。

黃仁勳請大家想像，未來每個數據中心都有生成式AI能力，來做壓縮、解壓縮。3D圖像重建，不需要特別軟體，在任何裝置都可以進行，這將是全面改變溝通互動的方式。

電競及遊戲是輝達的重要事業，今天他也發表遊戲角色的客製化生成AI模型NVIDIA Ace for Games，是一種結合語音、聊天機器人和動畫的基礎模型，透過NVIDIA NeMo框架客製化，從邊緣裝置到雲端都可部署，黃仁勳直言，「AI將是未來遊戲非常重要一部分」。

NVIDIA GPU是AI伺服器市場搭載主流 市占率達60~70%

另外，產業研究機構TrendForce預估，2023年AI伺服器（包含搭載GPU、FPGA、ASIC等）出貨量近120萬台，年增38.4%，占整體伺服器出貨量近9%，至2026年將占15%，並同步上修2022~2026年AI伺服器出貨量年複合成長率至22%。而AI晶片2023年出貨量將成長46%。

TrendForce表示，NVIDIA GPU為AI伺服器市場搭載主流，市占率約60~70%，其次為雲端業者自主研發的AISC晶片，市占率逾20%。

觀察NVIDIA市占率高的主因有三個，第一，目前美系或中系雲端服務業者（CSP）在採購原有NVIDIA的A100與A800外，下半年需求也將陸續導入H100與H800 GPU。

尤其是，新機種H100與H800在平均銷售單價約為A100與A800的2~2.5倍，加上NVIDIA同時積極銷售自家相關整機解決方案。

第二，高階GPU A100及H100的高獲利模式也是關鍵，由於旗下產品在AI伺服器市場已擁有主導優勢，根據TrendForce研究，H100本身的價差也依據買方採購規模，會產生近5000美元差異。

第三，2023半年ChatBOT（聊天機器人）及AI運算風潮將持續滲透至各種專業領域（如雲端/電商服務、智慧製造、金融保險、智慧醫療及智慧駕駛輔助等）的開發市場，帶動每台搭配4~8張GPU的雲端AI，以及每台搭載2~4張GPU的邊緣AI伺服器應用需求漸增。

本文暫不開放媒體夥伴授權

更多今周刊文章
「張忠謀打給我耶！」黃仁勳、張忠謀忘年交情 25年前那通電話...讓輝達、台積電不離不棄共事成「最棒回憶」
「現在換我賣東西給台灣了！」 黃仁勳能賣什麼給台積電？ 你以為輝達只做GPU就搞錯了