Arm 鎖定 AI 需求升級的 Neoverse 產品線目標在於提升效能、效率與降低成本

壹哥的科技生活

Arm 稍早在台北公開次世代 Arm Neoverse 技術，這是專為市場 AI 運算需求所開發的技術平台，在協助客戶提升運算效率之餘，也著重在提升效能，舉例來說，相較於 Neoverse CSS N2，Neoverse CSS N3 的每瓦效能顯著提升 20%。此外，Arm 也首次將運算子系統導入以效能為主的 V 系列產品。新款 Neoverse CSS V3 是以全新 Neoverse V3 IP 為基礎，每插槽效能比前代 Neoverse CSS 產品大幅高出 50%。

綜合Arm 應用工程總監 徐達勇、 Arm 首席應用工程師 徐煥昇的說法，現有合作夥伴會優先選擇與 Arm 合作的主要原因，在於Arm 已經有根深柢固的生態系，旗下產品效率較高、效能較好，且提供客戶更高的彈性。舉例來說，NVIDIA 的 Grace-Hopper 架構在 Neoverse V2 平台上，Arm的解決方案可讓其GPU 或者AI 加速器提高運算效率。

此次 Arm 發展 Neoverse 技術平台的目標是希望能加速 AI 融入生活場景，在提升效率之餘，也重視效能的再提升，同時思考如何降低成本、怎麼樣即時導入市場，回應市場需求。Arm 台灣總裁曾志光解釋，Arm 所談論的“AI”，除了當前產業需求的「訓練型AI」（立基於機器學系技術的AI大模型），還要做好發展「推論型 AI」的準備，在這當中 CPU 運算平台對於推論這上面扮演一個很重要的角色，他也以現今智慧型手機的 AI 運算多數是靠 CPU 平台運算，最主要原因有三：

1.它是一個容易取得的資源。

2.在擴充的高彈性上有很大的優勢。

3.在效率上不管成本、能源都取得很好的數據。

Arm 指出，Arm Neoverse CSS 是經過優化、整合與驗證的平台，集結了組成系統單晶片核心的各項關鍵技術。透過 Neoverse CSS，Arm 能為注重差異化、系統單晶片最佳化以及加速上市時程的合作夥伴打造完美起點。由於 Arm 與生態系合作夥伴的互動程度較業界其他運算企業更為深入，因此 Neoverse CSS 的設計宗旨即是讓最重要的工作負載，達到最佳的總持有成本效益，並為小晶片等關鍵新技術提供支援，在應用上已經拓展至雲端運算、網路、資料中心基礎設施及人工智慧。Microsoft Cobalt 就是以 Neoverse CSS 為基礎而推出產品的一個範例。

此次除了 Arm Neoverse CSS E3 之外，Arm 發表兩款最新的 Arm Neoverse 運算子系統（CSS），包括Arm Neoverse CSS V3 與 Arm Neoverse CSS N3 ，兩者都是以全新第三代 Neoverse IP 為基礎建構而成，全新的 Arm Neoverse CSS V3 是以高效能 V 系列產品組合的首款 Neoverse CSS 產品，每插槽效能比 CSS N2 高出 50%。至於 Arm Neoverse CSS N3 則是延續頂尖的 N 系列 CSS 路徑圖，每瓦效能比 CSS N2 高出 20%。

Arm 首席應用工程師 徐煥昇指出，開發產品要花很多錢，所以需要生態系來降低開發成本、降低開發風險，然後快速導入市場。在硬體生態系方面，Arm 去年 10 月公開的全面設計（Arm Total Design）只花了四個月時間，就擴展其規模到 20 家以上成員，並在台積電、英特爾、三星等三家領先的晶圓廠提供系統單晶片（SoC）及小晶片設計，這些合作夥伴早已開始合作開發各種項目，例如驗證 IP、客製化韌體，乃至於以全球最先進的製程節點建構小晶片，而所有一切都是使用 Neoverse CSS。

此外，Arm 全面設計還公開了小晶片系統架構（CSA,Chiplet System Architecture），CSA 的首要任務，就是定義強健及可互換的小晶片生態系。大致來說，發展小晶片生態系的主要原因也是成本考量，因為有許多任務可能不需要使用到最新的 Neoverse CSS N3，可能只需 N12 或者更低的效能核心即可，因此推出 CSA 也是為了回應市場需求，而根據 Arm 所說，為了回應這個「小晶片系統架構」需求，Arm 同時開發了相對應的連接技術、協議層...乃自整個系統的控制跟延伸。

曾志光認為，現今所談論的 AI都是透過所謂的異質運算（Heterogeneous Computing）而來，這包括 CPU、GPU 還有 AI 加速器，而在未來，最理想的運算方式當然是讓 AI 在這三者或者其他平台當中獨立進行最有效率的運算，只是現今所有平台就像廚房開了三個爐，可是每個爐的火都不夠旺，所以才會需要同時使用2~3個「爐火」支持AI，這是過去許多廠商讓 AI 進行異質運算的主要原因，而如今碰到的問題更多，有資安的AI、有生活應用的AI...等等，因此 Arm 願意從系統層、從效能、效率與節能等面向去定義開發次世代平台，最新的 Arm Neoverse 運算子系統就是為了解決這些問題而生。

Arm 台灣總裁曾志光