微軟的 Copilot AI 未來預計將會在 PC 本地端運行

但據 Intel 的說法,當前世代的處理器全部都跑不動。

Microsoft Copilot
Microsoft Copilot

Intel 向 Tom's Hardware 表示,微軟的 Copilot AI 服務未來將能在 PC 本地端運行,然而這要求處理器內的神經元處理單元(NPU)要有超過 40 TOPS 的運算能力,超出了當前市面上的任何一款處理器。

Intel 表示,AI PC 將能夠在本地端運行「Copilot 的更多元素」。目前 Copilot 幾乎所有功能都在雲端運行,即使是簡單的小工作也不例外。這會導致一定的延遲,對於大型工作來說問題不大,但對於小型工作來說則不盡理想。將簡單的 Copilot 工作轉移到本地端的話,除了可以減少延遲之外,同時還能增進性能和隱私。

但要將 Copliot 的部份工作轉移,據微軟的說法這要求下一代 AI PC 要能達到 40 TOPS 的性能(記憶體倒是要求不高,16GB 即可)。然而到目前為止,擁有最快 NPU 速度的處理器是蘋果的 M3,但其整個產品線 (M3、M3 Pro 和 M3 Ultra)最高都僅提供 18 TOPS 的性能。接下來是 AMD 的 Ryzen 8040 和 7040 筆電處理器,分別有著 16 TOPS 和 10 TOPS;而 Intel 自己的 Meteor Lake 筆電處理器也是約 10 TOPS。高通即將上市的 Snapdragon X Elite 倒是有可能是首個「過關」的處理器,預計 AI 計算力將達到 45 TOPS。

因此比較尷尬的是,最近半年來各種標榜 AI 性能的處理器,可能在面對真正的 AI 工作時,依然不敷使用。目前,Windows 除了用於運行 Surface Studio 網絡攝像頭的背景模糊等視頻效果之外,並沒有什麼應用會大量使用 NPU。而正如 Ars Technica 所指出的,就算是 ChromeOS 和 macOS,對於 NPU 的應用也更多是在視訊和音訊的處理,以及光學字符識別、翻譯、實時轉錄等極簡單的工作。

Intel 計劃在 2025 年推出的 Lunar Lake 晶片,其 NPU 速度將是當前速度的三倍。昨天,該公司推出了 300 項針對其 OpenVino 平台優化的全新 AI 功能。Intel 還同時宣布了一個基於華碩 NUC Pro 的 AI PC 開發套件,不過該套件使用的依然是目前的 Meteor Lake 晶片。當然,CPU 上的 NPU 不見得是唯一的 AI 運算力來源,可以預見未來 NPU 可能會以顯卡補充,或甚至是專門的 NPU 擴充卡的形式存在,補充 CPU 的不足。

Intel 最後向 Tom's Hardware 表示:「從桌機的角度來看,我們在現有的 AI PC 產品之外,還有下一代 AI PC 的 40 TOPS 性能目標要達成;我們的路線圖涵蓋了所有不同的市場區隔,並且有不同的規畫來滿足這些市場的需求。」

相關文章: