華碩「AI軟硬兩武器」一次端，客戶搶著要！為何看好伺服器能5年翻5倍？

生成式AI為大眾帶來無限想像，如何安全地使用卻成為一道難題。由於AI必須要有大量的數據建立模型，加上硬體基礎建設成本高昂，不少企業對跟進AI頗有疑慮。一位軟體企業主比喻：「這就很像我喜歡你，但不行碰。」

華碩雲端暨台智雲總經理吳漢章指出，生成式AI問世後，正式進入了「AI2.0」的時代。不同於過去分辨式AI（discriminative AI），生成式AI的算力需求將不同以往。為讓算力普及，三大公有雲業者Azure、Google Cloud和AWS都陸續推出AI模型解決方案，讓企業透過訂閱方式，享用雲端業者的算力服務。

然而，公有雲伺服器非置於企業內部，華碩電腦營運長暨雲端董事長謝明傑表示：「企業如果要做應用，他們會傾向將敏感資料放在地端。」換句話說，將乘載眾多機敏資訊的伺服器放在公司內部，對企業來說最為安心。

看準這塊商機，華碩旗下的台智雲推出一站式的解決方案「企業級生成式 AI 解決方案 AFS(AI Foundry Service)」，企業可在零基礎狀況下，獲得置於公司內部的伺服器，並訂閱雲端模型服務，如點菜般獲得整套生成式AI應用工具，幫助企業客戶在安全且成本可控的狀況下落地AI。

軟、硬體都能點菜！一站式服務無痛導入AI

華碩約在2017年就開始安排研發團隊學習AI和雲端技術，兩年後則承接科技部超級電腦計畫「台灣杉二號」。建置成功後，華碩與政府以公私合夥（Public-Private-Partnership，政府與民營企業的合作模式）方式簽訂合約，成立子公司台智雲，由華碩持續商業營運台灣杉二號，並接手研發團隊，獲得另一批生力軍，目前集團AI人數規模約為500人。

硬體：企業自有伺服器成最大亮點

謝明傑指出，華碩在完成政府專案後，獲得許多寶貴經驗。以硬體來說，原就擁有伺服器設計能力的華碩，藉由台灣杉二號獲得設計AI伺服器經驗。謝明傑說：「華碩確實在協助國家網路時，於板卡製造經驗等方面獲得升級。」

一般雲端業者提供的服務皆在雲端上，企業無法購買自用伺服器。但華碩結合軟體和硬體，推出「伺服器＋AI模型」的解決方案（AFS），客戶能向華碩購買專用伺服器置於公司，同時訂閱模型推論服務，一站式的解決所有導入生成式AI時會遇到的基礎建設問題。能在雲端解決方案中同購買硬體，是華碩重要特色。

軟體：最「接地氣」的預訓練模型

在軟體方面，台智雲擁有「福爾摩沙基礎模型」，內涵大量的繁體中文數據。謝明傑表示，相比起Chat GPT或者LLaMA，台智雲的福爾摩沙模型更加在地化，「每個國家都會碰到，當你要用語言模型時，發現美系大模型裡面沒有台灣的六法全書，台灣人要用的還是要自己訓練。」

台智雲會針對客戶需求，於雲端進行模型預訓練（training）並優化，再協助導入地端進行推論（inferencing）。吳漢章認為，雖然不少科技巨頭已投入訓練，但真正要落地執行時，推論會是未來相當大一塊市場。

吳漢章比喻，於雲端預訓練模型，如同將已經擁有基礎教育知識的高中生送入大學修習，擁有法律、醫療或會計等各領域的專業知識。預訓練模型還必須結合客戶的自有數據，導入地端後才能在推論獲得準確結果。目前，台智雲針對不同領域推出已完成的預訓練模型，目前約15個解決方案，包含營造、食品、傳產、公部門、電商和體等等。

延伸閱讀：跟GPT3.5一樣強、中文更好！最懂台灣的AI大模型「福爾摩沙」登場，厲害在哪？

台智雲也會協助企業把訓練好的模型縮小，依照企業需求提供最低1顆、最高需要16顆GPU的運算方案，讓企業將算力帶回家，不須要自建龐大的機房，只擁有一台伺服器也能享有生成式AI服務。

已攜手70客戶，需求還沒停！華碩喊伺服器五年成長五倍

隨著生成式AI熱度上升，吳漢章透露，當前台智雲客戶已來到70間，同時也展開協助東南亞地區的客戶導入生成式AI。這樣的熱潮帶動硬體，謝明傑表示，華碩有很大的機率能達成五年伺服器成長五倍的目標，對此相當有信心。

此外，華碩今年也躋身成為輝達OVX平台的伺服器供應商。OVX系統是專門為大規模數位孿生 (digital twins) 所設計的運算系統，可用於模擬複雜較高的數位孿生，例如打造整棟建築物、工廠和城市，甚至是整個世界的模型。吳漢章表示，未來OVX不只會用在大型企業的數位孿生應用，「今年我們也拿到兩、三個案子，做智慧城市和醫療照護等。」

輝達為OVX系統所打造的新一代伺服器，搭載 L40S GPU並採用Ada Lovelace架構。謝明傑指出，基於L40S所打造的相關服務，今年稍晚也會在台智雲問世。

延伸閱讀：Nvidia黃仁勳深夜炸鍋：地表最強晶片GH200問世！華碩躋身新一代OVX平台供應商

責任編輯：蘇祐萱

更多報導
【圖解】華碩熬5年推掌機Ally，衝上美國銷量第一！兩大利箭，助攻華碩搶吃1.6兆商機
AI算力爆發成長，郭明錤點名兩大關鍵！為何說華碩、Dell被低估了？