DeepSeek效應,如何讓台灣大瞄準「AI內建化革命」?
中國DeepSeek一夕間顛覆全球AI轉型方向,因為小模型硬體門檻相對低,愈來愈多企業轉型傾向「AI內建化」,使用地端部署來升級。近年倡導AI轉型的電信商台灣大哥大,與群聯電子26日宣布攜手推出「AI2 x aiDAPTIV+」地端AI解決方案,到底這有什麼厲害?背後又說明了DeepSeek效應正如何影響企業的創新?
過去一年,生成式AI成為全球科技焦點,從資安需求、數據主權,到彈性部署與即時應用,企業內部資訊系統正面臨一場全面升級的挑戰。
面對這場「AI內建化革命」,台灣大與群聯26日宣布攜手合作,不僅打破地端部署的硬體門檻,更提供企業從資料、工具到應用一條龍的整合服務,亦是平台與市場的連結,預計將協助企業縮短部署時程、減少導入風險,真正建立起台灣本地的生成式AI供應鏈,擺脫對國際雲端平台的依賴。
生成式AI成為當前企業數位轉型的核心工具,但在實際導入過程中,仍面臨高成本、算力門檻與資安疑慮等挑戰。台灣大哥大與NAND控制晶片及儲存方案供應商群聯電子,宣布展開合作,雙方從軟體研發、通路推廣、品牌市場等三大面向推動地端生成式AI應用,並共同推出整合性解決方案「AI2 x aiDAPTIV+」,支援企業在本地端部署AI模型。
此方案整合語音、文字、影像、知識管理等應用模組與資料處理工具,並搭配圖形化介面與企業知識轉換功能,協助用戶在私有環境中部署AI系統。根據台灣大內部測試,此方案可降低企業約90%的微調訓練硬體成本,並縮短模型部署初期的基礎建設時間。
金融、製造與醫療,都對AI模型在地端導入有興趣
近年隨開源大語言模型如Llama等技術普及,企業對AI模型導入方式的要求也有所轉變。特別是在金融、製造、醫療等產業中,企業普遍對數據主權與模型自主性具有高度要求,促使AI應用從雲端向地端部署遷移。
台灣大哥大總經理林之晨指出,生成式AI在企業營運中的角色,已從探索性質的概念驗證轉向日常營運工具,企業更重視導入的效率與系統穩定性。因此,與群聯電子的合作主要目標是提升生成式AI地端部署的可行性與效率,特別是在算力優化與應用模組整合方面。
群聯電子執行長潘健成則表示,企業導入生成式AI的挑戰之一,是如何在不過度依賴雲端資源的情況下,建立可控、安全、低延遲的運行架構。此次合作結合群聯在儲存與邊緣運算的硬體優勢,以及台灣大在軟體應用層的經驗,有助於提供產業更具實用性、且可擴充的地端AI方案。
展望未來,潘健成指出,AI硬體技術將朝高效能、低功耗與可擴展方向前進。而aiDAPTIV+方案,整合硬體與軟體,將SSD(aiDAPTIVCache)整合進AI計算框架,運用專利技術讓擴充部分AI運算所需的DRAM,配合一般GPU即可運行大型語言模型微調訓練(Fine-tuning),可降低邊緣地端AI部署門檻且保護用戶的資料隱私不外洩。
台灣大與群聯合作有哪三階段?
本次台灣大與群聯的合作將採取「共研、共銷、共拓」三階段策略,聚焦生成式AI產業落地所需的關鍵條件:
● 共研(技術整合與模組開發):雙方將整合儲存硬體、邊緣AI部署框架與語音、文字、影像應用模組,針對特定產業需求設計客製化地端AI應用模組,強化模組化與可擴展性。
● 共銷(通路推廣與應用導入):依託台灣大既有企業通路網絡與精誠通路體系,協助推動aiDAPTIV+與AI2方案進入實際產業場域,涵蓋製造、醫療、金融等多個應用情境。
● 共拓(市場與品牌推展):台灣大將運用媒體平台資源與客戶接觸能力,協助群聯提升AI技術與應用的能見度,擴大本地AI生態系的規模。
根據雙方規劃,未來合作重點將涵蓋私有語言模型、智慧助理、語音分析、內部知識管理等應用類型,並支援企業將現有文件與流程數位化,進一步導入AI模組進行推論與決策支援。
企業AI模型部署地端,為何成趨勢?
與多數仰賴雲端GPU資源的生成式AI服務不同,此次「AI2 x aiDAPTIV+」方案特別針對地端訓練與推論進行設計,核心特色為:
● 自建資料集工具:內建Dataset Generator,可自動將PDF、Word等文件轉為訓練資料,加速AI訓練流程。
● 模組化應用架構:支援多種企業應用場景,可依需求彈性部署。
● 軟硬體整合:以群聯NAND儲存技術搭配aiDAPTIV+平台,提高本地端AI運算效率。
這樣的設計有助於降低企業導入AI系統時對外部算力與資料處理的依賴,同時保有資料安全與模型自主性。
看更多遠見雜誌文章:
IDM2.0是什麼?為何Intel陳立武可能力推求翻身?
與黃仁勳登台的Blue機器人不只可愛!一文看懂實體AI風潮
AI也能藏在耳機、醫療探針裡?高通與德儀宣示新布局