輝達推生成式AI微服務 支援日本台灣資料訓練

(中央社記者吳家豪台北27日電)人工智慧(AI)晶片大廠輝達(NVIDIA)今天宣布推出4款全新NVIDIA NIM微服務,用於利用日本和台灣當地語言資料訓練的大型語言模型(LLM),讓開發人員更容易建置與部署高效能的生成式AI應用。

輝達發布新聞稿說明,NIM微服務支援社群常用的各種模型,並針對地區需求量身打造,可以按照當地語言和文化傳統,透過準確理解和改善的回應,強化與使用者的互動。

輝達指出,使用日文資料訓練出的Llama-3-Swallow-70B,以及用中文資料訓練出的Llama-3-Taiwan-70B,都屬於區域語言模型,可以更深入了解當地法律、法規和其他習俗。

台灣的長庚紀念醫院目前正在建置該院專屬的AI推論服務(AIIS),以集中管理醫院體系內的所有LLM應用。長庚醫院使用Llama 3-Taiwan 70B,提供患者能夠理解、更細膩的醫療語言,提高第一線醫護人員的工作效率。

代工廠和碩將採用Llama 3-Taiwan 70B NIM微服務,開發供內部及外部使用的應用。和碩已將這款微服務與旗下PEGAAi Agentic AI系統進行整合,以達到流程自動化,提升製造與營運效率。

此外,石化產品製造商長春集團、印刷電路板公司欣興電子、科技媒體公司科技報橘、線上合約服務公司律果科技,以及生成式AI新創APMIC,也正在使用Llama-3-Taiwan 70B NIM。(編輯:張均懋)1130827