NVIDIA針對台灣、日本推出符合在地語言與文化的NIM微服務,加速佈署各類主權AI應用項目

NVIDIA在今年GTC 2024活動公布的NIM微服務,目前已經在台灣與日本地區推出可用於自動生成式人工智慧的四款全新微服務,藉此加速佈署各類主權人工智慧應用項目。

NVIDIA針對台灣、日本推出符合在地語言與文化的NIM微服務,加速佈署各類主權AI應用項目
NVIDIA針對台灣、日本推出符合在地語言與文化的NIM微服務,加速佈署各類主權AI應用項目

此次推出的四款全新NVIDIA NIM微服務,將讓開發者能更容易建置、佈署高效能的自動生成式人工智慧應用服務,並且可依照在地需求量身訂做,藉此符合在地語言、文化,同時透過準確理解和改善的回應,藉此強化與使用者的互動。

而全新NVIDIA NIM微服務分別整合使用日文資料訓練出的Llama-3-Swallow-70B,以及使用台灣在地中文資料訓練出的Llama-3-Taiwan-70B,兩者均以Llama 3 70B模型為基礎打造,另外也包含建立在Mistral-7B模型基礎上的RakutenAI 7B系列模型,分別以英文及日文資料集進行訓練,主要應用在日本樂天旗下服務。

與Meta開源提供的Llama 3等大型自然語言模型相比,此類模型在理解日語、台灣在地中文,以及處理當地法律任務、回答問題,並且進行語言翻譯與總結方面的表現更為優異。

藉由導入在地語言模型,開發者將能利用NIM微服務建立更符合在地互動體驗的應用功能,並且透過API形式使用全新的NIM微服務,並且廣泛應用在醫療保健、金融、製造業、教育與法律相關領域。

目前包含東京工業大學全球科學資訊與運算中心 (Global Scientific Information and Computing Center)、台灣長庚紀念醫院、和碩聯合科技、長春集團、欣興電子、科技報橘、律果科技,以及自動生成式人工智慧新創APMIC均以NVIDIA NIM微服務打造各類應用項目。

另一方面,藉由NVIDIA AI Foundry平台,企業亦可針對需求量身打造客製化人工智慧模型,透過各類基礎模型結合NVIDIA NeMo服務進行微調,配合NVIDIA DGX Cloud與各類技術堆疊,即可藉由NVIDIA NIM微服務客製化各類模型。

更多Mashdigi.com報導:

三星開始讓BESPOKE AI系列設計款家電產品也能使用Bixby數位助理服務

Bosch在台推出6系列三效極淨洗脫烘洗衣機,45分鐘內完成洗脫烘、同樣支援Home Connect技術

中國工信部自9/1起施行新規範,使蘋果MagSafe、Qi2無線充電設備僅能以較低工作頻率、功率運作