NVIDIA助攻! 聰泰看好生成式AI應用商機
2024台北國際電腦展今天(5日)持續吸引國內外產業人士參觀,各家廠商大秀研發實力。影像暨AI平台與解決案提供商聰泰科技(5474)展出運用NVIDIA的強大技術,在醫療、廣電、教育、安防、機器人等不同領域的突破性產品。聰泰總經理林宏沛表示,隨著生成式AI在邊緣端落地,將有更多具有未來性的新應用會加速推出。
輝達(NVIDIA)執行長黃仁勳參與COMPUTEX 2024,讓人工智慧(AI)熱到最高點。5日各家參展的國內外科技廠商紛紛在自家展覽區展示產品,或者舉辦記者會發布最新研發成果。擅長影像處理的聰泰科技搭上輝達AI浪潮,早已運用NVIDIA的產品協助開發,本次電腦展聰泰展示5大創新,包括利用Jetson Orin平台進行工業機器人應用、RIVA + LLM用於外科手術應用、IGX系統與 Nvidia HoloScan傳感器橋接、基於生成式AI的NVR系統,以及全合一Jetson AI 相機。
其中,獲得COMPUTEX 2024金獎的SmartVDO Air受到矚目。它是一款尺寸極小、功能強大的智慧影音運算平台,配備NVIDIA最新的Jetson Orin NX/Orin Nano系列核心模組,具有高達100 TOPS 的AI推理能力,可搭配多種影像輸入或AIOT載板,廣泛應用在不同領域。
林宏沛表示表示,輝達今年不斷強調生成式AI已經落地了,SmartVDO Air就是邊緣計算,將龐大生成AI能力塞進小小的算力盒子裡,100 TOPS的算力已足夠塞下任何大語言模型。他說,生成式AI在邊緣端的持續發展,將會帶來更多具有未來性的各式應用。
聰泰與中保科技合作開發的AI NVR,將生成式人工智慧(GenAI)融合至SmartVDO Edge與SmartVDO Eye產品中。如此一來可藉由AI迅速辨識坍塌、車禍、鬥毆等各種危險狀況。林宏沛表示,傳統的AI是將影像錄下來,如果發生事故,回放找尋影像,現在的技術是透過生成式AI技術,可直接詢問,例如問機器昨天有沒有可疑人士在家門口,機器就會幫忙查找並且回覆。他說,這樣才能提高效率,也是監控軟體系統真正應該做到的事。
相關技術應用在醫療領域,則是可以讓醫護人員開刀時透過語音AI切換畫面,查看病人的即時生理數據、過去的影像檢查資料等。過去需要有人力在手術室裡協助操作電腦,現在可以解放醫護人員雙手的負擔。聰泰目前持續研發生成式AI對影像的描述,希望做到類似醫師坐在身旁說明病歷,一方面輔助醫療進行,二方面有助幫助偏鄉醫療需求。 (張佳琪報導)