金控先後引進AI伺服器 大型語言模型已悄悄改變銀行的內在競爭力

台新金、中信金在去年第四季先後宣布導入升成式AI系統。(圖片來源/信傳媒資料庫)

台新金控在去年12月首度公開導入生成式AI的智能客服,並透露還把生成式AI用在協作平臺的聊天機器人Teams Chatbot、知識管理平臺、程式碼撰寫助理Codex,以及虛擬智能客服。

中信金控也在去年11月在金融科技展上首度曝光運用生成式人工智慧(Generative AI)研發的「AI智能助理」,應用人工智慧(Artificial Intelligence,AI)人臉辨識技術阻詐的升級版神盾聯防「防詐騙ATM」。

實際上,台新金和中信金是國內最先導入大型語言模型(large language model, LLM)的兩大金控,在ChatGpt剛在市場上引起震撼時,下訂了內涵輝達(Nvidia)的AI繪圖晶片H100的伺服器,再導入企業版的大型語言模型,對內部的知識管理系統進行各種測試、升級,說得簡單一些,台新和中信可能是目前國內所有銀行中「算力」最強的兩家銀行。

銀行導入LLM模型,更迅速的找出客戶需求

在ChatGpt走紅以前,外界談「金融科技」指的是區塊鏈技術的導入、新的支付方式等等,隨著OpenAI公司的ChatGpt功能引起世人驚豔,生成式AI引入各行各業,西方金融機構目前談「金融科技」多半指的是生成式AI技術、尤其是大型語言模型,OpenAI公司即推出了「ChatGPT Enterprise」企業版 ChatGPT 。

由於生成式AI具有強大的語音、文字、圖像轉換能力,因此許多銀行設計應用大型語言模型來提高客戶滿意度、忠誠度,當在客服人員和客戶對話的時候,系統已經將語音轉換成文字,行員一邊和客戶對話,系統已經產生「客戶輪廓」,越多訊息,系統越「了解」這位客戶,甚至可以推薦聊天的話題。

例如系統發覺客戶是一個強烈的風險趨避者,傳統資料分析可能要花半天才知道結果,AI系統在客服人員和客戶聊天3分鐘後,已經可以提供客戶風險趨避的理財商品名單,外幣定存(自動避開俄羅斯盧布)、傘型基金等等。

AI系統不只對外,也可提高銀行內部作業效率

大型語言模型不只是對外、對客戶,也可以對內部管理有所精進。高盛創新主管 Marco Argenti 表示,人工智慧不應被視為軟體開發人員的替代品,而應被視為軟體開發人員的同伴, 使用生成式人工智慧,開發人員已經能夠實現 40%的程式碼自動化。 他們也用它來進行測試。

應證了輝達執行長黃仁勳在公開演講時,多次強調,AI讓每個人都能成為程式設計師,不需要每個人都會寫程式,才能應用AI。以ChatGPT為例,能寫程式,用Python寫出機器學習的程式碼,IT人員再去修正更吻合自己的需要就好。

大型語言模型也可以幫助銀行人力資源部門進行教育訓練,例如傳統的新進銀行員都需要參加線上課程、考試、得到成績以及檢討,但過去題庫是固定,題目出現方式用既定的程式碼設定。

軟體工程師不會被取代,會對AI下指令的人吃香

美國佛羅裡達州的 South State 銀行積極採用了一種針對銀行文件和資料進行訓練的語言解決方案,使員工能夠熟悉系統並彙總銀行的內部記錄,得以解釋背後原因。 因此,新進行員很快就能精通特定主題或法規。

South State 銀行的AI系統還幫助員工執行各種任務,包括撰寫電子郵件、產生費用報告、分析可疑活動和分析詐欺,自從引入該解決方案以來,South State Bank 的生產力得到了大幅提升。 例如,以前有些工作平均需要 12 到 15 分鐘完成,現在只需幾秒鐘,只要員工下出「對的」指令。

算力就是競爭力,AI銀行將走出自己的路

金融機構導入大型語言模型LLM後就不會再走回頭路,由於LLM可以處理百億個、千億個參數,因此許多銀行把舊的龐大資料藉由LLM來活化,找出新的商機,有導入LLM的金融機構和傳統的金融機構未來幾年勢必走向不同的發展道路,競爭力的差距也將逐漸拉大。

各國的金融監理機構亦然,能夠理解LLM在金融業務的潛力和風險的監理機構,將比傳統還在靠PC管理銀行的監理機構,更能為產業創造機會。

(原始連結)


更多信傳媒報導
暖化加劇、巴黎氣候協定難兌現 各國如何靠「負碳排創新」趕上淨零?
感冒VS.氣喘哪裡不一樣?醫:把握「3要點」遠離氣喘
食譜看過來》馬鈴薯蛋餅