今年最受矚目的雲端盛會! Google Cloud Summit Taipei 產業上雲策略結合技術方案洞悉 AI 趨勢

雲端與 AI 將成為企業轉型的下個決勝點,今年度 Google Cloud Summit 重磅回歸,提供 4 場大會主題演講、6 大精選技術分場專題、還有多家企業分享第一手應用心法,以期帶給台灣市場第一手的 AI 技術分享,協助企業在雲端環境使用 AI 來加速商業效率。 INSIDE 團隊摘錄本次活動重要技術趨勢及 AI 產業應用,探索雲端與生程式 AI 的最前沿。

Google Cloud 雲端區域落地台灣十周年之際,回溯過往里程也展望未來佈局

今年不僅是 Google Cloud 雲端區域在台灣營運十周年,也是 Google 創立 25 周年、Google 在台灣設立辦公室的第 17 年。

Google Cloud 北亞區董事總經理李孔源首先指出,經過 1/4 世紀的發展, Google 已成為搜尋的代名詞,旗下 6 種產品擁有超過 20 億使用者。走過 Web2.0、行動裝置時代,如今來到 AI 關鍵路口, Google 會持續以 AI 為本,運用 AI 技術解決個人、企業及社會各種棘手問題。

接著 Google 台灣總經理林雅芳盤點,過去十多年 Google 在台灣布局的多項里程碑。 Google 總是在第一時間把最先進的產品與服務帶到台灣,不僅協助台灣產業生態,擁有穩固的基礎建設,也讓產品、服務、人才、內容躍上國際舞台。

Google Data Center Operations Site Manager 董育成,提到 Google 持續在台灣的資料中心擴充硬體設施、提升節能與運算效率,以及加強安全防護,種種努力讓台灣成為 Google 網路基礎建設佈局當中的戰略樞紐。

Google Cloud 助產業轉型突圍,多家企業第一手分享戰略心法

因應近年前瞻技術飛速進展, Google Cloud 北亞區解決方案總經理孫素梅提到, Google Cloud 為了協助企業客戶落實數位化及 AI 轉型,提供包含 Data and AI Cloud、Modern Infrastructure Cloud、Collaboration Cloud 以及 Security Cloud 等多元解決方案,從多個面向賦能企業,更敏捷、韌性面對未來的挑戰。

企業若想克服挑戰,該怎麼善用 AI 工具?Google Cloud 台灣客戶解決方案副總經理林書平解釋,企業發展 AI 模型需特別重視四大元素,分別是:模型算法、資料分析、平台算力、以及資料安全。 Google Cloud 的 AI 戰略就是要幫助企業,創造「優化顧客體驗、提高生產力、商業顯著轉型」等三個關鍵價值。

以提升客戶體驗、賦能數據價值為例,中華電信指出與 Google Cloud 的合作,不僅讓中華電信能夠提升自身數位轉型能力,也能藉由內部導入經驗,協助企業客戶實現數位轉型。「我們運用了一站式的 Data Cloud 解決方案,將智慧電信的概念應用於業務中,通過在雲端環境中部署 BigQuery、Cloud Storage、Cloud SQL 等應用,並結合人工智慧和機器學習技術來輔助分析電信資料,資料分析速度提升 57% 。這項改進不僅改善了通訊品質,還加速了訊號監控的成效。」

對於經營超過一甲子,同時又併購海外公司的遠東集團,遠資信息技術總經理易換棣坦言,集團 IT 架構相當複雜,而且面臨資料存取安全、硬體基礎設施效能、網路穩定等實際痛點。評估後開始導入 Google Cloud 一系列搬遷方案,像是運用 Google Cloud Vmware Engine 的可擴展運算資源,並且搭配 Google Cloud 旗下的 Actifio、Veeam 搬遷工具,有效把資料和應用程式移轉到雲端,最終幫助遠東打造新一代安全、自動化、智慧化跨境維運,並符合遠東新 ESG 目標的 IT 架構。

隨著營運數據翻倍成長,加上 IT 架構多元化,資訊安全也成為棘手課題。 Mandiant North Asia General Manager Michael Chue 提到,截至到今年 9 月,全球發生的 zero-day 威脅(一種利用沒有修復方案的安全性漏洞攻擊)多達 72 件,預計比 2022 年將多一倍成長。

對於橫跨資本及貨幣市場唯一後台法定特許事業的臺灣集中保管結算所,總稽核張紫薇在 Google Cloud Summit 上有提及,集保數據牽涉大量有價證券機敏資料,他們在 2019 年就透過與白帽駭客合作,進行紅隊演練模擬國際駭客密集攻擊,藉此強化人力與系統反應速度,強化資安韌性、嚴謹落實風險控管。

企業御風 AI , Google Cloud 教你把想像化為實際創意的作法

既然現在是放眼 AI 的關鍵時機, Google Cloud 全球 AI 業務董事總經理 Caroline Yap 建議企業應該意識到 AI for growth、AI for efficiencies、AI for the future ,善用 AI 可以降低使用複雜數據的障礙,又或是把 AI 工具導入對話式商務、聊天機器人和虛擬代理,藉此提升企業的生產力。

「一項研究發現,使用 AI 的企業之中,有 66% 看到營運效率提高, 57% 改善客戶體驗、49% 加速創新, 48% 提高員工生產力;更重要的是,有 90% 的消費者表示,他們願意多付費來獲得更好的體驗,」Caroline 表示。

為了幫助機器學習工程師或開發者可以快速上手,打造生成式 AI 應用程式, Google Cloud 台灣 AI 與機器學習架構師沈昇廷解釋 Vertex Gen AI Studio 有哪些資源可以善用。第一,簡潔 UI 介面可進行模型的指令(prompt)設計、實驗及調整,並且在生產環境中應用 REST API、Python API 。第二,為了讓企業快速創新,使用 Vertex Conversation 建立具有流程處理能力的聊天和語音機器人,搭配 Workflow generator 生程自動化流程動作,讓 AI 對話體驗有溫度又符合業務邏輯。第三,運用 Vertex Search ,基於資料回答複雜查詢的即時個性化搜尋,從各種資料來源,包含企業網站資訊、結構化 / 非結構化資料,擷取知識並支援多輪搜尋。經過測試後, Vertex AI Search 有助於減少導入 RAG(檢索增強一代)架構成本。

旅遊電商平台 KKday Data Architecture Team Lead 郭羿辰提到, KKday 客服單位原本需要從多個知識庫搜索,才有辦法查找到顧客問題的答案,但現在我們透 Google Cloud 環境上的生成式 AI 服務打造出一個內部系統,來幫助客服能夠更迅速的獲得完整且高品質的回覆給消費者。對於 KKday 而言 AI 的存在不是為了吸引目光,而是圍繞著提升各種情境下的用戶體驗服務。

除了程式開發,企業現在也很重視 AI/ML 的管理機制。 Google Cloud 台灣客戶解決方案架構師蔡坤達說明, Vertex AI 賦能新世代管理需求,可避免重工、資料孤島,乃至於持續優化特徵工程(feature engineering)控管機制,在眾多資料海找到重要資料。蔡坤達接著介紹 Vertex AI 的第二代 Feature Store 有幾項更新,包含建立在 BigQuery 強化資料管理能力、Ultra 低延遲可達到低於 2 秒的速度、以及有 Gen AI 輔助讓資料回答更精準。

對於特徵工程的管理情況, 17LIVE 資深機器學習工程師 (Sr. Machine Learning Engineer) 林奇煒及劉謹瑋,探討直播平台為了讓直播主知道何時開播的效益最好,以及找出哪些觀眾最可能貢獻「打賞」。另外,針對直播串流穩定度提升, 17LIVE 將串流資料結合 Vertex AI ,開發一項 High Latency Prediction 模型,把資料庫的歷史資料丟到 BigQuery 及 Cloud Storage ,根據指令訓練模型,預測每次時間點發生的風險係數。經過壓測,發現這個模型的效能能幫助工程師的回覆時間,從 40 分鐘縮短到 20 分鐘。


▲ Photo Credit:Google Cloud

放眼未來,既然 AI 不會停下腳步, Google Cloud 的解決方案當然也不會停止迭代。 Google Cloud 台灣客戶解決方案副總經理林書平說, Vertex AI 基礎模型包含 PaLM、Cody、Imagen、Embeddings 已推出新版本,表現效能皆有所提升。技術面之外, Google Cloud 也希望能持續協助企業發掘與打造內部的生程式 AI 場景。

擁抱未來的不確定性、與因應快速更迭的市場脈動與需求, Google Cloud 期待成為企業轉型路上的夥伴,幫助更多人從 AI 時代受惠,以及在商業賽道上取得優勢。

猜你喜歡

Source: 今年最受矚目的雲端盛會! Google Cloud Summit Taipei 產業上雲策略結合技術方案洞悉 AI 趨勢