Yahoo Tech

Google Cloud 第七代 TPU Ironwood 全新登場,迎戰 AI 推論時代、夥拍全新 Axion 虛擬機器「慳錢提效」

Eric Chan
Google Cloud 第七代 TPU Ironwood 全新登場,迎戰 AI 推論時代、夥拍全新 Axion 虛擬機器「慳錢提效」
Google Cloud 第七代 TPU Ironwood 全新登場,迎戰 AI 推論時代、夥拍全新 Axion 虛擬機器「慳錢提效」

Google Cloud 宣布為「AI 推論時代 (Age of Inference)」推出三款基於客製化晶片的新產品 。是次發布的重點為 Google Cloud 史上最強大的第七代 TPU Ironwood ,以及極具成本效益的全新 Arm 架構 Axion 虛擬機器 。

隨著企業焦點從模型訓練轉向高效實用的模型互動 ,運算需求正呈指數級增長 。Google Cloud 透過深度的「系統級協同設計 (system-level co-design)」,整合模型研究、軟件和硬件開發 ,推出最新一代的 Ironwood 及 Axion 實例 。

第七代 TPU Ironwood:史上最強晶片

Google Cloud 第七代 TPU Ironwood 全新登場,迎戰 AI 推論時代、夥拍全新 Axion 虛擬機器「慳錢提效」
Google Cloud 第七代 TPU Ironwood 全新登場,迎戰 AI 推論時代、夥拍全新 Axion 虛擬機器「慳錢提效」
廣告

Ironwood 是 Google Cloud 的第七代 TPU,將在未來數週內陸續推出,係專為應對最嚴苛的工作負載而設,包括大規模模型訓練、複雜的強化學習 (Reinforcement Learning, RL),以至高容量、低延遲的 AI 推論 。

效能重點:

  • 峰值效能: 相較於 TPU v5p,Ironwood 的峰值效能提升了 10 倍 。

  • 訓練與推論效能: 與 TPU v6e (Trillium) 相比,每塊晶片的效能提升超過 4 倍以上 。

  • 能源效益: Ironwood 號稱是 Google 迄今最強大且最具能源效益的客製化晶片 。

現今許多頂尖 AI 模型,如 Google 的 Gemini、Anthropic 的 Claude,均在 TPU 上進行訓練和部署 。Anthropic 對 Ironwood 的價格與效能提升表示讚賞,並計劃使用多達 100 萬個 TPU 。

全新 Axion 虛擬機器:性價比提升 2 倍

Google Cloud 第七代 TPU Ironwood 全新登場,迎戰 AI 推論時代、夥拍全新 Axion 虛擬機器「慳錢提效」
Google Cloud 第七代 TPU Ironwood 全新登場,迎戰 AI 推論時代、夥拍全新 Axion 虛擬機器「慳錢提效」

為應對日常工作負載及支援 AI 應用 ,Google Cloud 同時擴展了其 Arm 架構的 Axion 產品組合 :

  • N4A (預覽版): 這是 Google Cloud 迄今最具成本效益的 N 系列虛擬機器 。相較於現時同等級的 x86 虛擬機器,N4A 提供了高達 2 倍的性價比 (Price-Performance) 。它適合用於微服務、開源資料庫及支援 AI 應用的網頁服務工作 。

  • C4A metal (預覽版): 這是首款 Arm 架構裸機執行個體 (Arm-based bare-metal instance) ,為 Android 開發或複雜模擬等專業工作負載提供專用的實體伺服器 。

客戶反應正面,例如 Vimeo 在 N4A 執行個體上的初步測試顯示,其核心轉檔工作負載效能較 x86 提升了 30% 。ZoomInfo 亦發現,其關鍵工作負載在 N4A 上的性價比提升了 60% 。

系統級設計:AI Hypercomputer 與軟件整合

Google Cloud 第七代 TPU Ironwood 全新登場,迎戰 AI 推論時代、夥拍全新 Axion 虛擬機器「慳錢提效」
Google Cloud 第七代 TPU Ironwood 全新登場,迎戰 AI 推論時代、夥拍全新 Axion 虛擬機器「慳錢提效」

TPU 是 Google 整合式超級運算系統 AI Hypercomputer 的關鍵組件 。Ironwood 可在一個超節點 (SuperPod) 中擴展至 9,216 塊晶片 ,並以 9.6 Tb/s 的速度互連 。

為確保系統穩定,Google Cloud 的光路交換 (Optical Circuit Switching, OCS) 技術能在服務持續運行的同時,即時繞過中斷 。

軟件方面,Google Kubernetes Engine (GKE) 的 Cluster Director 功能現已支援 TPU 。而在推論方面,GKE Inference Gateway 功能可進行智能負載平衡,將生成首個詞元的時間 (Time-To-First-Token, TTFT) 縮短高達 96%,同時降低多達 30% 的服務成本 。

Ironwood TPU 初期的部署將集中於美國 ,預計將在 2026 年中擴展至全球各個地區 。

緊貼最新科技資訊、網購優惠,追隨 Yahoo Tech 各大社交平台!

🎉📱 Tech Facebook:https://www.facebook.com/yahootechhk

🎉📱 Tech Instagram:https://www.instagram.com/yahootechhk/

🎉📱 Tech WhatsApp 社群:https://chat.whatsapp.com/Dg3fiiyYf3yG2mgts4Mii8

🎉📱 Tech WhatsApp 頻道:https://whatsapp.com/channel/0029Va91dmR545urVCpQwq2D

🎉📱 Tech Telegram 頻道:https://t.me/yahootechhk

其他人也在看

聯力 LIAN LI 推出全新 HydroShift II LCD-S 系列一體式水冷散熱器,搭載可磁吸拆卸的方形 LCD 螢幕

聯力 LIAN LI 推出全新 HydroShift II LCD-S 系列一體式水冷散熱器,搭載可磁吸拆卸的方形 LCD 螢幕

高階電腦機殼與電腦配件品牌聯力,宣布推出全新 HydroShift II LCD-S 系列一體式水冷散熱器。全 […]

硬是要學 ・ 1 天前
Google翻譯整合Gemini,新增「Advanced」選項、犧牲速度換取更高翻譯準確性與上下文語境

Google翻譯整合Gemini,新增「Advanced」選項、犧牲速度換取更高翻譯準確性與上下文語境

Google 稍早開始為旗下 Google 翻譯 (Google Translate) 服務導入更深度的 Gemini 模型整合。在新版本的 App 中,將新增一個翻譯模型選項,允許用戶在標準的「Fast」 (快速)模式,以及由 Gemini AI 加持的「Advanced」 (進階)模式之間進行選擇,藉此滿足不同的使用需求。

Mashdigi ・ 8 小時前
科幻MOBA手遊《G9:特攻聯盟》開放預下載,自行切換雙技能系統玩出靈活戰術

科幻MOBA手遊《G9:特攻聯盟》開放預下載,自行切換雙技能系統玩出靈活戰術

昱泉國際今日正式宣布,全新科幻MOBA手遊《G9:League of Aces 特攻聯盟》即日起開放 App Store / Google Play 雙平台預先下載!本作以爽快團戰、荒誕幽默的敘事風格打造獨特的末世競技舞台,邀請玩家集結隊友,準備迎接最「上頭」、最不按牌理出牌的特攻亂鬥。

Yahoo奇摩遊戲編輯部 ・ 17 小時前

NBA/勉勵溫班亞瑪師學自己!歐尼爾:保持爭勝心有望邁入偉大之列

本賽季以6勝2負戰績排西區第2的馬刺,被外界認為是今年的大黑馬,當家球星溫班亞瑪(Victor Wembanyama)的出色發揮正是球隊取得成功的關鍵。傳奇中鋒「大鯊魚」歐尼爾(Shaquill...

聯合新聞網(運動) ・ 1 天前
疾呼為超智能設限!微軟AI執行長:人工智慧應服務人類、務實解決問題

疾呼為超智能設限!微軟AI執行長:人工智慧應服務人類、務實解決問題

[FTNN新聞網]記者蔡曉容/綜合報導微軟(Microsoft)AI執行長蘇萊曼(MustafaSuleyman)上周四(6日)發表一篇以「邁向人本超智能」(TowardsHumanistSuperin...

FTNN新聞網 ・ 14 小時前
OVO U3小蘋果HD獨步版開箱實測|外出旅遊、出差推薦的行動投影機

OVO U3小蘋果HD獨步版開箱實測|外出旅遊、出差推薦的行動投影機

外出旅遊、國外出差回飯店如果想好好休息一下追劇、看電視,但又不想要用14~15吋的電腦在那邊硬撐,我想最佳的解決方案就是電視棒或者投影機了,本篇要跟大家分享的是一款大小只有巴掌般大,不占行李空間,又能輕鬆投影8吋~120吋的OVO U3行動投影機,提供「真實使用心得、好壞一起講」給大家選購參考。

壹哥的科技生活 ・ 22 小時前

NBA/後場戰力太過擁擠 美媒稱鵜鶘不排除交易「神偷」

鵜鶘隊今年先是透過選秀與交易分別取得費爾斯(Jeremiah Fears)、波爾(Jordan Poole)兩名控衛,目前名單中已有多達6名控球後衛的他們,據傳不排除將交易走擁有高人氣的「神偷」...

聯合新聞網(運動) ・ 1 天前
錢包殺手!Steam「合作遊戲」類型吸金70億美元,迎來揪團新時代

錢包殺手!Steam「合作遊戲」類型吸金70億美元,迎來揪團新時代

熱門遊戲類型每年都在變化,而近幾年「合作遊戲」(co-op)更加受到歡迎,像是《致命公司》、《雙人成行》、《PEAK》、《R.E.P.O》、《Valheim》等,幾乎每幾週就會有一款熱門新作推出,總是能和朋友一起歡樂合作。而 2025 年,合作遊戲更迎來了空前的盛況,光是在 Steam 平台上的總收入就已經突破 70 億美元的驚人數字。

Yahoo奇摩遊戲編輯部 ・ 18 小時前
會有颱風假?專家示警13縣市停班課機率大

會有颱風假?專家示警13縣市停班課機率大

會有颱風假?專家示警13縣市停班課機率大

EBC東森新聞 ・ 1 天前
中度颱風鳳凰轉彎要來了! 估週三晚間登陸、5縣市侵襲率超過90%

中度颱風鳳凰轉彎要來了! 估週三晚間登陸、5縣市侵襲率超過90%

[Newtalk新聞] 中度颱風「鳳凰」轉彎朝台灣而來,中央氣象署預估,最快今(10)天晚上發布海上警報、明天發布陸上警報,週三最靠近台灣,並可能在當晚登陸中南部。根據氣象署發布的暴風侵襲機率圖,台南、高雄等5縣市超過90%,台中也有84%,全台皆須嚴加防颱。 氣象署指出,第26號颱風「鳳凰」中心位置今(10)天凌晨2點時位於鵝鑾鼻東南方580公里,以每小時19公里速度,向西北轉北北西進行,已通過菲律賓呂宋島,持續朝西北西方向前進,依照路徑預測,「鳳凰」將北轉拐彎朝台灣海峽持續前進,之後再轉東北通過台灣。 氣象署預測,由於「鳳凰」經過陸地而且北上過程中環境條件不利於其發展,強度將逐漸減弱。週二受颱風外圍環流及東北季風影響,基隆北海岸、大台北、東半部地區及恆春半島須慎防大雨及豪雨;週三隨著颱風接近,中南部地區也有大雨或局部豪雨,週四颱風減弱並逐漸遠離,除北部地區仍有局部較大雨勢外,其他地區雨勢趨緩。 根據氣象署最新公布的暴風侵襲機率圖,有5縣市遭侵襲機率超過90%,分別為:台南94%、嘉義縣92%、嘉義市91%、雲林90%、高雄90%。而超過80%包括:屏東88%、台中84%、花蓮81%

新頭殼 ・ 1 天前
中職/樂天臉書PO封王影片 古久保健二「獻聲」卻卸任!球迷灌爆留言區

中職/樂天臉書PO封王影片 古久保健二「獻聲」卻卸任!球迷灌爆留言區

樂天桃猿10日在官方臉書分享封王遊行當天的影片,尷尬的是,影片一開始的旁白是總教練古久保健二抵達市府廣場前的致詞。沒想到2日舉行的封王遊行,7天後古久保健二已經卸下冠軍教頭身份。

三立新聞網 setn.com ・ 13 小時前
北北基桃颱風假不同調!週二全台停班停課一覽

北北基桃颱風假不同調!週二全台停班停課一覽

中颱鳳凰來勢洶洶,持續逼近台灣,根據中央氣象署最新觀測顯示,20時的中心位置在北緯18.3度,東經118.5度,即在鵝鑾鼻的南南西方約470公里之處,以每小時13公里速度,向北轉北北東進行。氣象署已於今(10)日17時30分發布海上颱風警報,而明日將發布陸警,大家也關注明天是否會放颱風假,《三立新聞網》也持續為讀者整理並更新各縣市停班課狀況。

三立新聞網 setn.com ・ 11 小時前
50元就中1.2億頭獎!辛龍曾揭密1方法玩大樂透 「數字會浮出來」

50元就中1.2億頭獎!辛龍曾揭密1方法玩大樂透 「數字會浮出來」

「國標舞女王」劉真2020年因心臟主動脈瓣狹窄入院開刀,手術期間卻因腦壓過高陷入昏迷,最終在同年病逝,享年44歲。丈夫辛龍當年舉辦完追思會便消失至今,10日無預警出現在飛碟電台《夜光家族》接受專訪,讓許多粉絲相當懷念。辛龍最讓人津津樂道的是曾花50元就中了大樂透1.2億頭彩,他過去公開自己中獎的秘訣,透露在選號時靠1方法,數字自然就會浮出腦中。

三立新聞網 setn.com ・ 9 小時前
案情新進展?謝侑芯家屬赴馬「交行李箱、手機」 疑涉命案關鍵證物

案情新進展?謝侑芯家屬赴馬「交行李箱、手機」 疑涉命案關鍵證物

馬來西亞網紅命案再有新進展。台灣女網紅謝侑芯的家屬代表,昨(10日)上午現身馬來西亞金馬警區,據了解,這是謝侑芯家屬首度在當地公開露面,並依警方要求再度呈交「重要物品」,引發外界關注。

鏡週刊Mirror Media ・ 2 小時前
邱議瑩喊「投柯志恩就是投給鄭麗文」 深綠鄉民爆氣反嗆

邱議瑩喊「投柯志恩就是投給鄭麗文」 深綠鄉民爆氣反嗆

民進黨高雄市長初選今(10日)起至14日開放領表登記,綠委邱議瑩一早搶頭香完成登記,隨即開砲轟國民黨主席鄭麗文秋祭爭議,直呼「投給柯志恩就是支持鄭麗文」。網友對此一面倒負評,直嗆「投邱議瑩就是支持美濃大峽谷」,還有自稱是深綠鄉民喊「別出來選了!」

中時新聞網 ・ 14 小時前
有颱風假?最新風雨預測出爐 12縣市達停班課標準

有颱風假?最新風雨預測出爐 12縣市達停班課標準

從中央氣象署最新風雨預報,明日雨量預測達停班課標準地區,包括台北市山區、新北市山區、桃園市山區、宜蘭縣、花蓮縣和台東縣山區。至於從最新風雨預報中,明日風力預測達停班課標準地區,包括桃園市濱海鄉鎮、苗栗縣濱海鄉鎮、台中市濱海鄉鎮、彰化縣濱海鄉鎮、連江縣、金...

CTWANT ・ 13 小時前
吳亦凡入獄4年竟傳過世!疑因「長期拒絕進食」

吳亦凡入獄4年竟傳過世!疑因「長期拒絕進食」

娛樂中心/楊佩怡報導中國男星吳亦凡曾經於2012年於南韓以團體「EXO」成員身分出道,怎料返回中國活動的吳亦凡卻在2021年因涉嫌不當行為而被中國當局判處13年徒刑附加驅逐出境,如今已經入獄將近4年的吳亦凡,竟傳出在獄中過世。不過透過中國社群軟體實際查詢並未找到相關新聞,目前中國官方也並未出面回應。

民視 ・ 1 天前
「謝侑芯和黃明志只是砲友!」男方不會給錢 台女優:不要再污名她了

「謝侑芯和黃明志只是砲友!」男方不會給錢 台女優:不要再污名她了

31歲「護理系女神」網紅謝侑芯上月在馬來西亞五星飯店猝死,死前疑與大馬歌手黃明志有性行為,現場發現毒品。大馬警方後來將案件升級為「謀殺案」,黃明志5日現身投案。想到謝侑芯死訊傳出後卻出現許多臆測「被雪碧派去當伴遊」,AV女優娃娃(翁雨澄)受訪強調,黃明志不會給錢,他和謝侑芯純只是砲友,「不要再污名她了」。

三立新聞網 setn.com ・ 13 小時前
鳳凰颱風強度減弱!登陸位置又變了 估週二發陸警「半個台灣紫爆」

鳳凰颱風強度減弱!登陸位置又變了 估週二發陸警「半個台灣紫爆」

今年第26號颱風鳳凰,目前強度為中度颱風,氣象署持續發布海上颱風警報,提醒台灣海峽北部、台灣海峽南部、巴士海峽、東沙島海面航行及作業船隻應嚴加戒備。另也針對宜蘭縣發布降雨警戒。至於何時發布陸警,氣象署表示,預估將在明(11)日上午發布陸上颱風警戒。

三立新聞網 setn.com ・ 9 小時前
放颱風假?鳳凰颱風侵襲機率全台皆逾7成 2縣市達91%

放颱風假?鳳凰颱風侵襲機率全台皆逾7成 2縣市達91%

第26號颱風、中颱鳳凰持續增強,氣象署預估最快明天(10日)發布海上警報、後天(11日)發布陸上警報,週三(12日)颱風最接近台灣時,預估將減為輕度颱風,若行進方向速度不變,週三白天暴風圈可能觸陸,夜

中廣新聞網 ・ 1 天前