一個以色列商人的台灣之旅,揭開AI神經網絡王國面紗

輝達創辦人黃仁勳(圖)對於AI的布局之深,除了他手中訴求高速運算的GPU,還有他後方的高速傳輸系統。(攝影者.楊文財)
輝達創辦人黃仁勳(圖)對於AI的布局之深,除了他手中訴求高速運算的GPU,還有他後方的高速傳輸系統。(攝影者.楊文財)

製作人●呂國禎 文● 侯良儒

「這天,汐止大湖科學園區,出現一位深棕髮色、雙頰削瘦的以色列商人。

他上午才在新竹,拜訪了台積電、封測一哥日月光,敲定代工訂單;下午,他驅車北上,被友人帶來台灣老牌連接器公司——正淩精密的總部。

「這也是你們的產品嗎?」他訝異望向一塊造價2萬元的高階主機板,指著插在上面的連接器說,「我們在以色列,有一整個房間都是這些主機板耶!」

他喜出望外,是因為自己在以色列花了大半年,研究這片主機板到底用了哪些公司製造的晶片、電路板、連接器;現在,居然在一趟不到12小時的台灣之旅,得到了所有解答,「我希望你們成為我們的供應商。」他告訴正淩總經理陳言成。

這位以色列人任職的企業,叫邁倫科技(Mellanox),是一家涵蓋交換器、數據交換晶片等產品的新創公司。2019年,輝達(Nvidia)創辦人黃仁勳用超過新台幣2,000億元收購這間新創;現在,只要你走進輝達在美國加州、專為AI搭建的資料中心,就會看到一櫃櫃邁倫的高速交換器,正淩的連接器,就在其中。

AI從大腦到神經網絡都少不了台廠
第1波帶動伺服器,再來就是交換器

400G,是這些高速交換器的傳輸速度,約是你家光纖網路的4,000倍快,可以讓你在1秒鐘傳4部4K電影。在AI運算過程中,上百台的AI伺服器「們」,必須依靠它,才能彼此傳遞各自計算好的結果,再整合成一個大型語言模型;沒有它,伺服器與伺服器之間切斷連結,AI訓練時間將從月變年。

如果用人體比喻,在AI硬體世界,假若伺服器是無數顆的「大腦」、負責運算大量資料的話,那麼,這整套交換器系統,就是傳遞大腦意識的「神經網絡」。

你可能知道,AI伺服器是由廣達、緯創、英業達、鴻海負責製造,台廠握有全球9成製造訂單;然而,你可能不知道,一台訓練AI必備的高速傳輸設備,這個「神經網絡」王國,也在台灣。

當AI大浪來臨,台灣正迎來前所未見的新榮景,「目前AI運算的瓶頸,不在晶片的運力,而是在『傳輸』,」和碩網通事業部總經理馮震宇告訴我們,因此,正在力拚AI的歐美業者,在採購AI伺服器的同時,也正在大量訂購高速交換器,「因為AI,400G將變得很普遍。」

「往400G升級是趨勢,」佳必琪董事長張舒眉說,「否則,你買再多的伺服器,都只是開著機器耗電,因為這些機器都在等資料傳過來。」

研調機構Dell'Oro推算,明年,資料中心的400G交換器,占比將超越目前主流的100G交換器,並且在2025年,市占率衝破5成。另一機構IDC更認為,在AI帶動下,全球交換器產值,4年後將衝破新台幣1.5兆元。

「生成式AI第一波帶動的,是伺服器的需求,再來,就是交換器,因為運算需要的傳輸速度,會越來越快。」資策會產業情報研究所(MIC)研究總監徐子明說。就像大量的跑車一起上路,必須搭配順暢又寬廣的高速賽道,才能發揮真正性能。

台灣供應鏈全搭上這波產業轉型
全球高速傳輸需求,重新點燃MIT

近年悄悄轉型到AI交換器的智邦,今年以來,股價翻漲了1倍多、站上500元新天價。10年前,它還只是股價十幾元的雞蛋股,如今,有超過5成的白牌AI伺服器,必須搭配智邦製造的400G交換器。

在零組件端,今年股價漲了1倍的金像電,以前被認定為傳統的印刷電路板公司,客戶是成長已停滯的筆電、光電業。現在,它生產的高速電路板,是為了AI高速傳輸而生,更通吃了全球交換器一哥思科(Cisco)、二哥Arista的訂單。

金像電的上游是台光電製造的高速銅箔基板,在400G交換器的全球市占達30%,若再加上台燿,台灣企業在這項零組件的市占率,更將超過5成。

台灣是世界的AI神經網絡王國,「台灣從上游的半導體,到PCB(印刷電路板)、光通訊元件、連接器,再到交換器的組裝製造,台灣的供應鏈其實全部搭上這波的產業轉型!」陳言成說。

例如,佳必琪在台灣生產400G交換器使用的連接線,目前全球僅3家業者能製造,這一條要價400美元的線,讓它告別過去一條線賣不到1美元的悲情。隸屬鴻海的鴻騰,則從光收發模組的封裝、到光纖線纜的生產,一條龍全包,而正淩更是邁倫設計、現在掛上「輝達牌」的高速交換器,全球唯2連接器供應商。

這一波在全球興起的高速傳輸需求,更重新點燃了「台灣製造」⋯。

※更多精彩報導,詳見《商業周刊》網站。

※本文由商業周刊授權刊載,未經同意禁止轉載。

看更多商業周刊文章

未來5年大爆發,AI隱形冠軍在台灣!直擊黃仁勳不可或缺的軍火庫

對你人生有益的朋友:不只醫生、律師,3種人一定要結交

不是財團企業!清大退休教授捐出畢生積蓄8500萬、再捐6萬藏書⋯