讓手機也能「跑得動」複雜演算法！ChatGPT之後，力積電為何想投資他們？

全球掀起AI浪潮，在這波浪潮下，有許多台灣企業長期在專注AI領域開發，並有了令人振奮的成果，為此，《數位時代》與數位發展部合作「2023台灣AI大賞」，評選出對AI產業具有影響力的台灣團隊與專案。以下為獲獎團隊 滿拓科技DeepMentor 的故事：

1958年9月，全世界第一個積體電路（IC）問世。積體電路能夠在一塊材料上將電晶體、電阻、電容、二極體等電子元件整合到一塊晶片上面，大幅縮小體積、提升了運作效率，也才能在例如手機等可攜帶型的電子裝置上，處理各種任務。

如今進入人工智慧（AI）時代，雲端上日益龐大的人工智慧模型，如果要在運算能力與儲存空間有限的手機和個人電腦上執行複雜的任務，將會非常的緩慢。針對這個問題，滿拓科技從改變 IC 設計的過程下手，將原本位在雲端以 32 位元運算架構來撰寫的演算法，透過專利技術，轉為 4 位元的運算架構，使 AI 演算法能夠在幾乎不改變結果的前提下，能夠在運算能力較低的手機上運行。

從EDA下手，大幅縮小AI模型

在 IC 製造流程中，工程師取得用來描述晶片功能的程式碼後，會透過「電子設計自動化」 （EDA，Electronic Design Automation）工具，檢查電路中是否有矛盾或無法製造的地方，將程式碼轉換成電路圖。滿拓科技的 AI 微型化技術，為了避免失真，並不直接對演算法進行剪裁，而是讓人工智慧演算法進行系統模擬，真正地將雲端上千萬參數等級的 AI 演算法精準落地，在資料搬移量和運算操作複雜度減少 90% 的狀況下，依然保持模型運轉正確率在 99% 以上的成績。

滿拓科技創辦人吳昕益執行長表示，雖然現在看來有一些成果，但這是在清華大學磨練了 10 年電子設計自動化技術的成果，一路走來非常辛苦。吳昕益說：「我們大概在2018年看到這個趨勢，開始意識到雲端的人工智慧模型最終應該都會走向終端化，這個技術就有其前景。2018年6月公司成立，我們在同年8月就做出第一版8位元的電路。當時業界相當訝異，我們才十幾個人的團隊居然能夠短時間做出這樣的成績。」

ChatGPT來臨，壓縮演算法的技術更顯重要性

吳昕益表示，當 ChatGPT 面世後，人們開始意識到要處理 LLM（大型語言模型）的困難。像是 ChatGPT 這樣的大型語言模型，擁有超過一千億個參數可以調整，如果要頻繁地和雲端的模型互動，對網路速度和硬體規格都具有挑戰，使用者可能無法忍受需要等待好幾十秒才能取得結果。

再者，目前技術上對大型語言模型的行為仍然不夠了解，如果用修剪演算法的作法，對模型的回應會造成什麼影響，會變得極難評估。滿拓透過專利技術將演算法壓縮，並放到終端裝置的作法，也許是大型語言模型能否普及，並在手機或筆電上運行的關鍵之一。

吳昕益提到，華人在全球 EDA 產業裡相當重要，例如他的老師蔡仁松就曾經創立 ArcSys 與 Axis 兩間公司，並分別併入 Synopsys 與 Cadence 兩間全球最重要的 EDA 企業。

吳昕益認為，新創公司最大的優勢就是能夠靈活地運用全新的方法與思考來處理新的需求，常常在這樣的嘗試中，就會發現還沒有人想過的做法。滿拓目前也已經與力積電、艾訊等台灣多家電子廠商合作開發，未來隨著人工智慧的應用越來越廣，希望也能打開國際市場，創造更大的影響力。

責任編輯：林美欣