2024台灣AI大賞｜耐能讓AI像樂高積木般組合，獲高通、鴻海、台達電等一票大廠力挺

回顧電腦結構的演變，從 CPU 到 GPU，再到 NPU，每一次技術革新都帶來了運算能力的跳躍式進步，推動了數位時代的發展，也讓電腦系統更加現代化，符合當代需求。

CPU（中央處理器）是電腦系統的核心，負責執行指令和處理數據。

GPU（圖形處理器）則擁有大量的核心，可以同時執行多個運算任務，因此相較於CPU，在平行運算上表現更為出色，適合處理大量簡單且獨立的運算任務。

但隨著AI技術的進一步發展，CPU和GPU雖然能夠處理AI任務，但速度和能源效率上顯然有更多進步的空間。為了解決這些問題，NPU應運而生。

NPU（神經網絡處理器）是專為神經網路計算設計，擅長純量、向量和張量的數學運算，可以大幅提升AI模型的訓練和推理效率。NPU 在硬體層面上進行了深度優化，特別適用於邊緣運算和 AIoT 設備。這些特點使得NPU成為未來AI發展的重要推動力。

AI晶片開發新創「耐能智慧」的NPU晶片，具備低能耗、高隱私性和彈性客製的特性，在這波AI浪潮大放異彩。

曾經慘澹的職涯，卻成如今競爭優勢

耐能創辦人兼執行長劉峻誠，如今驕傲地拿著印有耐能標誌的NPU展示，但這一路走來可不容易。

從成功大學畢業後，劉峻誠獲得美國雷神公司（Raytheon）獎學金和加州大學獎學金，赴美深造，就讀美國加州大學柏克萊、洛杉磯與聖地牙哥分校的共同研究計劃的碩博班，並順利取得加州大學(UCLA)電子工程博士學位。

本以為接下來會一帆風順的經歷，卻遇上了雷曼兄弟金融危機，找了三、四十個公司都沒能成功找到工作，甚至一度想要放棄回臺灣。但他一路從接 Nokia 的外包工作開始，進到韓國三星、臺灣晨星、美國高通歷練，練就了一身的技能。也正是在軟硬體的完整經歷，讓他看到了時代的機會，興起開始打造NPU的念頭。

2015年創立的耐能，研發了「可重構NPU」（Reconfigurable Artificial Neural-network Processing Unit，可重構神經網路處理器），專門應用於 AI 邊緣運算。

所謂的可重構NPU，是一種具有特定功能的處理器，能夠支援 Transformer 神經網路架構，由於在AI的應用上具有比GPU更平價、更節能、體積小、即時推理速度快、低延遲等優點，適合放在有生成式AI功能的終端裝置上，滿足智慧城市、智慧家居等特定應用場景的需求。

ChatGPT橫空出世，讓「可重組式架構技術 NPU」獲得關注

「其實也才兩年前，如果你當時去跟人講 AI，每個人都還是會問你那是什麼？」劉峻誠說，「但 ChatGPT 出來之後，所有人都在問『我要怎麼趕快導入』？」臺灣是全球晶片製造最重要的聚落之一，但即便是在臺灣，有著高通、紅杉資本、中華開發、鴻海、華邦電、台達電、光寶等大廠投資的耐能，能夠獲得如此力挺，依然是非常特殊的存在。

「一般的 AI 晶片是針對特定領域的應用開發，可能是影像辨識或是語音辨識等等。」劉峻誠解釋，但耐能的 AI 晶片設計，可以透過組合的方式，讓客戶基於不同的需求搭建出需要的硬體，在性能、功耗、靈活性等晶片的關鍵指標間取得更好的平衡。

耐能將「可重組式架構技術」晶片比喻成一堆樂高積木，當需要支持語音 AI 的模型時，可以透過指令集進行重組；當需要支持圖像的 AI 模型時，也能再次重新組合，就能夠支援多種神經網絡模型，並保持架構的精簡，使 NPU 相較 GPU ，在處理 AI 模型的運算時，有性能和功耗上的優勢。這樣的技術不只是業界關注，就連工程學界的最高殿堂 IEEE 也在 2021年授予耐能電機電子工程學會達靈頓獎( IEEE CAS Darlington )，認可了這項革命性的改變。

劉峻誠發願：耐能要讓「人工智慧無所不在」

目前耐能鎖定五大領域的 AI 應用：終端伺服器、自動駕駛車用晶片、安控設備、智慧製造，以及 AIoT。像是國際安控大廠韓華、研華、廣達、Toyota 等都是耐能的客戶。目前全年的出貨量已經來到 400 萬顆晶片，累計出貨的晶片已經超過一億顆。

他也提到，未來自動駕駛一定會是車用晶片上重要的趨勢，目前耐能除了打進鴻海的MIH電動車開放平台外，2023年也收購台達集團VIVOTEK（晶睿通訊）旗下子公司OTUS（歐特斯），為了下個世代在車用情境的AI影像處理做好準備。

為了讓AI運算更加普及，耐能同時佈局了消費型的產品，例如即插即用的 AI Dongle，能夠立刻提升使用AI模型的能力，讓開發者的主機設備以及許多原本運算 AI 較為吃力的電腦設備進行推理加速。「我們的 AI Dongle 支援市面上大部分的常用框架，透過這個方式使用者能夠用平價的設備、很低的功率就能用離線的方式，即時分析、測試和部署深度神經網絡，對很多學校做教育推廣是有誘因的。」劉峻誠說。

投入AI教育，回饋臺灣人才

「臺灣有著全球最重要的硬體製造產業鏈，在 AI 時代有很大的機會。」劉峻誠說，「我們也是在這樣的環境下，才能夠離產能最近，得到很多大廠的支援。」他提到，臺灣這幾年的人才結構也開始有了改變，越來越多的年輕工程師願意投身新創，真的打破格局做很多嘗試。「雖然待在臺灣，要跟臺灣的半導體業競爭人才，真的不容易。」他笑說，這也鼓勵著耐能在未來會朝著上市的方向邁進，希望能夠藉由這樣吸引更多厲害的人才。

如今已經轉換步伐，持續快速發展的耐能，也不忘投入對臺灣的AI教育。耐能在 2020 年就投入KNEO平台，這個平台上可以讓很多AI開發者上傳相關應用，讓其他使用者下載使用，讓台灣更多中小型企業在一開始做AI轉型的時候，先了解如何使用AI，不需要去思考 AI 團隊編制與開發的時間，加速AI技術的民主化。

劉峻誠認為，面對未來，AI 教育非常重要，應該持續推廣，「相較於全世界的晶片大廠，耐能還是一家很小的新創公司，我們只能用有限的資源繼續推廣 AI 和 NPU，希望很快能有更多企業和使用者能夠了解如何使用 AI！」