OpenAI攻企業AI最大敵手、輝達也投資！獨角獸新創Cohere靠「小而精」模型取勝

談起AI新創，OpenAI無疑是最大的一隻獨角獸，但在企業AI的領域，正面臨一個規模較小卻強大的敵人──Cohere。

2022年底開始，生成式AI讓市場開始擺脫「新創寒冬」的陰霾，孵出13隻預估市值超過10億美元的獨角獸，其中估值前三名的公司OpenAI、Anthropic、Inflection，競爭的都是大型語言模型和聊天機器人產品的領域，但緊追在後的Cohere，鎖定的不是一般2C用戶，而是更窄的2B企業領域。

靠著獨特的商業模式，Cohere快速獲得市場的關注，在今年6月宣布取得2.7億美元的C輪融資，估值達到22億美元，其中投資人陣容一字排開，包括輝達（NVIDIA）、甲骨文（Oracle）、Salesforce等矽谷巨頭。今年8月，美國科技媒體《The Information》又報導Cohere正準備啟動新一輪融資的消息，估值可望衝上30億美元。

Cohere在做什麼? 優勢是什麼？

雖然目前居於AI新創估值第四，Cohere仍然被視為OpenAI的強勁對手，因為Cohere鎖定了OpenAI虎視眈眈的「企業AI」這條相對狹窄的賽道，並且和OpenAI龐大的模型相反，採用更小的參數、更大的客製化彈性來打天下。

這種模式更容易取得企業客戶的信任，例如和企業深度合作的顧問諮詢公司麥肯錫（McKinsey）就選擇Cohere做為首家合作的LLM廠商。「客戶在AI領域考慮的是成本、智慧財產權保護和消費者隱私，我們發現Cohere是最好的解決方案之一」麥肯錫高級合夥人班．艾倫維格（Ben Ellencweig）在《路透社》的採訪中提起關鍵優勢，也是Cohere鎖定的企業痛點。

優勢1：更小的模型，導入彈性高

在成本方面，Cohere的優勢在於「小而精」的模型，供企業挑選使用，代表模型不需要什麼都懂，只要在至少一個專門領域變成專家就可以。比起其他LLM動輒千億以上的參數量和萬張GPU的資源，成本效益更高，讓資源有限的企業選擇自己想要的應用購買服務。

Cohere鎖定企業三大領域AI應用
◆文本生成：摘要文件內容的Summarize、生成文字敘述的Generate、能加入數據客製化訓練的Command Model
◆文本檢索：快速評估文件品質的Embed、可以用文字含意查詢的搜尋工具Semantic Sea問字rch、用語義搜尋並為搜尋結果排名的Rerank
◆文本分類：自動標記並分類不同文字內容的Classify

只專精在三大領域，就像只賣三種料理的餐廳，出菜快速又好吃。

丹佛大學的HELM語言模型評估就顯示，Cohere旗下規模最大的文本生成模型Command，只用520億個參數訓練，準確性表現卻比3倍大參數的知名模型都更好，其中也包括OpenAI用了1750億個參數訓練的GPT-3。

因為模型小，就算部署在企業內部的資料中心也不用消耗太多資源，Cohere甚至直接在官網標題寫下「可擴充、可負擔的AI價格」（Scalable, affordable AI Pricing），讓便宜和彈性成為吸客優勢。最低價的Embed模型每百萬個Token（文本最小單位）只要40美分，最高價的自定義模型Command Model則是每百萬Token 30美元。至於OpenAI在價格調降後，GPT-4每百萬Token輸入加輸出整套服務是40美元。

優勢2：安全性和隱私保護

在資料保護方面，Cohere的優勢在於多元的部署環境，除了大型雲端廠商AWS、Google等選項，也可以選擇放在Cohere的資料中心，但若是資料太機密，無法經手其他公司，也可以選擇放在私有雲或地端，也就是企業自家的資料中心或伺服器中運行。

能夠提供企業多種選項，Cohere自詡為一家「中立的服務提供者」，因為比起OpenAI和微軟深度綁定的模式，Cohere的客戶有更多彈性根據需要選擇部署環境，擁有完全數據控制權，即使是不信任AI，或者不願意讓自家產業秘密被餵給AI模型的公司，都有機會選用Cohere的服務。

小參數模型、大廠人脈支援，解決GPU難題

身為新創，Cohere在創立初期的GPU等基礎建設資源，都難以和微軟等大廠相抗衡，於是靠著小參數模型策略，不只降低前期GPU用量，同時也解決企業導入AI時GPU消耗量的問題。

鎖定企業級AI的策略也讓Cohere獲得志同道合的科技大廠支持，包括商用軟體巨頭甲骨文和Salesforce，以及幾乎獨霸市場的AI GPU提供商輝達都下手支援。

其中輝達在AI崛起後，開始大手筆在新創領域「下注」，緊跟市場最創新的服務和最熱門的應用，自2018年以來，輝達參與的前5大創投交易都發生在今年，而Cohere是這波最大動作的投資，一年內投注兩次。

獲得輝達的奧援，等於具備在AI時代最需要的「人脈」Cohere有機會比同期新創更容易獲得AI時代最必要的資源，例如Cohere在10月就宣布導入NVIDIA推理伺服器Triton，指出「能最大限度地發揮NVIDIA GPU的潛力」，降低模型推理的延遲度，也能提高整體資料處理量。

在不斷攀升的GPU成本下，AI幾乎已經變成資本密集的產業，台灣AI新創滿拓科技創辦人吳昕益更形容這是一場「大公司才能玩得起的遊戲」。Cohere鎖定小而精的商業模式，讓資源有限的中小企業、新創，也有機會掌握AI力量。

延伸閱讀：GPU太難買，又想導入AI怎麼辦？軟體技術助攻AI商機，三招優化GPU！

責任編輯：林美欣