GPT-3.5 Turbo支援微調,你的AI將更客製化!OpenAI:某些任務比GPT-4強

OpenAI宣布,用戶現在可以將自定義的數據資料加入GPT-3.5 Turbo,而這也是OpenAI系列中功能最強大且最具經濟的模型。官方聲稱,在某些特定任務的表現上,經過微調後的GPT-3.5 Turbo,甚至可以擁有超越GPT-4的能力。

自定義數據資料,能夠為GPT-3.5 Turbo帶來什麼改變?

OpenAI的官方部落格指出,自GPT-3.5 Turbo發布以來,開發者和企業一直要求能夠自定義該模型,為用戶創造獨特和差異化的體驗。此次加入微調功能的更新,讓開發者能夠自定義更適合其狀況的模型,並大規模運作。

延伸閱讀:ChatGPT大更新,能輸入20頁文件、GPT-4、GPT-3.5都進化!六項更新一次看

《TechCrunch》指出,透過微調功能,GPT-3.5 Turbo的使用者可以使模型在遵循指令上有更好的效果,例如總是以特定的語言回答問題,或是提升模型的能力,以便回答更加標準化,這對於需要特定格式的應用程式來說至關重要。此外,也可以調整模型輸出的「感覺」,使其更符合企業的形象需求。《The Verge》亦指出,經過這樣「訓練」後的模型,將使聊天機器人成為每間公司獨一無二的工具,從而以特定語言或更簡潔的措辭提供可靠的回覆。

 圖/Zac Wolff on Unsplash
圖/Zac Wolff on Unsplash

微調還能讓用戶縮短每次「詠唱」時的文字提示(Prompt),以加快API呼叫時間並降低成本。OpenAI宣稱,「早期測試人員透過將指令微調到模型本身,將提示詞的長度減少90%。」而微調在與其他技術結合時效果最為強大,例如提示工程、資訊檢索和函數調用等等。

延伸閱讀:GPT-4跟GPT-3.5差在哪?免費和付費方式怎麼用?詳解ChatGPT原理

GPT-3.5 Turbo微調所費不貲,用戶都會買單嗎?

OpenAI官方將微調功能的價格分為訓練成本與使用成本:

官方公告定價

價格

Tokens

訓練階段

$0.008

1K Tokens

使用輸入

$0.012

1K Tokens

使用輸出

$0.016

1K Tokens

舉例來說,假設進行了一個GPT-3.5 Turbo的微調任務,使用了一個包含100,000個tokens的訓練檔案,進行了3輪的訓練,預計的成本將會是2.4美元。而這樣的價格也引起用戶的討論,Y Combinator旗下新聞聚合網站《Hacker News》的用戶便在評論中指出,從經過微調的GPT-3.5 Turbo生成內容的成本,是從基本模型生成的成本的8倍,所以真的要確保能夠符合「將提示詞減少9成」的情況才有辦法獲利。

 圖/Canva
圖/Canva

但同時有觀點指出,相較於GPT-3.5 Turbo,GPT-4的成本要高出20至30倍。依目前的能力來看,雖然GPT-3.5 Turbo還是無法取代GPT-4,但外媒《Decrypt》認為對於這樣的功能來說,溢價是值得的。

GPT-4也會持續更新

《Decrypt》指出,隨著生成人工智慧(AI)霸主地位的爭奪戰愈演愈烈,「客製化」可能是OpenAI的下一個護城河。官方也提到今年秋天也將針對GPT-4加入微調功能,屆時還將支援函式呼叫(Function Calling)和GPT-3.5 Turbo-16k(能處理更大量文字的模型,約為GPT-3.5 Turbo的4倍)的微調。

延伸閱讀:細看GPT-4,還有14個驚人細節!這項特徵為何令人背後一涼?

資料來源:OpenAITechCrunchDecryptThe Verge

責任編輯:陳建鈞、林美欣

更多報導
GPT-4顛覆內容審查:6個月的工作量,AI一天完成!是臉書的最佳助手?
OpenAI收購這家新創,跟涼掉的元宇宙有關?拆解奧特曼心中的一盤大棋