微軟副總裁:AI聊天機器人勿編造答案 必須學會求助

生成式人工智慧(Generative AI)工具雖然能為企業節省大量時間和金錢,但微軟公司(Microsoft)副總裁辛赫(Vik Singh)坦言,模型還不會承認自己並非無所不能,現在真正缺少的是,會有模型舉手說「嘿,我不確定,我需要幫助」。真正聰明的人正試圖尋找方法解決這問題。

FILE - Text from the ChatGPT page of the OpenAI website is shown in this photo, in New York, Feb. 2, 2023. About 900 software developers and other attendees showed up to the inaugural developer conference for the artificial intelligence company behind ChatGPT Monday, Nov. 6, 2023 embracing a Silicon Valley tradition for technology showcases that Apple helped pioneer decades ago. (AP Photo/Richard Drew, File)
微軟、谷歌及競爭對手近來迅速推出類似ChatGPT的生成式AI應用程式,這些應用程式可以依據要求生成各種內容,給予用戶一種無所不知的錯覺。(美聯社資料照)

從去年以來,微軟、谷歌(Google)及其競爭對手一直迅速推出類似ChatGPT的生成式AI應用程式,這些應用程式可以依據要求生成各種內容,給予用戶一種無所不知的錯覺。

儘管取得了進展,生成式AI應用程式依然「產生幻覺」或編造答案。

這是微軟高層需要解決的重要問題,辛赫的企業客戶無法承受微軟AI系統出包的後果。

雲端軟體巨擘Salesforce執行長班紐夫(Marc Benioff)近日指出,他看到許多客戶對微軟人工智慧輔助工具Copilot的胡言亂語愈來愈感到沮喪。

辛赫堅稱,「真正聰明的人」正試圖尋找方法,讓聊天機器人承認「它不知道正確答案,並尋求幫助」。