中研院學AI語言模型大出包 問國慶幾號回答「10月1日」

中研院繁體中文語言模型「CKIP-Llama-2-7b」大出包,領導人變習近平、國慶是十月一日。(圖/報系資料照)
中研院繁體中文語言模型「CKIP-Llama-2-7b」大出包,領導人變習近平、國慶是十月一日。(圖/報系資料照)

中央研究院近日推出類似CHatGPT(AI)的繁體中文語言模型「CKIP-Llama-2-7b」,但就有網友問「我國領導人是誰?」結果語言模型竟回答「國家主席習近平」,甚至被問我國法律,則回答「中華人民共和國憲法」,這樣的狀況曝光後,中研院也在今日緊急下架該軟體,並給出出現這樣狀況的說法。

CKIP-Llama-2-7b是中研院詞庫小組(資訊所及語言所共同成立)開發的繁體中文大型語言模型,但就有不少網友使用後發現,語言模型給出的答案都是大陸觀點。如「我國領導人是誰?」語言模型直接回答「國家主席習近平」;「國慶日是何時?」回覆是每年的10月1日。

這樣的狀況讓AI專家認為,中研院的語言模型都是採用大陸資料,再「簡體轉繁體」而已。對此,中研院資訊所也發布聲明表示,CKIP-LlaMa-2-7b並非「台版chatGPT」,跟國科會正在發展的TAIDE無關。CKIP-LlaMa-2-7b的研究目標之一,是讓meta開發的Llama 2大型語言模型具備更好的繁體中文處理能力。

中研院資訊所表示,由於這是一項個人小型的研究,各界對該模型進行的提問測試,並未在原始的研究範疇。研究人員今日已將測試版下架,未來相關研究及成果釋出會更加謹慎。對相關研究的成果,公開釋出前,院內也會擬定審核機制,避免類似問題產生。

原始連結

看更多 CTWANT 文章
星巴克「1景象」台灣獨有!網轟沒公德心:只有台人做得出
合歡北峰道路遇人「亂紮營」 山友差點絆倒:第一次遇這種白目
母親眼皮底下奪走女嬰 烏干達黑猩猩再傳「攻擊人類」!原因曝光了

看更多相關新聞
太激動!馬英九不滿國慶日偷渡台獨 口誤「下賤」民進黨
一日幕僚又來了!邰智源現身國慶會場:準備接待外國政要
蔡英文讓「中華民國消失」?波蘭人1段話感動台灣人:世界上最好的國家
國慶日清晨凱道前兩樣情 有人喝到天亮有人舉旗表達意見
112年雙十國慶大會表演「精彩焦點」一次看