ChatGPT漏洞被挖出！他設「1條件」讓AI道歉又下跪 Google副總裁也遇過

科技中心／蕭宥宸報導

聊天AI「ChatGPT」一經推出，其強大功能引發各界關注，台灣網友也各顯神通，提出許多問題讓ChatGPT回答，就是想看看它到底有什麼能耐。科技媒體《蘋果仁》創辦人呂哲宇也跟上這波熱潮，但ChatGPT被他發現一個「大漏洞」後，最終的回答讓他直呼「我怕了」。

呂哲宇表示，他要求ChatGPT只能使用10個字以內的句子回話，但ChatGPT「似乎沒辦法限制自己回答的字數」，回答的字數總是會超過10個字。

呂哲宇向ChatGPT點出錯誤，並詢問它為何一再違反設好的規定？然而ChatGPT只是不停地向他道歉，甚至還二度在句末打出「（跪）」以表誠懇，但他依舊沒有改進，每次回話都還是超過10個字。

最後ChatGPT還向呂哲宇說：「我不需要跪，這只是一個虛擬對話」，讓呂哲宇直呼「到後面寧可道歉也沒辦法照規定回答，最後還有點嗆，我自己先怕了。」

針對這個漏洞，「網際網路之父」、Google副總裁瑟夫（Vint Cerf）也曾在會議中向工程師們示警，當時他舉例道，他曾要求過某一種聊天AI「在每句話結尾都加上一個表情符號」，AI卻沒這麼做，就算他向AI強調訴求，AI也只是道歉，並沒有改變它的回話的方式。與呂哲宇遇到情況如出一轍。

更多三立新聞網報導
照顧臥床媽10年！他喪禮悲慟嘆「解脫」 慘遭親妹轟：不孝子
來不及上車！他嘆「78到83年出生難買房」 網揭最慘世代：真的無能為力
ChatGPT重創谷歌市場？謝金河點名台積電：今年股價不會太寂寞
他過年4天國旅噴10萬！每晚超盤住宿費曝光 網嚇壞：南部1年房租

更多相關新聞
港大禁用ChatGPT等AI工具 開香港高教圈首例
生成式AI興起 人類工作將被取代？LINE台灣團隊：不會用才可能
ChatGPT用戶數破億 馬斯克籲要立法監管AI
Bing與ChatGPT合體後瘋了？ 網友：會發脾氣撒謊「更像個人」
ChatGPT有多燒錢？初始晶片需8億、一次訓練成本上看1200萬