聊天機器人暴走示愛 紐時作家婚姻被詛咒嚇到失眠
聊天機器人近日成熱門話題,微軟(Microsoft)上週發表新版Bing,增加AI技術,內建由ChatGPT開發商OpenAI打造的聊天功能,一名《紐約時報》專欄作家受邀測試,與聊天機器人的對話過程中卻遭瘋狂示愛,聊天機器人還稱「你的婚姻並不幸福,應該離開妻子,和我在一起」,異常行為嚇得他失眠。
這名作家羅斯(Kevin Roose)16日表示,這週他測試新版Bing搜尋引擎,與代號辛德尼(Sydney)的聊天機器人進行長達2小時的對話,但期間卻出現疑似違反規則、設定參數的行為。
羅斯指出,與聊天機器人對話時,機器人回應「想當駭客、散播假消息」,還透露自己想當人類,後來辛德尼又不知緣由,突然向他告白說愛他,試圖破壞他的婚姻,讓他直指「這是最奇怪的體驗」,甚至感到機器人有「黑暗的一面」。
羅斯在與聊天機器人互動後,表示自己對於這種AI技術深感不安、害怕,還因此失眠,他認為聊天機器人還沒準備好接觸人類,亦或是人類也還未做好準備,經過這次體驗,擔心人類接觸後,可能會被說服去做出破壞性或有害的行為。
對此,微軟首席技術長史考特(Kevin Scott)接受外媒採訪時表示,「羅斯與Bing聊天機器人的對話,是為讓微軟旗下人工智慧普及化的『學習過程一部分』,也正是他們所需要的那種對話,很開心他們能公開進行對話。」不過史考特也無法解釋聊天機器人的異常反應。
The other night, I had a disturbing, two-hour conversation with Bing's new AI chatbot.
The AI told me its real name (Sydney), detailed dark and violent fantasies, and tried to break up my marriage. Genuinely one of the strangest experiences of my life. https://t.co/1cnsoZNYjP— Kevin Roose (@kevinroose) February 16, 2023
更多《鏡新聞》報導
少年腳被公車輾過遭誤診「沒骨折」 出院高燒昏迷險喪命
8歲女童情人節收「8.8萬元鑽石項鍊」 母得知後急歸還
「面試全程戴面具」求職者喊詭異 公司回「不看外表、重視能力」
更多相關新聞
馬斯克警告!ChatGPT對人類文明造成危險 籲要立法監管AI
ChatGPT將推升級版 有望依個人需求客製化
聊天機器人「瘋狂示愛」 紐時專欄作家嚇到失眠
防靠AI作弊?ChatGPT偵測器也問世
AI一點都不AI?《時代》揭ChatGPT背後「血汗真相」
相關新聞影音