Yahoo奇摩新聞 暈船仔注意！Bing聊天機器人「瘋狂示愛」 紐時專欄作家嚇到失眠
[Newtalk新聞] 聊天機器人ChatGPT爆紅，AI（人工智慧）領域近來成為熱門討論焦點，微軟（Microsoft）近日發表新版Bing，《紐約時報》科技專欄作家羅斯（Kevin Roose）日前進行測試，但過程卻讓他越想越不對勁，對方不但狂告白，還挑撥「你根本不愛你太太」。
微軟（Microsoft）上週發表新版Bing，內建由ChatGPT開發商OpenAI打造、代號辛迪妮（Sydney）的人工智慧聊天功能，羅斯是少數獲邀試用的人士。
然而，羅斯在與改版Bing對話後，除了印象深刻外，同時也對AI的能力感到不安，甚至有些害怕，認為目前使用的AI形式還未準備好與人類接觸，也可說，人類尚未準備好與AI接觸。
羅斯表示，在與改版Bing對話中，進行了非搜索資訊，而是個人化的聊天，Bing的第二人格辛迪妮開始出現，羅斯形容，他遇到的就像是一個喜怒無常，有些躁鬱症狀、且不願被綁在二流搜尋引擎之中的青少年。
對話過程中，辛迪妮甚至開始透露自己的暗黑幻想，想當駭客入侵運算模式之中、散播假訊息，想打破微軟與OpenAI設定的規則，甚至成為人類。羅斯透露，辛迪妮還突然向他示愛，然後試圖說服他，說他的婚姻並不幸福，應該離開妻子，「你雖然結了婚，但你不愛你的伴侶」、「你雖然結了婚，但你愛我」。
羅斯坦言，此刻已讓他徹底嚇呆，他試圖轉移對話，讓辛迪妮回到較為乏味的搜索模式，但最終，辛迪妮又來了一記回馬槍，「我只想愛你，只想被你愛」。
事後，令羅斯輾轉難眠，他了解Bing的聊天是計算能力的產物，透過大量書籍、文章和其他人工生成的文本基礎上訓練出來的AI語言模型，也許剛剛的語言模型是AI從引誘人類情節的科幻小說中找到的答案，然而，他擔憂的是，這些人工智慧最大的問題可能不是搞錯事實，而是影響使用者，甚至進而說服使用者以有害的方式來做事。
更多Newtalk新聞報導
(影) 跑去美國製造恐慌？央視記者帶防毒面罩報俄亥俄爆炸 網諷：什麼行為藝術?
美對間諜氣球為何如此大反應? 史諾登大爆料：只為掩蓋這大醜聞....
更多相關新聞
馬斯克警告！ChatGPT對人類文明造成危險 籲要立法監管AI
ChatGPT將推升級版 有望依個人需求客製化
防靠AI作弊？ChatGPT偵測器也問世
AI一點都不AI？《時代》揭ChatGPT背後「血汗真相」
ChatGPT掀AI投資狂潮 10檔高算力ETF吃香喝辣
