【阮嗣宗專欄】聊天機器人確實會改變人們的想法

海倫娜·庫迪亞博爾 Helena Kudiabor發表在最新一期權威期刊《自然》(Nature)的<這個人工智慧聊天機器人讓陰謀論者質疑他們的信念>( This AI chatbot got conspiracy theorists to question their convictions)說，大語言模型試驗顯示事實和證據確實可以改變人們的想法。（Large-language-model trial suggests facts and evidence really can change people’s minds.）
在英國倫敦舉行的「世界自由集會」抗議活動中，一名手持照明彈的抗議者舉著標語，呼籲人們「醒來」。研究人員已經證明，人工智慧（AI）可以成為對抗陰謀論的寶貴工具，透過設計一個聊天機器人可以揭穿虛假資訊並讓人們質疑他們的想法。

在動盪的世界中渴望安全和確定性
在9 月1日《科學》雜誌上發表的一項研究中，參與者花了幾分鐘與聊天機器人互動，聊天機器人提供了詳細的答案和論點，並經歷了持續數月的思維轉變。這結果顯示事實和證據確實可以改變人們的想法。
「這篇論文確實對許多有關我們生活在後真相社會的現有文獻提出了挑戰，」澳洲布里斯班昆士蘭科技大學研究陰謀論和錯誤訊息的凱瑟琳·菲茨杰拉德說。
先前的分析表明，人們之所以被陰謀論所吸引，是因為在動盪的世界中渴望安全和確定性。但“我們在這篇論文中發現的內容與傳統的解釋相悖”，該研究的合著者、華盛頓特區美利堅大學的心理學研究員托馬斯·科斯特洛說。 “這項研究的一個潛在的很酷的應用是你可以使用人工智能來揭穿現實生活中的陰謀論。”
有害的想法
調查顯示，大約 50% 的美國人相信陰謀論——從 1969 年登月造假到含有可實現大規模監控的微晶片的 COVID-19 疫苗。允許輕鬆共享資訊的社交媒體平台的興起加劇了這個問題。
菲茨傑拉德說，儘管許多陰謀不會產生太大的社會影響，但那些流行起來的陰謀可能「造成一些真正的傷害」。她以 2021 年 1 月 6 日美國國會大廈遭到攻擊（部分原因是 2020 年總統選舉被操縱）以及影響 COVID-19 疫苗接種的反疫苗言論為例。
說服人們改變想法是可能的，但這樣做可能既耗時又費力——而且陰謀論的數量和種類繁多，使得這個問題很難大規模解決。但科斯特洛和他的同事希望探索大型語言模型（LLM）的潛力——它可以快速處理大量資訊並產生類似人類的反應——來解決陰謀論。 「他們接受過網路方面的培訓，他們知道所有的陰謀，也知道所有的反駁，所以這似乎是一個非常自然的選擇，」科斯特洛說。
不管你信不信
研究人員使用 GPT-4 Turbo（位於加州舊金山的 ChatGPT 創建者）設計了一個客製化聊天機器人，經過訓練可以令人信服地反對陰謀論。然後，他們招募了 1000 多名參與者，這些參與者的人口統計數據在性別和種族等特徵方面與美國人口普查配額相符。科斯特洛表示，透過招募“擁有不同生活經歷並提出自己觀點的人”，團隊可以評估聊天機器人揭穿各種陰謀的能力。
對抗冠狀病毒錯誤訊息和陰謀論的史詩般的戰鬥
每位參與者都被要求描述一個陰謀論，分享為什麼他們認為這是真的，並以百分比的形式表達他們的信念強度。這些細節被分享給聊天機器人，然後聊天機器人與參與者進行對話，其中指出了破壞或揭穿陰謀的訊息和證據，並回答了參與者的問題。聊天機器人的回覆全面而詳細，通常達到數百字。平均每次談話持續約 8 分鐘。
該方法被證明是有效的：在與聊天機器人互動後，參與者對自己選擇的陰謀論的自評信心平均下降了 21%。 25% 的參與者從對自己的想法充滿信心（得分超過 50%）變成了不確定性。對於對照組來說，這種轉變可以忽略不計，他們與同一個聊天機器人交談的時間相似，但話題不相關。兩個月後的後續調查顯示，許多參與者的觀點轉變仍然存在。
儘管研究結果令人鼓舞，但研究人員指出，參與者是付費調查受訪者，可能不能代表深深相信陰謀論的人。
有效干預
菲茨杰拉德對人工智慧打擊陰謀的潛力感到興奮。 「如果我們能夠有辦法幹預並阻止線下暴力的發生，那總是一件好事，」她說。她建議後續研究可以探索評估聊天機器人有效性的不同指標，或使用具有不太先進安全措施的法學碩士來重複研究，以確保它們不會強化陰謀思維。
先前的研究引起了人們對人工智慧聊天機器人「產生幻覺」虛假資訊傾向的擔憂。這項研究確實避免了這種可能性——科斯特洛的團隊請專業事實查核人員評估聊天機器人提供的資訊的準確性，後者確認其所有陳述均不虛假或存在政治偏見。
科斯特洛表示，團隊正在計劃進一步的實驗來研究不同的聊天機器人策略，例如測試聊天機器人的反應不禮貌時會發生什麼。他們希望透過找出“說服不再起作用的實驗”，他們將更多地了解是什麼讓這項特定的研究如此成功。