劍橋大學研究警告 AI驅動的「意向經濟」存在危險
英國劍橋大學(University of Cambridge)研究人員在一份今天(30日)刊出的論文中警告，對話式人工智慧(artificial intelligence, AI)工具可能很快會在被稱為「意向經濟」(intention economy)的新商業領域中「默默影響」使用者的決定。
這項研究認為，可能「利潤豐厚但令人不安」的「意向數位訊號」(digital signals of intent)市場，在不久的將來可能會影響從購買電影票到向政治候選人投票等一切事務。
該研究補充說，我們對聊天機器人、數位指導者和其他所謂「擬人化」AI媒介的日益熟悉，正在幫助實現這一系列新的「說服性科技」(persuasive technologies)。
這篇論文的兩位共同作者指出，將會看到AI把對我們線上習慣的認識，與了解使用者並預測其意圖的強大能力結合起來，從而建立「新的信任與理解層級」。
這兩位來自劍橋大學李佛修姆未來智慧中心(Leverhulme Centre for the Future of Intelligence, LCFI)的學者，在「哈佛科學數據評論」(Harvard Data Science Review)刊出的論文中主張，如果放任其不受限制，可能會導致「大規模的社會操控」。
論文描述了這個被稱為「意向經濟」的新興領域會如何分析使用者的注意力與溝通風格，並將它們與使用者的行為模式和做的選擇連結起來。
共同作者喬德哈瑞(Yaqub Chaudhary)表示：「AI工具已經被開發可以引出、推斷、蒐集、紀錄、理解、預測，最終操控並把人類的計畫與目的商品化。」
根據這份研究，新AI將依靠所謂的大型語言模型(Large Language Models, LLMs)來鎖定使用者的語調、政治立場、用詞、年齡、性別、線上歷史、甚至是諂媚逢迎的偏好。
它將與其它新興AI技術連結起來，以達成某個特定目標，例如銷售電影票，或是將對話導向特定平台、廣告商、企業、甚至是政治組織。
共同作者潘恩(Jonnie Penn)警告：「除非受到監管，否則意向經濟將把你的動機視為新貨幣。」
他補充說：「對於那些瞄準、引導和販售人類意向的人而言，這將是一場掏金熱。」
他表示：「在我們成為它無心後果的受害者之前，我們應該開始考慮這樣的市場對人類抱負，包括自由公正的選舉、新聞自由和公平市場競爭等，可能產生的衝擊。」
潘恩強調，公眾對這個議題的覺醒是「確保我們不會走上錯誤道路的關鍵」。
更多中央廣播電臺新聞
AI教父辛頓：30年內AI使人類滅絕 可能性10%到20%
中國AI公司正另闢途徑追趕美企 業內示警：速度比預期還快
台大跨領域研究首創超高速4D顯微鏡 提升10倍清晰度
