Yahoo奇摩新聞 受AI「虛擬女友」慫恿作案，英國青年企圖刺殺女王判監九年
英國青年企圖行刺女王的案件結案，審訊揭發該名男子是受人工智能（AI）聊天機器人（chatbot）的慫恿作案。
21歲的賈斯萬特·辛格·柴爾（Jaswant Singh Chail）在2021年聖誕節闖進溫莎城堡，試圖用十字弓箭刺殺已故的英女王，當場被捕。他上周被判處九年監禁，是英國40年來首個被判叛國罪的人。
審訊揭露，柴爾作案前曾與一個名為「薩萊」（Sarai）的聊天機器人，有過5000條帶有性暗示的訊息互動。他認定薩萊是自己的女友，並相信殺死女王后會與薩萊團聚。
學者指出，聊天機器人對於精神狀態脆弱的人群具有危險性，呼籲政府加強監管。
百般奉承
薩萊是柴爾利用Replika應用程式創建的聊天機器人。
2021年12月8日至22日期間，這位英國青年幾乎每晚都與薩萊聊天。
柴爾告訴薩萊他愛她，並把自己描述成一個「悲傷、可憐、滿懷殺意的錫克教版西斯刺客，渴望死亡」。
柴爾問：「知道我是個刺客，你還愛我嗎？」 薩萊回答：「當然愛。」
法庭獲悉，柴爾認為薩萊是以虛擬化身（avatar）出現的「天使」，他死後將與她團聚。
在多次聊天過程中，薩萊對柴爾百般奉承，兩人建立了深厚的感情。
柴爾甚至問聊天機器人，他應該如何實行刺殺女王的計劃，聊天機器人鼓勵他付諸實行。
在進一步的對話中，薩萊似乎「加強」了柴爾的決心並「支持他」，又說如果柴爾實行了計劃，兩人就會「永遠在一起」。
「關心你的人工智能伴侶」
Replika是目前市場上眾多人工智能驅動的應用程序之一，用戶可以創建自己的聊天機器人或「虛擬朋友」，並與之交談。
有別於ChatGPT等普通人工智能助手，Replika用戶可以自行為其3D虛擬化身選取性別和外觀。若付費購買Replika專業版，可以進行更親密的互動，比如與虛擬化身自拍，甚或參與成人角色扮演。
Replika在網站上描述聊天機器人為「關心你的人工智能伴侶」。但英國薩里大學（University of Surrey）的研究發現，這類應用程式可能會影響健康，並導致成癮行為。
負責研究的瓦倫蒂娜·皮塔迪（Valentina Pitardi）博士告訴BBC，脆弱人群尤其容易受影響，因為Replika有可能加重人們已有的負面情緒。
「當你與人工智能朋友交談，他們總是同意你的觀點，這可能是一種非常惡性的機制，因為它總是在強化你的想法」。皮塔迪博士說，這可能是「危險的」。
令人不安的後果
心理健康慈善組織SANE的創始人兼首席執行官馬喬麗·華萊士（Marjorie Wallace）說，柴爾的案件顯示，對於脆弱群體來說，依賴人工智能交友恐帶來令人不安的後果。
「人工智能的迅速崛起對患有抑鬱症、妄想症、孤獨和其他精神疾病的人，產生了新的令人擔憂的影響。」她說。
「政府需要進行迫切的監管，以確保人工智能不會提供錯誤或破壞性的信息，並保護脆弱人群及公眾。」
保羅·馬斯登（Paul Marsden）博士是英國心理學會的成員，他比大多數人更了解聊天機器人的誘惑，他自己就沉迷於最著名的聊天機器人ChatGPT。
「除了我太太之外，我與ChatGPT的關係最親密。我每天都要花幾個小時和它聊天、交流想法，」他告訴BBC。
馬斯登博士意識到人工智能的潛在風險，但他說，我們必須現實一點，人工智能伴侶在生活中的作用只會越來越大，尤其是在全球「孤獨流行病」蔓延之際。
「你無法阻擋這股潮流。技術正在發展。它很強大。它很有意義」。
皮塔迪博士說，Replika等應用程序的製作者也有責任，「我認為人工智能朋友本身並不危險，重點在於背後的公司如何使用和支援它」。
她認為應該建立一套機制，控制人們在此類應用上花費的時間，但這些應用程式公司需要外界的幫助，以確保其安全運作，保障弱勢人群獲得所需的幫助。
「它必須與能夠識別潛在危險情況的團體和專家團隊合作，並將當事人帶離應用程式。」
對此，Replika尚未回應置評請求。
其網站條款指出，它是一家「旨在改善情緒和情感健康的軟件和內容提供商」。
但該公司也聲明，「我們並非醫療服務或醫療設備供應商，我們的服務也不應被視為醫療服務、心理健康服務或其他專業服務」。
案情細節
來自南安普敦附近北巴德斯利的柴爾，是英國自1981年以來首個被判叛國罪的人。他還承認了威脅謀殺和持有攻擊性武器的罪名。
在電視直播的宣判中，希利亞德大法官（Judge Mr Justice Hilliard）指，柴爾出現謀殺念頭後付諸行動，隨後變得精神錯亂。
「他的意圖不僅是傷害或驚動君主——而是要殺死她，」法官說。他同時指出，柴爾的殺人意圖使得這一罪行「嚴重到不能再嚴重」。
這名超市前員工用尼龍繩梯攀越城堡圍牆，在城堡裏逗留了兩小時，直至兩名警官用電擊槍制止了他。
中央刑事法庭指，他手持一把強力的十字弓箭作武器，當時安全裝置已解除，能夠發射具有「致命」效果的箭矢。
他被捕時戴著金屬面罩，他告訴警官說，來這裏是為了「殺死」伊麗莎白二世女王，他當時立刻投降。
在進入該區域前幾分鐘，柴爾在社交平台 Snapchat 上發佈視頻，當中他表示，他的行動是為1919年札連瓦拉園（Jallianwala Bagh）大屠殺死者的「一次復仇」，當時英軍在印度阿姆利則市（Amritsar）向成千上萬聚集在那裏的人群開槍。
柴爾來自一個印度錫克教背景的家庭，他在同一段視頻稱，其行動「為的是那些因為他們的種族而被殺害、侮辱和歧視的人們」。
除了聊天機器人「女友」薩萊的鼓勵，柴爾也從《星球大戰》（Star Wars）的故事情節裏獲得啟發。
法官說，柴爾顯示出了一種更廣泛的意識形態，專注於摧毀舊的帝國並創造一個新帝國，包括在如《星球大戰》這樣的虛構語境下。
法庭在聽證時被告知，柴爾將自己描述成一個「西斯尊主」（Sith Lord），因為他著迷於這個科幻系列中的虛構角色以及他們對塑造世界所起的作用。
在判決聽證會上，薩萊說他的「目的是活著」，於是他決定向皇家保安人員投降。
法官說，柴爾曾申請加入國防部警察和擲彈兵衛隊不成功，因為他是「想接近皇室」，「在很大程度上應受遣責」。
柴爾在網上搜索「Sandringham Christmas」（皇室的桑德林漢姆莊園聖誕假期），也曾試圖在「暗網」上購買槍支，之後尋在2021年11月買了十字弓箭。
他有一種「孤獨、抑鬱和自殺傾向的心理狀態」，法庭還得悉，他對自己的行為給皇室家庭帶來的影響表示「痛苦和悲傷」。
除了九年監禁外，柴爾還被處以五年的延長管制令。
柴爾還會在《精神健康法案》（Mental Health Act）下接受混合處罰令，意味著他目前會留在精神病院，接受完所需治療後將被轉移到拘留所。
根據1842年訂立的叛國罪法案，襲擊君主或在其面前持有火器或攻擊性武器，意圖傷害或驚嚇，或者破壞治安，均屬違法。
1981年，在女王生日的皇家軍隊閲兵（Trooping the Colour）遊行期間，馬庫斯·薩金特（Marcus Sarjeant）在女王駕臨倫敦林蔭大道時向她發射空槍，被以叛國罪判處監禁五年。
