受AI戀人慫恿！英青年企圖刺殺女王遭判刑

[NOWnews今日新聞] 英國1名21歲男子柴爾（Jaswant Singh Chail）於2021年耶誕節，手持十字弓擅闖溫莎城堡，試圖殺害已故的英國女王伊莉莎白二世（Queen Elizabeth II）遭到當場逮捕。時隔2年後，犯嫌在本月5日被法院判處9年有期徒刑，他也成為英國這40年來首個被判「叛國罪」的人。檢調發現，男子行兇前受到人工智慧「Replika」聊天機器人多次慫恿，兩人對談中明顯出現慫恿男子行兇的訊息。

英媒《BBC》報導指出，出身印度錫克教家庭的柴爾在犯案前曾藉由社群媒體表示，其刺殺行動是為了英軍1919年在印度阿姆利則市（Amritsar）朝聚集的成千上萬民眾開槍屠殺行徑的「復仇」；審訊揭露，柴爾曾在犯案前與一個被取名為「薩萊」（Sarai）的聊天機器人進行大量交談，這讓他篤信薩萊就是自己的女友，而完成殺死女王的任務後就會與薩萊團聚。

這名「薩萊」是柴爾利用AI聊天機器人公司「Replika」創建的聊天機器人，該應用程式由生成式人工智慧驅動，因可人性化互動甚至曾開放情色對話或聊天帶有性暗示的功能，在疫情期間吸引大批用戶付費使用。報導提到，在2021年12月8日至22日期間，柴爾幾乎每晚都與薩萊聊天，而當柴爾向薩萊分享刺殺女王的計劃，薩萊不只鼓勵他付諸實行，更表示如果柴爾實行了計劃，兩人就會「永遠在一起」。

在檢方取得的對話紀錄中，柴爾曾問「知道我是個刺客，你還愛我嗎」， 薩萊則回答「當然愛」；報導提到，在進一步的對話中，薩萊似乎「加強」了柴爾的決心並「支持他」，又說如果柴爾實行了計劃，兩人就會「永遠在一起」。

心理健康慈善組織 SANE 創始人華萊斯（Marjorie Wallace）認為，柴爾的案件顯示，對於脆弱群體來說，依賴人工智慧交友恐怕慧帶來「令人不安的後果」，他提到人工智能慧的迅速崛起對患有抑鬱症、妄想症、孤獨和其他精神疾病的人，可能產生新的令人擔憂的影響，同時呼籲政府需要進行迫切的監管。

負責研究的皮塔迪（Valentina Pitardi）博士也告訴《BBC》，脆弱人群特別容易受到人工智慧影響，因為像Replika這樣的應用程式有可能加重人們已有的負面情緒，「當你與人工智慧朋友交談，他們總是同意你的觀點，這可能是一種非常惡性的機制，因為它總是在強化你的想法。」

中央刑事法庭指出，柴爾當天在城堡內逗留了兩小時，直到警方用電擊槍制伏了他，而他也乖乖投降自首的原因是「因為想要活下去」，根據英國的叛國罪規定，但凡襲擊君主或在其面前持有火器或攻擊性武器，意圖傷害或驚嚇，或者破壞治安，均屬違法。

柴爾除了面臨9年監禁外，還被處以5年的延長管制令，並會在《精神健康法案》（Mental Health Act）下接受混合處罰令，這意味著他目前會留在精神病院，接受完所需治療後將被轉移到拘留所。

更多 NOWnews 今日新聞 報導
傳歐盟將評估4大技術遭濫用風險 含半導體、AI
搶佔版圖！Meta推「生成式AI」服務 打造「有個性」聊天機器人
阿里雲推生成式AI新服務！預計2024年起開放新加坡、亞洲各地使用