一則「火車撞死人」騙到上萬瀏覽！他用ChatGPT編假新聞遭逮，怎麼防AI假訊息？

近日，中國甘肅省警方拘留了一名涉嫌用ChatGPT編造假新聞的男子，這是該國自生成式AI蓬勃發展、並於今年一月正式頒布《互聯網信息服務深度合成管理規定》後偵破的第一起ChatGPT犯罪事件。

火車撞死9個人！用ChatGPT編造假新聞，男子遭到警方拘捕

根據甘肅省媒體的報導，中國甘肅省平涼市公安局崆峒分局網安大隊於4月25日在日常網路巡察的過程中，發現百度上出現一篇經查證後確認為虛假消息的新聞，內容稱該地區有一列火車撞到修路工人而導致9起死亡；並且在同一時段有21個帳號發布相同文章，已經達到了1.5萬餘次的瀏覽量。

經過警方調查，涉案百度帳號均隸屬於深圳的某家自媒體公司，在對電腦和帳號進行取證後，目前公司法人代表洪姓男子已經遭到拘捕。洪男表示自己為了賺取流量，購買大量百度帳號並透過網路搜尋總結出近幾年的熱門時事新聞，再使用ChatGPT將各類熱門新聞要素修改，編造出內容略有不同的假新聞且批量發布，以躲過百度平台的內容審查。

警方根據中國1月10日正式生效的《互聯網信息服務深度合成管理規定》進行偵辦，該法令規定使用人工智慧技術生成圖像、影片、文章等內容時，需特別標註為AI生成，以避免他人遭到混淆；同時也明確禁止用相關技術來製作、發布或傳播虛假資訊。洪男編造假新聞且散布在網路上供民眾瀏覽的行為，已經涉嫌尋釁滋事罪，須採取刑事強制措施，最高可判處五年有期徒刑。

值得注意的是，目前ChatGPT尚未在中國開放使用，使用者要透過VPN「翻牆」才可以突破該國網路限制。另一方面，中國也正試圖推出類似產品來抗衡ChatGPT，如百度旗下的人工智慧聊天機器人「文心一言」，不過除了要嚴格落實該國政府對於內容資料的審查和管制外，產品本身的技術也還不夠成熟，因此目前還正處於內部測試階段。

「ChatGPT剋星」來也！如何用GPTZero正確識別假新聞？

處於現今資訊大爆炸、各類消息充分流通的社會，如何正確判斷新聞來源的可靠性和內容真實性，對於我們而言是非常重要的一件事。隨著如ChatGPT等生成式AI工具的問世，雖然讓我們日常生活、工作學習等的效率提升，但同時也提高不法之徒利用AI工具犯罪的機率，該如何防範這種現象的發生呢？

號稱「ChatGPT」剋星的GPTZero，是一款由美國普林斯頓大學（Princeton University）華裔大四學生愛德華．田（Edward Tian）開發的應用程式，他表示：「人類有權利知道這些東西是否由AI所寫。」GPTZero能夠檢測文章是否由ChatGPT所撰寫，可以說是讓ChatGPT現出原形的照妖鏡，目前該軟體已累積超過120萬名用戶。

現在，GPTZero從Stability AI執行長等業界大佬手中，募集了350萬美元（約新台幣1.07億）的資金，並開始啟動一個名為「Origin」的項目，希望能用AI識別工具正確辨認出由AI生成的假新聞，達成維護新聞產業公平和秩序的最終目標。本週愛德華的團隊已經向曾擔任過BBC總裁、現紐約時報執行長Mark Thompson、路透社（Reuters）前任執行長Tom Glocer等資深媒體人展示了Origin的第一版樣本模型，目前該項目仍處於測試階段，未來若成功上線，想必將對整個新聞產業做出巨大貢獻。

延伸閱讀：ChatGPT要被告了？市長變貪官、誣賴教授性騷擾，AI的胡說問題怎麼解？

資料來源：CNBC、CNN、Quartz、InvestorsObserver

責任編輯：蘇祐萱

更多報導
ChatGPT之後思考題：當人工智慧掌握知識與權力，人類世界會有什麼改變？
ChatGPT剛暴紅，已經有人動歪腦筋！從情書詐騙到駭客入侵，AI可能成犯罪幫兇？
比爾蓋茲看AI：我人生中第2次科技革命！AI怎麼影響人類？如何消除不平等？