ChatGPT加速假新聞散播?美報告:AI生成內容網站激增 多刊登不實資訊

自美國OpenAI公司的ChatGPT、Google旗下的Bard等生成式人工智慧工具逐漸普及後,用這些工具生成文章的內容農場網站也應運而生。新聞評等組織NewsGuard週一(5/1)發布報告指,近期網路上激增至少49家這類網站,但全未披露是以AI生成內容,令人質疑AI工具是否讓虛假資訊更容易散播。

彭博新聞檢視了這49家網站,發現各種不同的情況,其中包括看似提供即時新聞的網站,名稱也看似可信,如「News Live 79」、「Daily Business Post」,也有網站是以生活風尚、名流消息的內容為主,甚至有網站是專門發布廣告內容。

NewsGuard指出,有一個名為CelebritiesDeaths.com的網站四月間就發表了一篇AI生成的文章,題為「拜登逝世、賀錦麗出任代理總統,上午9時將發表談話」。另一個網站則假造了一篇訃聞,用AI描寫一名建築師的人生和作品。

還有一個名為TNewsNetwork的網站,則根據YouTube影片發布了一則俄烏戰爭中數千名俄軍喪生的故事,但完全未經查證。

報導指出,這些網站絕大多數都是品質低劣的內容農場,只是要藉由發布文章來帶入廣告。這些網站遍布世界各地,並以英語、葡萄牙語、菲律賓塔加祿語、泰語等語言發布。

其中少數網站還會收費刊登文章,協助「客戶」提升搜尋排序。另外一些網站則試圖在社群媒體建立讀者,例如刊登名流生平故事的ScoopEarth.com,其臉書專頁有12.4萬人追蹤。

超過半數網站藉由刊登「程序化廣告」(programmatic ads)來賺取收入,也就是透過演算化自動買賣廣告欄位。

NewsGuard共同執行長克羅維茲(Gordon Crovitz)說,這份報告顯示,OpenAI與Google等提供生成式AI服務的公司應該小心訓練他們的模型,不要用於捏造新聞。曾任《華爾街日報》發行人的克羅維茲說:「使用已知會虛構事實的AI模型去製作那些看似新聞網站的內容,是偽裝成新聞業的詐欺行為。」

OpenAI未立即回應置評請求,但該公司之前曾表示,會結合人工與自動化系統來識別系統遭濫用的事件,並發出警告或禁止使用。

Google發言人艾西曼(Michael Aciman)則表示,該公司重視內容品質,不允許廣告刊登在有害內容、垃圾文章或明顯從其他網站複製的文章旁邊。Google表示,在接獲彭博新聞聯繫後,已自其中部分網站頁面移除Google廣告。

Google強調,使用生成式AI產生內容,不一定會違反該公司政策,但若利用AI來操縱搜尋排序,則違反該公司有關垃圾內容的政策。

美國麻州班特利大學(Bentley University)專精數據科學與數學的助理教授Noah Giansiracusa表示,利用AI生成內容的手法過去就有,但新的工具讓一切變得更容易、更迅速、代價也更低廉。

更多太報報導