用AI寫假新聞!美內容農場網站狂冒 還亂報拜登過世
美國企業「OpenAI」開發的ChatGPT聊天機器人爆紅後,使用者激增、但也衍生出許多問題;美國新聞評等組織「NewsGuard」5月1日發布報告指出,他們發現數數十個由AI聊天機器人生成的新聞網站,其中甚至有內容農場網站亂報「總統拜登已過世」,引發外界質疑AI工具可能助長虛假資訊傳播。
彭博資訊檢視、審查了49個「新聞網站」,這些網站內容五花八門,有些包裝成提供突發即時新聞的網站,名稱也聽起來很普通,例如「News Live 79」和「Daily Business Post」;還有網站是介紹生活風格、名人消息或發布贊助內容,但這些網站都沒有透露文章是使用OpenAI公司研發的ChatGPT或谷歌的「Bard」AI聊天機器人來生成。
NewsGuard發現,有一個名為「CelebritiesDeaths.com」的網站今年4月發表了一篇由AI生成的文章,標題講述「拜登逝世、副總統賀錦麗將出任代理總統,上午9時將發表致詞」;還有另一個網站編造出訃聞。一個名為「TNewsNetwork」的網站,則用YouTube影片發布了一則俄烏戰爭中數千名士兵傷亡的故事,但資訊都未經查證。
報導指出,這些網站大多數都是品質低劣的內容農場,透過大量發文來吸引點閱、置入廣告,而且不只使用英文,還有葡萄牙文、泰文等語言的文章。
NewsGuard共同執行長克羅維茲(Gordon Crovitz)說,這份報告顯示,OpenAI與Google等提供生成式AI服務的公司應該要謹慎訓練他們的模型,不應該用於捏造新聞,「已知這些AI會編造虛構的文章,還用它們去製作那些看似是新聞網站的內容,是一種偽裝成新聞業的詐欺行為。」
對此,OpenAI並未立即回應,但他們此前曾表示,會結合人工審查、自動化系統來打擊AI遭到濫用的事件,並向濫用的用戶發出警告或禁止他們使用。谷歌發言人艾西曼(Michael Aciman)則指出,他們很重視內容品質,不允許廣告刊登在有害內容、垃圾文章旁邊,在接獲彭博聯繫後,谷歌已自其中部分網站頁面移除Google廣告。
更多 TVBS 報導
三星禁員工使用ChatGPT等生成式AI 被發現就開除
哈利恐被趕出美國?傳記自爆「海量吸毒史」:讓我有歸屬感
《廚神當道》Jock Zonfrillo驚傳陳屍飯店 享年46歲
「AI能做何必請人?」 IBM執行長:7千員工將被取代
更多相關新聞
ChatGPT竄紅 從風潮變風暴
「AI教父」示警了!驚吐1變化:很嚇人 「1危機」恐影響全人類
ChatGPT衝擊教學現場 清大成立工作小組訂指引
機密資料遭外洩 三星祭「生成式AI」禁令
AI浪潮席捲各行各業 高專業人才也難迴避