Yahoo奇摩新聞 ChatGPT出世讓對抗資訊操弄的抗體下降九成
⊙王宏恩
隨著台灣長期受到境外資訊操弄的影響，目前台灣民眾已經有了各種對抗資訊操弄以及假新聞的方式，例如使用事實查核網站與聊天機器人、例如觀察帳號可信度或者網址、偕同行為、以及其他各種可以看出端倪的小細節。這些人們對於真實資訊的追求以及對抗資訊操弄的策略，儘管直接使用的人數有限，但效果仍會隨著人們的社會網絡擴散而能有一定的保護力。
ChatGPT衝擊到真假識讀的辨認
然而，在ChatGPT橫空出世之後，其演算能力以及效率，將讓目前坊間對抗資訊操弄的手段有九成以上都會失效。
首先，ChatGPT生成的內容到底對人類有沒有政治影響？在2月底史丹佛大學的一篇研究中，已經發現ChatGPT所製造出來的政策說服說帖，可以成功的改變許多讀者對政策的看法。因此，ChatGPT有可以改變民意的「能力」。
但是人們是否會接觸到ChatGPT生成的內容、又是否能夠如過去判斷資訊操弄一樣判斷並檢查這個來源呢？恐怕很難。過去人們在檢查資訊操弄時，有三個常用的技巧，第一是觀察用字是否夠本土，第二是觀察帳號本身的背景是否為真人，第三則是觀察不同帳號之間是否有相同內容重複貼上的偕同行為。但這三個技巧都會輕易地被ChatGPT打破。
在第一個策略上，ChatGPT基於不同語言的大量文本，可以輕易地依照不同語言產出整篇文章，甚至ChatGPT已經有能力在特定文化脈絡下進行角色扮演，假裝是年輕人、老人、不同背景的人寫出的文章。相較於人類，ChatGPT寫出錯字或語意不順的機率更低。在這種文本輸出的能力之下，單純用挑錯字、簡體字、語法的方式得到型二錯誤的機率（把真的是人寫的判別是電腦寫的）恐怕還更高。
ChatGPT彷彿真人的創設會讓偵測失效
在第二個策略上，ChatGPT結合影像處理軟體，已經可以輕鬆生成個人化的生活貼文。因此假如有系統性的培養帳號，每個帳號每天生成並發布不同的心情跟照片，這樣只要維持幾個月，就可以輕易產出大量看似在特定地方生活、彷彿真人的帳號。過去我們在檢查這樣的帳號時，往往可以查到這些帳號是複製貼上其他真人帳號的貼文跟照片。但有了AI生成內容之後，這種檢查方式會直接失效。
而在第三個策略上，則跟上一段有同樣的問題。ChatGPT可以大量、輕易的換句話說，讓本來的消息或假消息排列組合之後寫出意思一樣、但用字寫法完全不同的文字——甚至不只是文字。我已經在YouTube上找到了好幾個二月底才開設、針對台灣觀眾總結每日台灣新聞的YouTube頻道。這些頻道是使用機器語音拼湊每天的重大新聞、然後再配上抓來的新聞插圖，固定每日生成上傳，有一些甚至有破萬點閱率。這種內容農場式的作業，以前可以透過他的文字內容來輕鬆找到來源。
但最近新的一波頻道，都可以看出是同時整併四五家不同的台灣媒體報導，再整合出一整篇全新的文字，因此每一句都跟原本的新聞文本不完全相同，這是ChatGPT能夠輕易做到、但是聘人來做則吃力不討好的工作。但因為這些語音內容每一句都不完全跟其他新聞一樣，因此假如這種行為多做幾次，就可以大量製造出看似全新的新聞頻道（以及假新聞頻道），然後每一個影片的內容都是其他的換句話說。這種細微的差異往往就會衝擊到目前對於「偕同行為」的演算法偵測方式，因為目前演算法偵測偕同行為中，類似或相同的文字或關鍵字是重要的判別指標。假如ChatGPT幫助無數假新聞農場換句話說，未來要偵測偕同行為就會非常困難。
如何因應ChatGPT的偽造攻防
當對抗資訊操弄的抗體被ChatGPT無效化之後，要如何因應？現在一般人另外有的幾個工具，第一個就是長期觀察特定帳號或媒體的名聲，因為時間對所有人是平等的，只是在現在台灣媒體數量快要比記者還要多、追求點擊率的標題與內容農場不分軒輊時，長期累積的聲望是否能夠獲得足夠支持維持營運，就成為一個問號。
第二個不被ChatGPT直接影響的，則是其他的互動數字以及社群網站現在部分揭露的透明化資訊，例如點閱人數多寡、點閱人數跟轉載數之間的比例、上線時間是否固定於上班時間、社群小編的國家位置、粉絲的背景。然而，最近我們也看到有點閱破億的台灣歌手的支持帳號大多來自於南亞、而社群小編也逐漸有外國公司在台灣設立分公司之後招募台灣小編，因此這些策略也越來越不好用。
對於政府來說，即使無法直接干涉內容或審查，但現階段至少可以跟其他國家合作，一起施壓社群網站釋出更多透明化資訊，例如頻道與網站負責人的真實地理資訊、所有按讚、粉絲、以及贊助的國家地理分布資訊（整體分布、而非個人資料，可避免個資問題），這些資料目前大多僅在網站或社群網站創作者的後台，但沒有什麼道理不能讓一般人查詢這些資料，協助一般人進行資訊判斷。
另一方面，政府也應該加大對民眾資訊接收來源的相關研究，尤其是研究在緊急時刻民眾會仰賴的資訊接收管道或傳遞管道。之前禁止政府官員使用TikTok為一個正確的方向，讓民眾知道戰時不應該倚賴TikTok來接收政府資訊，但對於主要用TikTok的人來說，他們仍需要知道「那麼危急時該去哪裡看」，而且這種資訊管道最好有辦法對應緊急時候網路與電力不通順時仍能運作，而且也要能有效阻擋外部的反動員或煽動，這些都是當務之急。
作者為內華達大學拉斯維加斯分校政治系助理教授。在台中一中被選進數學校隊，接著考取台大電機系後想當個科學家。在椰林繞了一圈後，覺得還是人類有趣多了，於是跟著數學一起投入研究政治，成了政治科學家。
更多思想坦克的文章
