【紐約大學研究】美國大選資訊戰的頭號風險：社群平台

特約研究員 李惟平／編譯

美國將在今年11月舉行總統大選。此次大選假訊息最大風險因素是什麼？是AI？還是中國與俄羅斯? 紐約大學人權與企業中心日前公布的報告認為，今年大選最大的風險來源是「社群平台」。

過去幾年來，社群平台漸漸減少防堵不實資訊的人力與資源。然而2024選舉所面對的挑戰可能更甚以往。學者建議，平台業者應該增加更多仲裁線上內容的人力，投注事實查核資源，或者以平台技術讓選舉相關的假訊息更難流通。

紐約大學史隆商學院人權與企業中心（Center for Business and Human Rights）今年2月公布這份「2024年選舉數位風險」報告，指出美國今年總統選舉將會面臨的七項風險，包括：「社群平台退守不實訊息的防線」、「生成式AI所製作的不實訊息」、「共和黨總統候選人川普發表的不實及仇恨訊息」、「攻擊選舉工作人員的網路訊息」、「勸阻選民投票的不實訊息」、「攻擊不實資訊研究的假訊息」，以及「其他國家以不實訊息惡意干預大選」。

成本考量  社群平台逐步退守不實訊息防線

美國從2016年總統大選起，開始注意不實訊息的風險，爾後又歷經新冠假訊息肆虐、2021年1月6日國會山莊暴動，以及仇恨與不實言論持續造成的社會分化。在這些事件中，社群媒體角色都備受關注，包括Meta、Twitter（已改名為X）、YouTube等平台也推出了不少應對措施，比如加強與事實查核組織合作，以及在不實訊息底下加上標籤。

然而這幾年來，社群媒體卻漸漸減少投注防堵不實訊息的資源。

比如Meta負責關注選舉資訊的團隊，曾有多達300個員工。Meta執行長祖克柏（Mark Zuckerberg）也會定期與選舉資訊團隊開會。但紐約大學報告指出，Meta歷經過去幾年裁員後，至2022年美國期中選舉為止，其選舉資訊團隊的員工只剩下60人。

除此之外，Meta也放寬了Facebook與Instagram的廣告規範，不再限制質疑2020美國選舉正當性的廣告。YouTube也解除了類似限制，但另YouTube仍然不許含有不實訊息的廣告在該平台上牟利賺錢。

Meta、YouTube等平台縮減對抗平台不實訊息的資源，有大部分原因是出於成本考量。過去幾年，社群平台廣告收益減少，再加上之前擴張過度，因此在2022與2023年大幅裁員，而平台負責維持資訊正確與安全的單位首當其衝。

X處理不實訊息的態度轉變，則與新老闆馬斯克（Elon Musk）有關。從2016年以來，Twitter還算致力於防堵線上不實與仇恨訊息。然而2022年號稱是言論自由擁護者的馬斯克收購Twitter、易名為X後，X處理平台上不實訊息內容的態度從此改弦易轍。

馬斯克不但大量縮減維持內容安全與正確部門的編制，還公開攻擊相關部門的前主管，導致該前主管必須倉皇舉家遷移，以防暴民上門傷害人身安全。雖然X號稱其網路社群共同合作以「社群筆記」（Community note）打擊不實訊息，但從最近事件的表現來看，X社群筆記成效不佳。

AI假訊息被用來干擾民主程序或拉票

此外，生成式AI可以快速生成圖像影音，也成為美國選舉一大挑戰。

最近幾個月，社群平台上已出現不少以共和黨候選人川普或民主黨候選人拜登為題材的AI假訊息，意圖干擾黨內初選選情。比如不少新罕布夏州選民在1月民主黨初選前接到拜登語音電話，懇求選民不要在初選投票，許多人以為這是民主黨發出的競選電話。但其實該電話錄音是不明來源送出的AI語音假訊息。

此外，也有川普支持者以AI生成川普與非裔選民和樂融融的不實照片，企圖為川普在非裔選民群體內拉票。

持平而論，有些社群平台或科技公司有針對AI不實訊息端出了一些新的措施，比如開發ChatGPT的公司OpenAI已在2024年1月宣布，禁止他人以其AI技術製作競選或遊說用的聊天機器人。Google也在2023年底表示將在其AI產品增加限制，以防AI在回答與選舉有關的問題時生成不當資訊。Meta也要求政治廣告若是以AI技術生成，必須加以標示。

來自俄羅斯、中國等境外資訊干預也成隱患

紐約大學人權與企業中心報告指出，來自中國與俄羅斯的假訊息干預，也會是風險之一。從2016年以來，俄羅斯就嘗試以假訊息干擾美國總統大選。2024年當然也不例外。研究也顯示，俄羅斯針對美國的不實訊息活動，從2023年年底已有頻率升高之勢。

另一方面，中國從2022年美國期中選舉之後，也開始展現影響美國政治的野心。過去一年以來，Meta、YouTube等社群平台皆發現可能來自中國的協同行動虛假帳號，傳散關於美國政治的不實敘事。此外，母公司位在中國的TikTok是否會操作美國境內訊息的傳散，也引起美國疑慮。

近日共和黨國會議員已經提案，要求TikTok必須與中國母公司字節跳動脫鉤，否則將禁止TikTok在線上應用程式商店上架。

不過，紐約大學報告認為，相對於2016美國總統大選，今年大選風險主要還是來自美國內部。除了上述風險，攻擊選務人員、勸阻選民投票等假訊息，都有可能影響選舉程序，美國各界須審慎以對。

參考資料

Elections 2024 Report — NYU Stern Center for Business and Human Rights. (n.d.). NYU Stern Center for Business and Human Rights. https://bhr.stern.nyu.edu/tech-elections-2024-report

Spring, B. M. (2024, March 4). Trump supporters target black voters with faked AI images. BBC News. https://www.bbc.com/news/world-us-canada-68440150

Hsu, T. (2024, January 23). New Hampshire officials to investigate A.I. robocalls mimicking Biden. The New York Times. https://www.nytimes.com/2024/01/22/business/media/biden-robocall-ai-new-...

Hsu, T., & Metz, C. (2024, February 16). In big election year, A.I.’s architects move against its misuse. The New York Times. https://www.nytimes.com/2024/02/16/technology/ai-elections-defense.html?...

Bill that could ban TikTok in the U.S. gains momentum in Congress. (2024, March 6). NBC News. https://www.nbcnews.com/politics/congress/bill-ban-tiktok-us-gains-momen...