于北辰、王瑞德互相舉報台獨?深偽影片建構謠言「平行宇宙」

馬麗昕/記者;責任編輯/邱家宜

一支深偽(Deep Fake)影片不足為奇,但如果同時有大量深偽影片冒用台灣政治人物的臉,宣傳虛假的論述,便足以擾亂資訊生態,混淆虛實界線。

從今年10月以來,本中心陸續觀察到中國社群抖音、TikTok社群大量製造台灣的立委、政治名嘴深偽影片。多是利用真實的畫面,再搭配虛假的聲音,製造出政治人物從未說過之內容的發言影片;甚至這些深偽影片被二次利用,被當作真實的談話加以「引述」,進一步放大虛假內容的影響力。

專家提醒,現今深偽影片製作成本低且快,造假影片的大量入侵,可能會混亂民眾認知,深偽技術的濫用,將考驗台灣資訊生態的韌性。

誰被造假?多名台灣立委、政治評論員捲深偽風暴    

「我于北辰被震撼到了...我感覺他們(解放軍)分分鐘就能登陸台灣本島,解放軍登陸台灣我直接投降就好....」

10月14日中國舉行「聯合利劍-2024B」軍演,之後,台灣社群流傳一段退役少降于北辰說解放軍來他會「直接投降」的影片,震驚台灣社群。但仔細一看,影片嘴型、動作並不自然,其實是中國社群用政論節目的畫面所製作的深偽假影片

于北辰「降共」影片只是這類造假影片的冰山一角,也並非首次。于北辰回應查核中心時指出,自今年5月他被中國列入「台獨懲戒名單」後,中國社群即開始大量製造他的深偽假影片,製造出他從未說過的談話內容。

記者實際搜尋發現,于北辰的確是這類深偽影片的主要造假對象,且大量流傳於抖音、TikTok、微博、163網易網站等,且持續「外溢」流傳到台灣的臉書、Line社群。

然而,于北辰並非唯一受害者,檢視「中國製造」的台灣政治人物深偽造假名單,發現多名台灣政治評論員如王瑞德、高嘉瑜、王義川,以及民進黨籍立委王世堅、沈伯洋、王定宇等都是受害者。

王瑞德沈伯洋高嘉瑜等人,日前都在臉書針對他們被中國社群製造了不存在的談話內容提出澄清。查核中心觀察發現,這類造假影片明顯集中於綠營政治人物,但也看到國民黨籍的趙少康也被造假,可見被造假未必侷限於某一政黨,未來「受害者」恐會陸續增加。


圖1:多名立委、政治評論員皆被製作深偽造假影片/查核中心製圖

平行時空敘事:名嘴互攻舉報台獨、褒共貶台分化社會

深偽造假已不稀奇,必須更加關注並掌握的是深偽影片的「虛假敘事」結構,以及其傳播目的。

觀察這些造假影片,可整理出幾個虛假敘事框架:貶低台灣褒揚中國解放軍、向中國人道歉或自稱是中國人、互相抹黑互相舉報為台獨份子,形成名嘴大亂鬥。

例如在于北辰造假影片中,他稱讚解放軍能力強,宣稱會「向共軍投降」、「向中國人致歉」,又或是貶低台灣軍事力量,提出「台軍抗共要把海水抽乾」等不合理的軍事策略。

另外如沈伯洋造假影片稱「自己建立的黑熊學院是恐怖機構註定死亡」;王定宇造假影片「自稱中國人」向中國道歉等。

值得注意的是,透過名嘴間互相抹黑攻擊、互相舉報對方為台獨份子的虛假影片內容,甚至建構出一個由深偽影片所架構出的「平行宇宙」,足以讓接收謠言者持續「徜徉其間」。

像是假的于北辰影片舉報美麗島電子報董事長吳子嘉、電視台政論節目主持人劉寶傑、政治評論員王瑞德是台獨份子。虛假的王瑞德影片竟又「回應」于北辰的舉報,反擊兩人都是「拿錢說話的名嘴」。


圖2:政治名嘴互相攻擊虛假敘事/查核中心製圖

這套互相抹黑的劇本尚未結束,王世堅、李正皓、趙少康的虛假影片持續搧風點火,評論于北辰、王瑞德的爭吵。例如造假趙少康的深偽影片「點評」稱兩人都是為錢說話;假的王世堅影片更評批「兩人都是對社會沒有用的人」。


圖3:趙少康、王世堅造假影片/擷自抖音影片

整體來說,這些虛假影片所創造的敘事已經形成一套劇本,在這套虛假劇本中,立委、政治名嘴會說出與過去自身立場截然不同的話,在劇本裡還會彼此爭鬥、吵架,滿足閱聽眾的獵奇心理,達到分化不同政治光譜支持者的效果。

迴聲:深偽影片遭二次利用以論述放大假象  

分析此類影片的製造、傳播鏈,可以觀察到主要是由抖音帳號「三只狼工作室」,製造出多個台灣政治人物的深偽影片,接著影片被大量搬運到TikTok其他帳號,以及中國社群平台微博、網易平台。

圖4:抖音帳號三只狼工作室大量製作深偽影片/擷自抖音

這些影片除了在中國內部社群內流傳,更大量外溢到台灣臉書、line群組等,影響台灣的資訊生態。

值得注意的是,這類虛假影片更被有影響力的中國YouTuber引用,成為他們製作影片的素材,放大虛假敘事的影響力。

例如「于北辰投降共軍」、「于北辰指控王瑞德是台獨份子」等虛假深偽影片,都有被中國YouTube帳號引用製作成影片。影片中,該中國Youtuber除了放上虛假影片並指稱是「于北辰近期在節目中說的話」,更以此來評論台灣政治名嘴現在才說實話,過去的言論都是為錢辦事。

除了中國的YT帳號,台灣某政黨發言人也使用虛假的于北辰深偽影片,放大台灣要「抽海水抗共軍」的虛假論述。

儘管尚無法驗證這些二次引用的行為,是已知其為假而仍加以引用,還是並不知其假而誤用。

但可以確定的是,這些二此使用的行為無疑形成一種「迴聲」效應,讓虛假論述更得以擴散、放大,不斷地流傳於各個社群平台,讓閱聽眾難辨真假,而對於這些被造假的政治人物產生錯誤的認知。

隱憂:深偽技術遭濫用混淆認知

長期關注DeepFake深偽、AI辨認技術發展的成功大學統計系副教授許志仲直指,低品質粗糙深偽影片被濫用的情形愈來愈嚴重,這將會考驗著資訊生態的韌性。

許志仲解釋,當一支精緻完美的深偽影片出現時,精準且快速地闢謠、平台快速地移除,能有效防止假訊息擴散。

「但是,現在深偽技術發展快速,製作成本低且近用性高,雖然製作出來的影片品質粗糙,但是數量變大,且快速地傳播在各大社群平台、封閉通訊群組內。這是資訊操弄手法的進步。」許志仲分析。


圖5:美國網路安全與基礎設施安全局(CISA)、國家安全局(NSA) 和聯邦調查局(FBI) 今年9月發布的深度偽造新聞稿/達志影像

許志仲也提醒,台灣政治人物被大量製作深偽影片的現象,其實隱藏著兩個隱憂:

第一,造假影片製程快且多,闢謠效果恐有限。

許志仲說,由於造假影片數量太多,打擊假訊息的策略若用傳統的闢謠手法,速度較慢,且效果有限。

許志仲也說,此外,「深偽」(Deep Fake)只是一個技術,深偽影片是否能成功影響到民眾,關鍵在於「內容」。

記者實際檢視這些深偽影片,雖然影片品質粗糙,但其所散布的內容敘事,如上述的名嘴互罵、褒共貶台等,精準鎖定且迎合著相同政治立場的閱聽眾。

許志仲觀察,這樣的影片其實精準的利用台灣政治對立的社會特性,讓擁有同樣想法的人可以繼續傳播。「他們不一定會看完全部影片,且可能也不在乎影片是真是假,只是認同影片所傳達的論述而轉傳。」

第二,闢謠效果有限,應構思更好的策略。

許志仲也坦言,未來這類影片恐更多、更廣,面對這樣的隱憂,根本策略仍是提升閱聽眾的「辨認能力」,民眾光是知道有深偽、AI技術不夠,也需要學習辨認影片真假。

許志仲說,至於做為事實查核者,則需要構想更好的闢謠策略,如與AI技術專業者合作,加強人機互動的闢謠機制,也就是利用AI科技加強、加快查核能量。他更期待科技平台的當責,因為唯有如此,才能有效防止大量入侵的深偽假訊息。