【資訊戰新手法】 「垃圾郵件龍」AI生成大頭照 親中假帳號成反美怪獸

·7 分鐘 (閱讀時間)

記者何蕙安/編譯

社群媒體研究機構《Graphika》日前發布研究報告指出,名為「垃圾郵件龍」(Spamouflage Dragon)的虛假社群網絡在今年疫情期間,透過社群媒體貼出影片讚揚中國,攻擊美國政策。其政治議題反應迅速,且首次使用人工智慧(AI)技術生成假帳號的大頭照,成為網路資訊戰新手法。

「垃圾郵件龍」曾在香港示威時首度出現

《Graphika》在2019年下半年,首度監測到一個攻擊美國及親中的社群媒體網,該網絡以YouTube、Facebook、Twitter上的虛假帳戶發布中文影片,攻擊香港示威人士與中共異議富豪郭文貴,且同時間發布大量抖音短片混淆視聽,以掩護其政治宣傳目的,此社群媒體網被《Graphika》命名為「垃圾郵件龍」(Spamouflage Dragon)。

總部在美國紐約的《Graphika》日前發布〈垃圾郵件龍進軍美國〉(Spamouflage Dragon Goes to America)研究報告。該報告指出,「垃圾郵件龍」近期捲土重來,針對美國,發動另一波攻擊。《Graphika》把這一個社群網絡命名為「垃圾郵件龍」(Spamouflage),是來自兩個英文單字Spam(垃圾郵件)與Camouflage(偽裝)。

《Graphika》在2019年下半年首度監測「垃圾郵件龍」社群媒體網絡,包括Twitter、Facebook、YouTube等平台都採取應對措施,關閉其所監測到的可疑帳戶或停權,使得該社群網絡暫時消聲匿跡。


圖1:Graphika在2019年下半年首度監測到「垃圾郵件龍」網絡的存在,虛假帳戶主要發布攻擊香港示威者(黃框)與異議人士郭文貴(紅框)的影片(橘框則是攻擊兩者),但夾雜了許多無關緊要的短片作為掩護。擷自Graphika報告

中國被指控隱匿疫情 帳號搖身一變成「龍」的打手

《Graphika》表示,今年三月起,中國被指控隱匿新冠病毒爆發疫情後,「垃圾郵件龍」再次重出江湖,貼出中文影片讚揚中國,並否認中國處理疫情不當,傳播路徑與手法與過去如出一轍。

《Graphika》發布的最新報告指出,「垃圾郵件龍」從今年6月起,發布多個附有中英雙語字幕、英語旁白的影片,抨擊美國川普政權,包括指控美國防疫不力、種族問題、美國關閉中國駐休士頓領事館、美國打擊TikTok及「乾淨網路」(Clean network)計畫等議題,當中,也有許多直接攻擊美國總統川普個人的論點。


圖2:一部批評美國總統川普應對新冠疫情政策的影片使用川普漫畫。/擷自Graphika報告

「垃圾郵件龍」的特點之一,是以假帳號,或是盜用其他社群媒體帳戶,再透過改變名稱或大頭照的方式「變身」,並發表政治影片或評論。這些「遭狹持盜用的帳戶」的新貼影片,與其先前貼文截然不同。

《Graphika》觀察到,這些被盜用的帳號,可以看到一些怪異現象,像是評論內容是中文,但帳戶名稱是俄羅斯文、土耳其文等。

此外,許多影片的留言數與點讚數遠遠多於點閱數,顯示帳戶的互動數字並非真實;還出現英文、西班牙文,斯拉夫語等不同語言的帳戶,卻張貼相同的中文貼文,這也可以視為這些帳戶已遭到盜用,由程式自動張貼留言的證據。


圖3:一些影片下方的留言儘管來自不同帳戶,但內容完全相同;且儘管留言是中文,但部分帳戶卻是西班牙文,斯拉夫語等外國語言。/擷自Graphika報告

以Youtube帳戶「Malcolm Daly」為例,該帳戶在2016年11月發布2個電影(共15萬瀏覽數)後就沒有動靜;但到了今年6月,該帳戶突然連發了38個影片(共472次瀏覽),除了批評美國政府與同情美國人民,也夾雜了許多音樂、運動、食物等內容較無意義的短片。

另一個Youtube帳號「李海峰」,大頭照使用韓國模特兒的照片。研究團隊發現該帳戶最初的用戶名是isidra kliebert,直到今年7月20日才改變成「李海峰」。該帳戶從6月10日起發布了六支政治影片,與其他短片,但幾乎無點閱數。

「這個網路的行動真的很快... 他們一定是密切關注美國對華政策發展,爭取在新聞事件週期時,即時應對。」《Graphika》總監班.尼莫(Ben Nimmo)接受《華盛頓郵報》採訪時說,「所以我們必須持續打斷與揭露他們,讓他們無法建立真正的觀眾群。」

不過,儘管可以從「垃圾郵件龍」發布的內容可見與中國相關,但《Graphika》採取謹慎的研究方法,指出該團隊目前的追蹤與研究,仍無法判斷這些行動與中國政府友直接關聯。

影片英文翻譯品質差 「U.S.」竟翻成「我們」

《Graphika》研究團隊發現,「垃圾郵件龍」網絡的反應迅速。比如說,美國國務卿彭佩奧8月5日甫宣布「乾淨網路」計畫,一支標題為「American Cleaning clean mouth, dirty hands」的英文配音、中英字幕影片旋即在8月7日上傳,批評美國打壓中國科技公司。

這份研究報告也點出,「垃圾郵件龍」旗下的Youtube頻道,時常在同一時間刊登所製作的政治影片,但傳播並不算成功。以上述的批評「乾淨網路」計畫影片為例,許多影片的點閱數為零,部分影片僅有個位數到十位數的點閱率,極少數影片超過百次觀看。

研究報告指出,「影片品質」可能是原因之一,旁白的聲音與用語並不自然,部分可能使用機器語音,有時出現很基本的錯誤,例如U.S.一詞(美國),說成us(英語「我們」的受格);有些英文句子明顯是中文直翻,例如將「火中取栗只會玩火自焚」翻譯成「Cast a chestnut in the fire will burn themselves with fire」等不流暢的句子。


圖4:在這部標題為「美國政治人物的冷戰思維過時」的影片中,儘管瀏覽數只有3次,但卻有56個用戶按讚,令人質疑互動數據的真實性。/擷自Graphika報告

AI生成假帳號大頭照 眼球位置竟一樣

《Graphika》同時發現,部分YouTube帳號使用的大頭照,是使用Generative Adversarial Networks(GAN)技術所生成,這是先前沒有的新作法。由於此技術工具已有現成工具,擔憂此現象會普遍化。

研究報告補充,閱聽眾可以透過觀察一些特徵,來辨識這些大頭貼是人工生成的假照片,包括該對稱的地方不對稱(如眼鏡框或耳環),模糊或不對齊的背景(例如牆壁或樹),還有最重要的關鍵是GAN生成照片的眼球位置都是一致的。

不過,《Graphika》也提醒,隨著技術進化,這些肉眼辨識方式也可能很快就會不適用。


圖5:在「垃圾郵件龍」網絡的帳戶發布的一部關於休士頓領事館關閉的影片中,許多留言帳戶的大頭照並非亞裔臉孔,但都是以中文留言。/擷自Graphika報告


圖6:Graphika將圖5的帳戶大頭照重疊且模糊處理,發現所有大頭照的眼睛位置一致,此為人工生成照片的特徵之一;此外,所有大頭照的背景模糊,此也符合人工照片的特色。/擷自Graphika報告

參考資料

Graphika〈Spamouflage Dragon Goes to America: Pro-Chinese Inauthentic Network Debuts English-Language Videos

華盛頓郵報 〈Chinese network of fake accounts targets Trump with English-language videos

Graphika〈Cross-Platform Spam Network Targeted Hong Kong Protests: Spamouflage Dragon used hijacked and fake accounts to amplify video content