小玉「換臉謎片」高嘉瑜、黃捷受害 《黑天鵝》、《神力女超人》女主角都曾遭毒手

YouTuber小玉利用Deepfake換臉技術,將許多知名女性替換成色情影片主角並在網上販售,其中就包含立法委員高嘉瑜。(圖片來源/信傳媒編輯部)

YouTuber「小玉」(本名朱玉宸)經營「台灣網紅挖面」粉絲團,昨日被警方逮捕。他涉嫌利用AI(人工智慧)技術,將知名人物的臉孔移植到色情影片AV女優的臉上,並透過隱密性社群和會員機制來謀取暴利,受害名單高達數十人,不少藝人、網紅和政治人物都在名單當中,如鄭家純、黃捷、龍龍和高嘉瑜、學姊黃瀞瑩等人。

以假亂真的換臉技術

這是國內首起「換臉」影片犯罪案例,但其實在國外早已層出不窮,被用來惡作劇、栽贓甚至侮蔑特定對象。2017年底,「換臉」代碼技術首次出現在國外論壇Reddit上,由一名ID為Deepfakes的用戶發表,日後這個ID也成為這項技術的名稱。

這項代碼技術在發表後迅速聲名大噪,不久後便有人動歪腦筋,將技術濫用在移植色情影片上,原先僅在國外有相關案例,不料去年8月開始,色情網站開始出現台灣臉孔,駭客團隊利用Deepfake技術,將色情影片中女優的臉孔替換成台灣女星、直播主和網紅的面貌,以假亂真。

隱密社群販售合成影像

去年10月,大量合成色情影片開始在網路上流傳,粉絲團「台灣網紅挖面」利用社群網站推特和Telegram,向有意入群者收納費用,除了販售換臉影片以外,他們也不定期販售素人外流的私密影像,群組成員近6000人,受害者不計其數。只要能提供足夠的照片和影片,就連素人的臉都能被移植到色情影片當中。

入群制度嚴格,需要朋友引薦和繳納費用,小心翼翼地在隱密社群中交換合成的女性色情影像,這樣嚴謹的性犯罪行為,彷若南韓「N號房」事件翻版。

去年年底,網紅奎丁收到粉絲傳來的色情影片,詢問片中女主角是否是她本人,這才揭開這個粉絲團的冰山一角。藉由奎丁的事例,數位女力聯盟WIDI和《鏡周刊》、《蘋果日報》兩間媒體合作,報導「台灣網紅挖面」粉絲團的行動,試圖揭露他們的惡行。

YouTuber小玉利用推特經營「台灣網紅挖面」粉絲團,再引導至Telegram群組販售合成色情影片。(圖/翻攝自推特)

政治人物、知名女星都是受害者

然而奎丁並不是唯一一位受害者,國外有更多知名人物遭到Deepfake技術惡整、汙衊,甚至進行性羞辱。

臉書創辦人祖克柏的臉,便曾被移植到某支影片中,用他的聲音、他的臉說出「我要掌控從上百萬個臉書用戶那裡偷來的資料」,但並非他本人。在美國大選前夕,也有人惡意剪接前總統歐巴馬和川普的臉到另一支影片裡,說出侮蔑或滑稽的言語。在不知不覺及毫無防備的過程中,影像被悄然地移花接木,冠上從未說過、從未做過的一切。

除此之外,女星的性羞辱更加常見,經常會有人在色情影片網站上,赫然看見某個女星搔首弄姿的片段。其實那些並非本人真實拍攝,而是有心人士利用Deepfake技術合成。國外諸多女星,如《黑天鵝》娜塔莉波曼、《美女與野獸》艾瑪華森、《神力女超人》蓋兒加朵等都曾遭此毒手。隨著換臉影片的氾濫,「眼見為憑」這句話似乎不再適用,因為所見所聞都可能是AI人工智慧模擬數據合成的假象。

美、中簽署法案遏止氾濫

鑒於換臉APP的猖狂,極可能造成假新聞愈加猖獗,甚至進一步滲透國內政治,掀起惡鬥。美國前總統川普在2019年12月簽署聯邦法令,用以對付這項新興技術,該項法令屬2020年美國國防授權法案(NDAA)的一部分。兩項條款規定要求關於Deepfake外國武器化的報告,並要求政府將本次大選的國外勢力偽造資訊的資料通知國會,另外設立相關獎項,以鼓勵商業機構或研究機構研發偵測Deepfake的科技。

除美國外,中國也提出針對該技術的相關法案,明令出版或上傳涉及AI或VR科技的產物時必須進行自我揭露,若未適當公開資訊將是犯罪行為,並在2020年1月1日生效。

根據AI新創Deeptrace的報告顯示,截至目前為止,網路上仍有超過96%的Deepfakes影片,是未經當事人許可下合成製作的。此次小玉被揭開透過社群販售合成影片,雖是國內首例,但在國外早已頻繁發生,也有許多國家、社群平台祭出因應措施,例如臉書和推特便在今年初宣布下架Deepfake影片,然而防不勝防,小玉透過推特吸引群眾,再轉戰到Telegram群組中分流販售。

台灣現在無法可罰

更令人擔憂的是,知名藝人、網紅握有話語權能夠公開澄清,但一般民眾若被以合成的色情影片要挾,將毫無辯駁的空間。在台灣遭遇這類型的網路性暴力,能有防治措施嗎?

總統蔡英文昨日深夜在社群上發聲,宣布力促修法、打擊網路犯罪。今年3月,數位女力聯盟WIDI也曾邀集跨黨派立委范雲、賴品妤、王婉諭、葉毓蘭等人,共同提出「未經同意散布成人性私密影像防制條例草案」、「跟蹤騷擾防制法草案」等法案,希望補足現行法律漏洞,遏止網路性暴力。

然而在這幾項草案通過前,台灣現在並無特定法律可管控。數位女力聯盟五月受訪時指出,針對散布合成的色情影像,現行只能以妨害名譽和散布猥褻物品兩條罪名起訴,兩者皆是兩年以下的輕罪,但被散布出去的合成色情影像,卻可能傷害當事人一輩子。

更多信傳媒報導
民進黨2022佈局》徵詢六都市長人選 傳盼林佳龍轉戰選台北市長
謝志偉差點可以當黃埔軍校校長? 陳以信出手阻止 蔡適應緊急撤案
好巧!國泰世華ATM出包影響超過4萬筆交易 金控資訊長剛好「屆齡退休」異動

更多相關新聞
小玉賣換臉謎片 法務部承諾「一個月內修法」
遭小玉換臉謎片 女星身心受創開告
成變臉謎片受害者怎辦?衛福部教戰「求助3步驟」
唯一受害男性!館長也遭小玉換臉 怒罵:不怕被處理嗎?
小玉事件龍龍遭狠酸 網籲就事論事

相關新聞影音