刑事局破獲YouTuber小玉以AI換臉牟利千萬!高嘉瑜也受害 批數位性暴力

·5 分鐘 (閱讀時間)

網路流傳「AI 換臉」色情試看片!刑事局網路偵蒐發現為社群「台灣網紅挖面」利用AI換臉技術將知名人物雞排妹、立委高嘉瑜等人頭像移花接木至性愛影片AV女優身上,逾百人受害,牟取不法獲利逾新台幣上千萬元,刑事局昨天循線查主嫌YouTuber小玉等3嫌,全案依法送辦。小玉送檢方複訊後諭令50萬元交保。

刑事局查獲youtuber小玉將網紅「換臉」A片女角牟利。(中央社)
刑事局查獲youtuber小玉將網紅「換臉」A片女角牟利。(中央社)

受害者之一的民進黨立委高嘉瑜今天批評這是無法可管的性暴力,主張將「AI換臉」濫用視為獨立犯罪行為,並明文規範其刑事、民事與行政責任。

刑事局今天召開破案記者會,偵查第四大隊副大隊長柯志仁表示,警方日前執行網路情蒐時,發現數名網紅、藝人的性愛影片自去年7月起於網路上流傳,但求證發現均非本人所拍攝。警方進一步追查發現,上述影片是從社群軟體推特粉絲團「台灣網紅挖面」流出,犯嫌透過人工智慧換臉 AI Deepfake技術,將多名知名網紅、藝人或政治人物的臉部圖像移植到色情片AV女優身上,再後製成色情影片販售得利。

警方調查主嫌先在推特上發送廣告招攬會員,有興趣者須先匯款支付新台幣400元至1900元不等的費用,才能加入其通訊軟體Telegram群組會員,或是得到影片連結雲端網址,進而觀賞上述變臉謎片。

專案小組透過科技偵查發現,經營「台灣網紅挖面」的主嫌為26歲朱男,他也是知名百萬YouTuber小玉,其團隊還會在粉絲團的私密聊天室不時舉辦「票選」或「集資」活動,選出知名人物擔任性愛影片主角。警方初步估計,小玉等嫌至今年10月初不法獲利約1100萬元,招募會員逾8000人,且已知變臉影片受害者超過上百人,包括藝人鄭家純(雞排妹)、YouTuber奎丁和立委高嘉瑜都在內。

專案小組經長期偵蒐,見時機成熟於昨天持搜索票到小玉位於新北市樹林區租屋處執行搜索行動,現場拘提小玉、22歲莊男和24歲耶女到案。現場並查扣現金458萬餘元、金融帳戶存簿13本、電腦2台、硬碟2顆、手機2支、百萬名車1輛等證物,並由法院裁定扣押不法金流共3筆。

經警方調查了解,主嫌小玉主要負責剪輯影片和回覆網友留言,共犯莊男負責找影片素材和整理,耶女則是處理金流。小玉到案後在偵訊供稱,起初只是在20多人朋友群組分享有趣的剪輯影片,但隨著人數增長,才轉而藉此牟利。全案詢後,刑事局於今天將3嫌依涉散播猥褻物、妨害名譽等罪解送新北地檢署偵辦。

高嘉瑜今天在臉書發文指出,這些在網路上未經同意而被換臉、製成色情片的受害者將近百人,規模驚人,除了名網紅、藝人明星,也不乏女性政治人物,這樣的行為早已對女性的名譽造成不可抹滅的侵害。她認為,未經本人同意而發布的AI換臉影片,其實就是一種變相散播假訊息的行為,但綜觀現行針對假訊息管制的法規中,卻僅針對災害、食品、傳染病等假訊息才有做特別規範,對於AI換臉造假的影片目前仍無法可管。

高嘉瑜表示,未來將參考國際作法,致力於推動台灣AI換臉管制的相關法令,包括建立獨立的網路影像真實性查核單位、提高網路平台對於用戶發布內容之監督責任、將AI換臉的濫用視為獨立犯罪行為,並明文規範其刑事、民事與行政責任。在技術層面上,高嘉瑜說,可開發相關人工智慧工具進行因應,例如美國新創公司Deeptrace已開始著手研發深度偽造辨識技術,以辨識影片的真偽。

被害人之一的高雄市議員黃捷針對網紅「小玉」涉嫌利用換臉技術散布性愛影片,痛斥「變態網紅」,她要為所有受害女性討回公道,對於惡意又下流的性犯罪者,一定要獲得應有的懲罰。黃捷也呼籲「無論是和我一樣被惡意合成,或私密影像遭外流,請讓我陪著妳勇敢,一起把狼抓出來,對於這款惡意又下流的性犯罪者,一定要獲得應有的懲罰!」

警方天持搜索票到小玉位於新北市樹林區的租屋處執行搜索行動,拘提小玉(朱男)、莊男和耶女到案。經送新北地檢署複訊後,檢方將小玉諭令50萬元交保、莊男10萬元交保,耶女被釋回。

更多社會相關新聞
普悠瑪一審宣判結果出爐 家屬:台鐵依舊沒改善
參加虎豹潭體驗營 9歲女童冷靜自救
城中城燒出問題...承租戶拿出租約 出租人竟無產權
惡搞水槍當吸管 加水站提告求償男同學
囂張小偷 冒用證件租屋辦門號 還登記領取五倍券