深偽女性色情影像在Telegram散播 南韓「N號房2.0」數百校園恐受害

Telegram應用程式標誌。路透社
Telegram應用程式標誌。路透社


南韓2019年底揭露「N號房」事件,一個在Telegram創建的聊天室分享大量透過不法手段取得的性剝削影片。最近南韓校園再度發生類似情況,這次流傳的影片有許多是透過深偽(Deepfake)合成女性臉部而製成,南韓政府今天(8/29)召開緊急會議,同意加強打擊深偽造假性犯罪,並將尋求Telegram等社群平台配合刪除深偽影片和進行追查;然而,Telegram會否配合則很難說。

綜合韓聯社、《韓民族日報》與路透社等報導,近期在Telegram上發現了一個用深偽技術製作色情影像並分享給其他網友的大型聊天室(群組),已確認至少30多名受害者,大部分都是仁川的仁荷大學在校生或畢業生。

針對仁荷大學受害者的聊天室,成員多達1200人,經營者已被捕,但根據調查,很可能不只仁荷大學學生受害,實際上針對全國各地區國高中和大學都有細分不同的聊天室,不少聊天室都有數千人以上。數百間學校名稱出現在這類Telegram聊天室名單上,不過目前還不確定是否這些學校都有人受害。

這類深偽影片大多是將女性臉孔合成其他人的身體、或者用人工智慧(AI)製作的女性胴體身上,再用AI深偽該名女性的聲音說出一些帶有性暗示的話。

犯罪份子從其他社群平台如Instagram上「擅自」擷取女性的照片,受害者不只大學生,也包含未成年青少女、女性教師、女兵等。製作出色情影像後,犯罪份子除了將這些影像在Telegram上分享或兜售,也會再將一些影像上傳到其他社群平台,並附上Telegram連結,吸引更多受眾上鉤、付費買更露骨的畫面。

由於Telegram可以創建20萬人以上的聊天室,這類色情聊天室成員數以千計並不稀奇。Telegram還有加密功能,警方想調查必須有平台方的配合,否則很難找到嫌犯;Telegram犯罪份子只要一得知有人檢舉、或調查風聲走漏,立刻刪除上傳到頻道或聊天室的資料和設備裡保存的檔案,保險一點就刪除帳號,那幾乎就死無對證。

破獲N號房後,不法色情影像犯罪仍增加

2020年揭發的N號房事件,也是在Telegram上進行,N號房聊天室最早是2018年開始創建,用數字編號,因此稱為「N號房」,至少有8個。N號房創建人和主要營運者2020年被捕,受害者超過70人。

而這次針對仁荷大學學生的聊天室,據信是2020年開始運作,仁荷大學一名畢業生去年年底得知自己被合成色情影像Telegram聊天室後報案,事情才浮上檯面,警方今年3月抓到一名嫌犯,目前「仍在」全力追聊天室主要營運者。

此事再次引發南韓女性焦慮,一些女性開始把自己的Instagram轉為私人帳號,或者乾脆刪光人物照片。

據南韓警方,南韓深偽造假的性犯罪數量,2021首度統計時是一年156起,今年截至目前已有297起,大多數加害者都是青少年,受害者通常是女性。南韓民眾去年向南韓廣播通信審議委員會(KCSC,類似台灣NCC)申請強制刪除色情深偽內容的案件數將近7200件,今年目前已有6400多件。

冀望社群平台配合刪除和調查

南韓政府今天召開緊急會議,同意南韓廣播通信審議委員會前一天開會結果,認同應打擊深偽造假性犯罪,為受害者設立24小時熱線,製作深偽露骨內容的最高刑期將由目前的5年徒刑提高至7年。警方也表示,將展開為期7個月的打擊網路性犯罪行動。

2024年8月28日,南韓廣播通信審議委員會主席柳熙林(中)主持針對數位性犯罪的會議。路透社
2024年8月28日,南韓廣播通信審議委員會主席柳熙林(中)主持針對數位性犯罪的會議。路透社

據南韓廣播通信審議委員會主席柳熙林(Ryu Hee-lim)28日的說法,監控數位性犯罪的調查人員會從目前的70人增加一倍,並規劃成立一個諮詢機構,負責與社群平台公司協調,希望社群公司協助刪除不法手段取得或製作的色情影像、阻止深偽內容流傳,至於那些總部或伺服器不在南韓的社群公司,則希望能與他們定期面對面開會。

委員會鎖定的公司包含Telegram、X平台、臉書、Instagram、YouTube。這當中最主要的色情散播管道Telegram,卻也是最棘手、最少配合調查的。

Telegram總部位於杜拜,向來不回應各國執法單位的要求,幾乎不會提供數據和使用者資料,也不會主動通報可疑的活動,因此它對於生活在專制政權下的人民是很有用的發聲管道,用來策畫反抗或抗議行動也很方便;但另一方面,對恐怖組織和犯罪份子要策畫攻擊、毒品販運、色情交易、詐欺洗錢也一樣方便。

Telegram創辦人杜洛夫(Pavel Durov)近日也因此在法國被捕,法國檢方指控他縱容包含兒童性交易在內的犯罪;杜洛夫28日以500萬歐元(約1.78億元台幣)交保,限制出境。Telegram則強調,他們有積極抑制平台上的有害內容,透過網友檢舉、結合「先進的」人工智慧工具,每天刪除了數百萬條有害內容。

《太報》關心您:若遭到性騷擾或性侵害,請撥打113專線,尋求專業協助。

更多太報報導
專家:Telegram拒配合執法部門 鮮少舉發兒童色情影像
Telegram創辦人在法被捕 俄政客譏:他以為沒有祖國能活得精采
馬斯克聲援籲放人!Telegram創辦人在法被捕 觸發言論自由之爭