南韓大量網路群組流傳深偽影片 近4成受害者未成年估上百校遭殃

BBC報導,南韓媒體和社群用戶近期發現,Telegram出現對應全國各地學校的大量聊天群組,正在發布和分享用深偽(Deepfake)技術製成的色情影像。

該類型的聊天群組通常由學生上傳認識的同學或老師照片,群組內其他成員再以深偽換臉產出露骨畫面;也有嫌犯從Instagram等其他社群平台截取受害者照片當作素材。韓聯社估計,受害學校可能超過100所;有當地學生則開發出深偽受害學校地圖。

(圖/截自深偽受害學校地圖)
(圖/截自深偽受害學校地圖)

《衛報》報導指出,其中一個受害者包括大學生、老師及軍人的Telegram聊天室,就有約22萬名會員。根據韓國警察廳統計,今年前7個月共接獲297起性暴力相關深偽犯罪案件,高於去(2023)年的180起,與2021年數據相較更幾乎翻倍。

韓聯社也報導,根據南韓官方機構婦女人權院資料,今年求助的781名深偽受害者中,有約37%為未成年人。

這些聊天群組的存在,是在Telegram創辦人度洛夫(Pavel Durov)24日在法國被拘留後才獲得揭露。度洛夫被控允許其通訊平台存在販毒和兒童性虐待相關內容,並在28日被法國當局起訴。

  • 法國正式調查Telegram創辦人 500萬歐元交保、限制出境

據《東亞日報》報導,深偽影像已蔓延至線下,成為加害者威脅、騷擾的工具。去年 11月就有男高中生用女同學照片製作深偽色情影片,用來威脅、霸凌受害者的案例;7月也有1名男子因製作深偽影像被捕,逃脫後跟蹤受害者到其住家。

女權活動人士朴智賢(音譯)認為,南韓政府需要宣布「國家緊急狀態」以應對深偽色情問題,因為深偽內容只需1分鐘即可創造,且任何人都可以進入聊天室,「這樣的事件在全國各地的國中、高中和大學都在發生。」

對此,南韓總統尹錫悅下令要求徹查並解決這些數位性暴力,目標是根除相關犯罪,也警告所有女性都是潛在的受害者。

南韓媒體監管機構已於28日召開會議研議解決方案,有議員今(29)日提出修正《資訊通信網路法》,要求網路平台業者標示出AI生成的內容。

更多公視新聞網報導
少女深偽色情影像不勝枚舉 美推法案允提民事訴訟
去年台人被騙逾30億元 投資詐騙居多