小玉Deepfake換臉A片受害者 高嘉瑜將推「AI換臉」管制法令

·4 分鐘 (閱讀時間)
民進黨立委高嘉瑜。   圖:陳佩君/攝(資料照片)
民進黨立委高嘉瑜。 圖:陳佩君/攝(資料照片)

[新頭殼newtalk] 已引退的百萬YouTuber「小玉」被刑事局警方破獲,擔任操盤販售換臉謎片的「台灣網紅挖面」Deepfake謎片群組幕後首腦,靠著換臉謎片賺取暴利,今(17)日遭刑事局循線逮捕。民進黨立委高嘉瑜也是這一波換臉A片的受害者之一,她下午表示,目前國內對於「AI 換臉」的法制規範不足,未經本人同意而發布的「AI 換臉」影片,其實就是一種變向散播假訊息的行為,她未來也將參考國際作法,致力於推動我國「AI換臉」管制之相關法令。

針對包含自己在內,大量的女星成為換臉A片的受害者,高嘉瑜痛斥,這樣的行為早已對女性的名譽造成不可抹滅的侵害。她認為,「不管是不是真的,更何況會有很多人認為是真的,這是最可怕的地方。無論如何,沒有人能接受未經自己同意的換臉影片在網路上流傳!」

高嘉瑜提到,目前國內對於「AI 換臉」的法制規範不足,未經本人同意而發布的「AI 換臉」影片,其實就是一種變向散播假訊息的行為,但綜觀我國現行針對假訊息管制的法規中,卻僅針對災害、食品、傳染病等假訊息才有做特別規範,對於「AI換臉」造假的影片目前仍無法可管。而就個人資料保護法的層面而言,因現行遭「AI換臉」的受害者多為公眾人物,照片等資料取得相對容易,臉部圖像若為合法公開或自行公開,自然也不在個資法保護範疇,說來說去,最後有可能成立的,也只剩下刑法上的妨害名譽罪了。

高嘉瑜認為,網路危害所產生的侵害具有持續性,甚至可能跟隨被害人一輩子。而妨害名譽罪的刑度卻屬相對輕微,因其立法之初,並未考量網路性暴力對被害人所造成的深遠影響,現如今繼續用舊條文來處理新的犯罪現象,顯然有罪責不相當的疑慮!

高嘉瑜提及國際因應「AI換臉」的相關做法,多著眼於「AI技術倫理」的確立,以及將其列為「假訊息」予以管制,她進一步以歐盟為例,歐盟所建立的「AI倫理指引」中,囊括了「影像的使用是否經過當事人同意」、「使用目的是否符合倫理性」、「是否落實資料保護措施」等,一旦有違反上開規範的情形,行政單位就會即時介入並配合網路平台開罰違規用戶。

高嘉瑜又點出美國的措施,不僅要求所有經過AI換臉技術處理的影像,皆須以浮水印標明影像係經竄改、以文字明示影像經過改動並簡述改動程度。更是直接將濫用「AI換臉」技術散播不實影像的行為納入刑罰規範!若使用AI換臉技術而有「意圖以性行為與裸體等類似特徵,侮辱或騷擾特定人者」,可處高達5年有期徒刑、行政罰鍰15萬美金、亦應負民事上的侵權損害賠償責任。

高嘉瑜表示,她未來也將參考國際作法,致力於推動我國「AI換臉」管制之相關法令,她認為有相關法令應包含四大關鍵,首先是建立獨立的網路影像真實性查核單位,同時提高網路平台對於用戶發布內容之監督責任,並將「AI換臉」之濫用視為獨立犯罪行為,明文規範其刑事、民事與行政責任,最後於技術層面上,開發相關人工智慧工具以因應之,例如,美國新創公司Deeptrace已開始著手研發深度偽造辨識技術,以辨識影片之真偽。

更多新頭殼報導
換臉謎片受害者 黃捷揚言提告小玉:變態網紅
小玉賣換臉謎片被逮!受害者龍龍發文怒嗆:噁爛網紅