全球首國立法打擊AI性犯罪 英生成兒少性影像最重判5年

AI科技日新月異,生成栩栩如生的圖片只要短短幾秒,但是這也讓犯罪分子有機會快速製造大量兒童色情影像,甚至利用正常的兒童照片用來生成色情內容。

英國網路觀察機構表示,在2023年有51起AI生成兒童性虐待影像的通報案件,到了2024年則有245起,暴漲了超過4倍。

英國政府為了打擊兒童色情,即將推出新法律,把使用AI工具生成來製造兒童性虐待的影像列為非法,最高可處以5年刑期。實施以後,英國將會是全球第一個立法打擊AI性犯罪的國家。

英國內政大臣表示,AI的出現,就像是給歹徒更有利的犯罪工具。

英國內政大臣古柏表示,「網路威脅、恐嚇,可能對兒童或青少年造成創傷,還有透過直播要求他們所做的事,這對兒少來說傷害都很深。有人正在利用新科技剝削兒少,我們還必須做好多事,來讓他們更安全。」

除此以外,官方也發現,兒童色情與性犯罪的網絡十分複雜、型態多樣。因此這部新法律將會多管齊下,除了製造影像之外,持有、散布這些內容,以及出現兒童色情影像的網站,通通都會被處罰。經營平台的科技公司有法律義務,必須主動審查並移除相關內容。

專家則提醒,由於網路科技的特性,兒少性虐待影像可能跨國流傳,政府在國內立法只是第一步。

網路觀察基金會執行長雷希爾呼籲,「這是國際犯罪,我們督促英國政府發揮國際影響力,促成全球其他政府採取類似行動。」

AI發展迅速,帶來便利與創意,卻也被不肖分子利用,生成犯罪內容。在發展科技與打擊犯罪之間,要如何取捨將是各國的難題。

更多公視新聞網報導
英國立法禁AI生成涉兒童性虐待影像 違者最高處5年徒刑成全球首例
開源AI資料庫遭控含有兒童色情素材 LAION緊急下架審查
網傳與女子飯店私會影像 鄭文燦澄清非影中人已提告