美校園傳多起AI生成同學裸照 逾20州擬立法規管

隨著生成式人工智慧快速發展,為防止學生藉此作弊或代寫作業,學校緊急限制生成式人工智慧的使用。然而,美國校園裡卻又發生多起深偽的未成年性剝削案件。

《紐約時報》報導指出,美國的青少年利用APP「nudification」,藉參與學校舞會等活動拍攝女同學的清晰面部照片,並合成為裸露乳房或生殖器的圖像,並透過Snapchat與Instagram等社群平台,以群聊轉發這些合成這片

過去2個月,類似事件就發生在伊利諾州、加州與西雅圖的校園裡。聯邦調查局警告,傳播由人工智慧生產的兒童性虐待素材,屬於違法行為。

兒童性剝削專家認為,這種合成的深偽圖像可能帶來嚴重後果,使用未經同意或人工智慧生成的圖片來騷擾與欺凌年輕女性,將損害他們的心理健康與人身安全,甚至影響未來的大學與職場生活。

史丹福網路觀測站(Stanford Internet Observatory)研究學者普費弗柯恩(Riana Pfefferkorn)指出,「此現象非常突然,可能會讓學校措手不及。」部分地區似乎尚未做出應對,將使學生權益難獲保障。

比佛利山莊的比佛利維斯塔中學(Beverly Vista Middle School)2月就發生,5位學生創作並分享女性深偽性裸露照片案件,最終校方開除加害者。聯合學區校長布雷吉(Michael Bregy)強調絕不允許製作同學色情照片。

美國有部分州開始制定法案管理,路易斯安那州規定若製作、傳播、推廣未成年合成性圖片,將面臨5至10年的監禁。麻薩諸塞州除了將傳遞、製作未成年性圖像視為犯罪,還需教導學生如何負責任的使用生成式人工智慧。

目前僅對生成與傳遞未成年性影像進行規範,卻未究責裸體應用程式的開發者。律師漢利(Elizabeth Hanley)認為,「需要立法阻止商業化,這才是生成式未成年性圖像流傳的根源。」

更多公視新聞網報導
人工智慧快速偵測腫瘤 爭取治療時效
美富豪涉性販運網路 長年利誘弱齡少女
首幅人工智慧畫作 1340萬台幣賣出