AI換臉騙過軟體 專家:恐增加詐欺犯罪

·2 分鐘 (閱讀時間)

陳是祈

AI換臉技術已經可以騙過臉部辨識系統。圖中馬斯克並非本人,而是AI換臉技術。(Photo from網路截圖)
AI換臉技術已經可以騙過臉部辨識系統。圖中馬斯克並非本人,而是AI換臉技術。(Photo from網路截圖)

【台灣醒報記者陳是祈綜合報導】AI換臉的技術可以騙過臉部辨識系統!根據研究報告,AI換臉(用其他人臉取代影像中原有的人臉)以假亂真,已經可以騙過亞馬遜、微軟等科技公司的臉部辨識系統,成功率高達將近8成。專家憂心,若臉部辨識系統的技術趕不上AI的革新速度,恐怕網路上會出現越來越多假身份詐騙,甚至牽涉到選舉造假、色情犯罪等。

AI換臉數量大增

VentureBeat報導,AI換臉(此技術簡稱為Deepfake)是在真人影片中,以其他的人臉來替換影片中原有的臉。根據科技公司Deeptrace的研究數據,從2019年10月到2020年6月,網路上Deepfake出現的數量增加了330%,高峰時達5萬多起,尤其有不少名人的臉被套用在色情影片中,被有心人士用來騙取點閱率或者詐財。

韓國成均館大學的研究報告指出,AI換臉的技術已經可以欺騙現有的臉部辨識技術,如微軟和亞馬遜開發的系統,根據實驗,微軟系統成功率高達78%,亞馬遜則成功高達68%。研究團隊還嘗試要申請使用Google的臉部辨識技術來實驗,但被該公司拒絕提供技術。

恐造成詐欺犯罪

研究人員表示,AI換臉技術發展太快,現有的臉部辨識系統漸漸跟不上,且每種臉部辨識系統應對AI換臉攻擊的模組都不同,因此很難百分百防範。研究團隊警告,若不正視該問題,未來會發生更多資安危機和詐欺犯罪,人們更容易假冒他人身份,騙過各種身份偵測機制。

為了防範AI換臉技術,臉書與亞馬遜、微軟率先展開防範Deepfake的技術競賽,該競賽於去年6月結束,希望能藉由各界高手的幫助來打擊換臉犯罪。微軟的客戶安全部經理Tom Burt表示,面部驗證若敵不過AI換臉技術,很有可能未來的新聞報導、社群影片等都不再有可信度。

更多國際相關新聞
南韓出現「人口死亡交叉」 專家:恐成地球首消失國家
反制軍政府血腥鎮壓 緬甸工會聯盟籲「罷工直到恢復民主」
無視拜登調停 沙國再度轟炸葉門報復石油設施遭無人機攻擊
會見陳屍沙灘男童父親 教宗結束4天和平之旅
疫情嚴峻引民怨 日本民眾上街高喊:取消東奧

今日推薦影音