AI換臉騙過App,林俊傑和我們都怕

·7 分鐘 (閱讀時間)

就在幾天前,B站(嗶哩嗶哩)和B站上的一個UP主被林俊傑告了,而且林俊傑勝訴了。目前這位UP主需要向林俊傑賠償27.5萬元,原因是這位UP主用AI換臉技術製作了大量林俊傑的鬼畜視頻,從而侵犯了林俊傑的肖像權。

圖源:天眼查

林俊傑不是第一個因AI起訴的明星,也絕不是最後一個。

與明星相比,更慘的是普通老百姓。明星可以靠自己身上的光環,吸引全社會關注,而當普通人的臉被“偷”走了,他們該怎麼辦?在千千萬萬普通人的生物信息被利用之後,一條流傳、販賣個人隱私的鏈條正在暗處肆意生長。

圖源:網絡

01 明星頻中招

早在2019年,國內就掀起了一股“換臉”風潮。

B站UP主“換臉哥”將94版《射鵰英雄傳》影視片段中演員朱茵的臉替換成楊冪,迅速在網上發酵並引發爭議,B站視頻截至刪除前點擊量超20萬,微博話題閱讀量1.3億。

這次惡搞林俊傑的視頻也來自於B站,B站的鬼畜區是“換臉重災區”之一。《IT時報》記者打開B站搜索“換臉”,出現數千個相關視頻,包括“宋小寶換臉彭於晏”“賈玲和沈騰版女兒國橋段”“復仇者聯盟演起武林外傳”等。除了在特寫鏡頭時,會出現膚色、光影等細微瑕疵,這些換臉視頻整體看上去幾乎以假亂真,將偶像的臉換到相應角色中成為網友的搞怪“新口味”。

圖源:Bilibili

就在林俊傑狀告B站UP主之前,8月28日,藝人劉昊然的工作室也發布聲明稱,有人利用AI換臉技術傳播對劉昊然帶有侮辱性的視頻、截圖,同時還含有誹謗言論的聊天記錄。該工作室表示,今年1月就曾被惡意傳播,目前已向警方報案。

據外媒報道,海外明星同樣深受其擾,泰勒·斯威夫特、艾瑪·沃特森等多位女演員也曾被換臉成為不雅影片的女主角。

02 “換”起來很簡單

為何AI換臉技術的聲勢如此浩大?原因在於技術成本和經濟成本的門檻都不高。

不需要先進的裝備,只要一個軟件就可以。比如陌陌旗下的“ZAO”就因為人臉合成視頻火爆一時,只需要上傳一張自己的照片就可以把自己的臉換到一位明星的頭上,融合效果非常好,但這款軟件沒紅多久就因為隱私、倫理等問題備受輿論的詬病。

在B站上,除了有UP主自制的換臉視頻之外,換臉教程也是受到歡迎的熱門內容之一,點擊量最高的超過20萬。

《IT時報》記者在QQ群裡搜索“換臉”,相關群有數百個,熱度最高的一個群以定製視頻換臉、圖片換臉等為主要業務,群成員接近400人,並且開發了QQ小程序“八零換臉”和微信小程序“換臉變裝秀”。

圖源:QQ

03 騙過肉眼

低成本、低門檻地獲取和運用,讓不法分子打起了“AI換臉”詐騙的主意。近來,有不少關於“人臉識別”的案例。

南京警方曾接到小李(化名)報警稱,被詐騙3000元。小李介紹,大學同學通過QQ向她借錢,對方打過來一段四五秒的視頻電話,小李看到確是本人,便放心轉賬。但在第二次轉賬時發現異常,再次撥通對方電話才得知同學的賬號被盜。警方判斷,那段視頻很有可能被人換了臉。

江蘇常州一90後小夥因好奇和騙子“過招”被騙11萬,小夥子明知可能遇到了裸聊騙局,但出於好奇想看看騙子是怎樣實施詐騙的。結果只因露了一下臉,就被騙子的AI換臉技術坑了。騙子給他AI換臉偽造了一段“裸聊視頻”,告知如果不“花錢消災”,就讓他抬不起頭。無奈小夥將僅有的11萬元全部轉賬後,騙子才罷休。

04 逃過系統

對普通人來說,大家都是肉眼凡胎,AI換臉後得到的視頻確實真假難辨,但更吊詭的是,如今一些需要人臉識別的App也可能被一張會動的“假臉”所矇蔽,AI換臉可以騙過開卡環節中的人臉識別系統。

據媒體報道,近日,上海市虹口區人民檢察院通報了一起利用人臉識別技術,為他人開具增值稅普通發票價稅合計超過5億元的案例。犯罪分子通過相關政務平台完成注冊“皮包公司”,通過平台上人臉識別是注冊成功的關鍵環節。

應用商店裡的“活照片App”

據犯罪團伙中專門從事人臉識別破解的成員表示,一般先從他處以每個30元的價格購買他人的高清頭像和身份證信息,再利用“活照片”等App對高清頭像進行處理,讓照片“動起來”,形成包括點頭、搖頭、眨眼、張嘴等動作視頻,騙過平台人臉識別驗證系統。據犯罪分子交代,其破解的App涉及政務、安防、金融、支付、生活消費等,這些App在大多數應用市場都可以下載。最終,涉案人員因犯侵犯公民個人信息罪被追究刑事責任。

05 App活體檢測標準有待提高

互聯網上充斥著大量的人臉和身份信息,這些信息為犯罪分子提供了“養分”,而一些App對技術的把關不嚴則又為虎作倀。

極棒實驗室安全研究員宋宇昊曾經做過此類實驗,通過破解可以騙過一些App的人臉識別系統。

“技術上並不難,先選取一張要偽造的人的照片,提供給特定的avatarify的AI程序,隨後攻擊者用連接著該AI程序的攝像頭對著自己,自己根據App人臉識別的提示進行眨眼、張嘴等動作,照片就會跟著攻擊者同步學習這些動作,從而騙過一些App的人臉識別系統。”宋宇昊告訴《IT時報》記者,現在能被破解的App多數採用識別表情動作的方式來做活體檢測,這是比較容易被破解的。

宋宇昊還表示,一些安全做得好的廠商改進了活體檢測技術,破解就有難度了。“比如像進行隨申碼等人臉識別驗證時,會有紅綠藍光在人臉周邊閃爍,這種就比較難破解了。”

據瞭解,有的光主要捕獲摩爾紋、反光、人臉畸變等信息,有的光則捕捉手機邊界、紙張邊界等明顯攻擊信息,還有的光捕捉相關背景信息。

圖源:東方IC

技術的不斷迭代,讓通過“深度偽造”技術製造出人類用肉眼無法識別的“假臉”成為可能,數據隱私、技術濫用等引發的安全問題愈演愈烈將為社會公共治理帶來嚴峻挑戰。對於人臉識別的發展,有專家用“泛濫成災”來形容。

清華大學法學院長聘教授勞東燕曾對媒體表示,人臉識別應用的最大獲益者不是普通的用戶或消費者,而是給企業、產業界、相關部門帶來便利,企業獲得盈利,相關部門在管理上更加方便,但卻把風險主要轉嫁給了作為用戶的個人,這對普通社會公眾來講並不公平,推廣人臉識別技術應當持謹慎態度。

業內人士建議,監管方可以推出App活體檢驗的技術標准和門檻,特別在金融等與個人財產相關領域防範偽造假臉帶來的財產損失。

本文來自微信公眾號“IT時報”(ID:vittimes),作者:潘少穎 江麗雯,編輯:王昕 挨踢妹,36氪經授權發布。

本文經授權發布,不代表36氪立場。

如若轉載請註明出處。來源出處:36氪