Deepfake是什麼?深偽假影片恐將偷盜你的錢 網路銀行用戶要當心

·6 分鐘 (閱讀時間)

YouTuber小玉遭爆,利用深偽(Deepfake)換臉技術,將總統蔡英文、藝人鄭家純、立委高嘉瑜等人的頭像移花接木成色情影片牟利,不法所得逾新台幣上千萬元,震驚社會。Deepfake究竟是什麼?使用上有哪些別具爭議的灰色地帶?目前又有哪些防範措施呢?

Deepfake是深度學習(Deep Learning)與偽造(Fake)混合而成的單字,專指源自人工智慧(AI)的「生成對抗網路」(Generative Adversarial Network,GAN)偽造技術。(圖片來源:Getty Image)
Deepfake是深度學習(Deep Learning)與偽造(Fake)混合而成的單字,專指源自人工智慧(AI)的「生成對抗網路」(Generative Adversarial Network,GAN)偽造技術。(圖片來源:Getty Image)

Deepfake深偽是什麼?

深偽(Deepfake)一詞於2017年問世,是深度學習(Deep Learning)與偽造(Fake)混合而成的單字,專指源自人工智慧(AI)的「生成對抗網路」(Generative Adversarial Network,GAN)偽造技術。深偽可應用於仿冒影像及聲音,只需特定對象大量的影音素材,即可從現有數據產生更多新數據,製造出逼真的假影片。若將此技術用於影像合成領域,可使電影或遊戲製作更為省時;但在現實中,若與假訊息結合,可能讓不實內容影像製作變得氾濫。

Deepfake深偽技術正面用法

深偽技術有其正面價值,例如迪士尼曾利用該技術輔助,創造出擬真的電影合成畫面;也有新創團隊藉此讓愛因斯坦原音重現。知名族譜公司MyHeritage,更是推出一款名為「Deep Nostalgia」的線上工具,只要點擊數次手機頁面,就能讓古人的照片栩栩如生,甚至可讓逝去親人的照片「動起來」,不僅能轉頭、能眨眼,還能微笑。

但比起正面價值,Deepfake的負面爭議不斷。

Deepfake深偽爭議一:色情片移花接木 貶損人格聲譽

2017年美國社群網站Reddit上,一名帳號為deepfake的用戶張貼了一系列色情影片,他透過AI技術將色情影片中的人臉更換為名人,包含女星蓋兒加朵(Gal Gadot Varsano)、史嘉蕾喬韓森(Scarlett Johansson)與艾瑪華森(Emma Watson)都是受害者。

日前台灣YouTuber小玉等人,也利用深偽技術將知名網紅、明星與名人的臉「移植」到色情片上,並透過Telegram開設群組、招收會員販售牟利,嚴重貶損當事人形象與聲譽,全案依涉嫌散播猥褻物與妨害名譽等罪解送偵辦。這是台灣治安史上,首例使用AI演算深偽技術,衍生的新型犯罪。

除了明星可能受害,情侶分手以「報復性色情影片」威脅的事件屢見不鮮,當深偽技術門檻降低,可預見一般民眾未來也可能深陷「換臉」危機。

Deepfake深偽爭議二:變造言論或形象 恐致政界大動盪

色情片的應用之外,深偽技術也充斥於政治場域。2018年4月,外媒Buzzfeed以AI技術改變美國前總統歐巴馬(Barack Obama)的演說內容,使其說出:「川普(Donald Trump)總統完全就是個笨蛋」。2019年5月,社群媒體瘋傳聯邦眾議院議長裴洛西(Nancy Pelosi)演說時,結巴、咬字含糊的變造影片,看起來就像喝醉酒。

(請注意,以下為DeepFake變造影片)

2020年8月,時任美國民主黨總統參選人拜登(Joe Biden),在家中接受記者電視訪問時打瞌睡,26秒的變造影片極為真實。9月時,時任美國總統川普則與國務卿蓬佩奧(Michael Pompeo)在抖音(TikTok)中高唱「我愛你中國」,影片十分擬真。

假冒政治人物使其說出沒說過的話,或做出沒做過的事,成了有心人士在網路資訊戰上操弄政治風向的關鍵武器。不只對當事人形象有所影響,也可能導致政治、社會、經濟與外交層面大動盪。

Deepfake深偽爭議三:假造企業主發言 訛騙頻傳或干擾營運

2019年9月,有歹徒利用深偽技術的語音合成方式,模仿英國能源公司德國母公司的執行長聲音,與該公司出納人員通話,順利騙匯22萬歐元(約新台幣716萬)至跨國帳戶。2020年也有人在視訊會議軟體中,「偽裝」特斯拉執行長馬斯克(Elon Musk)發言。這一類假造企業高層發言的行徑,若遭惡意發布成企業利多或利空的消息,很可能干擾企業營運,甚至可能造成股民血本無歸。

Deepfake深偽爭議四:網路銀行應用 影響恐延伸至個人

隨著深偽技術日新月異,涉及的犯罪領域也不斷擴大。以查破社群平台假帳號起家的以色列新創Cyabra公司全球業務副總裁阿賽夫丹比(Assaf Danby)直言,「越來越多用戶透過視訊電話開戶,由於深偽影片能偽造某人身分,在視訊電話中,能順利通過銀行的人臉辨識系統審查」,因此他認為,下一波深偽攻擊,可能將鎖定網路銀行的用戶,民眾不得不當心。

延伸閱讀》Deepfake恐危國安 FBI警告是新興威脅

以AI還治其人之身 科技社群龍頭開發防偽技術

深偽技術的普及,對政治、國安、經濟、輿論各方面都影響甚鉅,包含歐美執法機關及科技巨擘均積極開發防偽技術,偵測並阻絕可疑影片。例如,微軟(Microsoft)與紐約州立大學水牛城分校(UB)等單位,研發利用眼角膜上的光線反射圖像,來辨識影像的真實性,有效率達94%。而臉書(Facebook)與密西根州立大學(MSU)則透過對假照片及生成照片的模型,進行逆向工程,以發現可用來偵測假照的特徵。

此外,臉書也開發「換臉影音辨識審核機制」,防堵換臉假影片流傳;推特(Twitter)亦跟進,明確標示換臉影音為假訊息。YouTube則在其現行社群準則內的垃圾郵件、欺詐行為與詐騙政策裡,就有禁止變造媒體資訊的規定。

在台灣「換臉」色情片仍無法可管 立委、總統力促修法

台灣近日發生的換臉色情片事件,可謂新型態的數位性暴力犯罪;然而,我國目前對此並無任何規範與罰則。立委高嘉瑜表示,未來將致力於建立獨立的網路影像真實性查核單位、提高網路平台對於用戶發布內容的監督責任,將AI換臉的濫用視為獨立犯罪行為,並明文規範其刑、民事等責任。總統蔡英文也強調,將重新盤點法規,研擬推動修法工作。