網紅小玉製作「換臉謎片」遭逮!被負面新聞耽誤的黑科技 Deepfake 有何商業優勢?

編按:已引退的知名 YouTuber「小玉」涉嫌於 Telegram 群組散布多則名人的 Deepfake 造假色情影音,不法所得逾 500 萬元,於今(18)日遭刑事局警方逮捕。

受到層出不窮的負面新聞影響,AI 換臉技術 Deepfake 的討論大多與色情、假新聞及恐怖攻擊沾上邊,然而不可否認的,該技術仍存在著極大的商業價值。本文旨在討論 Deepfake 技術在影音行銷時代的商業優勢。(2021.10.18 更新)

關於Deepfake(偽造技術),或許不是每個人都知道,但在社群媒體上流竄的假新聞、「變臉」合成影片等,你勢必聽過看過,這些如假亂真的內容大量且快速的生成散播,背後所憑藉的技術就是Deepfake。雖然這項技術在誕生初期被不當運用,以至於聲名狼藉,但在商業領域的潛在價值,仍是足以顛覆產業規則,改寫商業模式的一項技術。

這幾年Deepfake可說是深度學習領域的熱議話題,最為人所知的,莫過於被有心人士用來造假的歐巴馬辱罵川普的影片。但對Deepfake先入為主的負面想像,也因此限制了眾人探索它正面應用的可能性。要了解它,我們不妨從Deepfake技術的簡介著手。

Deepfake的運作原理,簡單說,就是利用兩組機器學習模型進行監督式學習的過程,一組模型負責進行混亂的、虛假的數據產生(Generator),另一組模型則進行數據鑑別(Discriminator),不斷提升鑑別出前者產出的假數據的機率,並跟輸入的原始資訊對照,不斷迭代修正,直到兩者之間達到平衡,也就是後者再也無法判斷前者的數據真偽。這組達到平衡的模型,就可以用來產製新內容了。

以產製造假的合成影片為例,一開始數據產生端,會產生出許多不合理的圖像(例如五官歪扭、或缺少一隻眼睛、耳朵),直到不斷被鑑定端判定為偽,迭代出越來越近似正確圖像的內容,直到鑑定端再也判斷不出當下數據的真偽,這張圖象就是完成的合成圖了。

目前,網路上已經有不少開源的Deepfake軟體,例如Github上的Faceswap專案,可以提供下載使用。不過,各國目前對於Deepfake可能引發的法律爭議並無明確規範,也因此限制了Deepfake的商用想像,例如:曾在中國大陸竄升到App下載榜前三的變臉程式Zao,就是因為圖片使用的隱私權問題,遭受使用者及平台方抵制。

Deepfake:「合法偽造」的商業應用

雖然Deepfake技術一度聲名狼藉,以負面形象進入大眾視野,但未來若在法律及制度面上能妥善管理,仍可期待它發揮強大的商業潛力。Zao的開發者黎顥就表示,幾可亂真的Deepfake偽造技術,最快在半年內就可問世,這代表Deepfake離商業應用的可能又更接近了一步。

首先,Deepfake可望成為企業在行銷與市場廣告上的有效工具。即使現在許多企業開始以「虛擬網紅」當代言人,「真人」仍有難以取代的地位。若是藉由Deepfake技術,企業將不再需要聘請藝人進棚攝製宣傳影片,而可以用購買肖像權方式,以替身搭配Deepfake技術製播宣傳廣告,降低行銷成本。這也將使既有內容產製鏈的分工型態發生重整,例如外景劇組、化妝師、攝影師的工作比重,將有可能逐漸轉移至後端製作的AI技術人員。

此外,去年瘧疾防治頻道「Malaria must die」也以Deepfake技術,製作出一組讓足球員貝克漢以九種語言(包括中文)說出瘧疾防治口號的YouTube影片,其擬真程度已與真人拍攝的影片完全無法區別;這是Deepfake在影像與音紋重建的成功案例之一。

除了模擬藝人或名人,Deepfake也能利用使用者、消費者本身的照片當作數據進行建模,讓其能應用於線上導購的流程中。例如虛擬試衣、虛擬化妝間等──試想,若網購平台上的模特兒都改換成消費者本人的高解析動態影像,馬上就能知道這件衣服是否適合自己。

另一方面,正如去年在俄羅斯聖彼得堡展出的達利展,利用Deepfake技術讓超現實畫家達利「復活」,並在錄影中與觀眾互動一樣,Deepfake也可以將逝者的形象與音容召回。若暫時放下倫理議題,這在情感經濟(Emotional Economy)的領域上,其實具備著極大可能性。

從生物層面來說,人類大腦中特化出一塊被稱為「梭狀迴」的區域,這是專門處理人臉辨識(Face Recognition)的區域,並與文字記憶相關聯,人臉是誘發情感與記憶的重要因子。藉由Deepfake技術,搭配大量逝者的聲紋、照片進行機器學習,並以其生前的社群行為、對話文字數據分析出言語和認知模式,就能有可重建出一個逝者的「數位人格」,讓逝者某種程度獲得了數位世界的永生

Deepfake技術正如雙面刃,可能替人類社會帶來沉溺與詐騙,也可能帶來便利與安慰。與目前大部分ICT應用不同,Deepfake可說是技術應用超越現行法令與市場規範的一個例子,雖然黎顥對Deepfake的預言正逐步實現,但這項技術能否繼續普及,關鍵在於現實社會的接受度。