懸賞1000萬美元，打假AI換臉，Facebook發起Deepfakes檢測挑戰賽

近日，Facebook宣佈啟動一項“Deepfake視頻檢測挑戰賽”，壕擲1000萬美元，懸賞能夠最好地檢測出利用Deepfake技術製造的假視頻，包括微軟、MIT、牛津大學，加州大學伯克利分校等業界學界聯合支持。

科學家們終於要“以 AI 攻 AI”了。

Facebook宣佈了一項名為Deepfake Detection Challenge（DFDC）的挑戰賽，壕擲1000萬美元，懸賞能夠最好地檢測出利用Deepfake技術製造的假視頻。

該項競賽合作夥伴包括微軟、康奈爾理工，麻省理工學院，牛津大學，加州大學伯克利分校，馬里蘭大學等，Facebook還將針對挑戰賽發佈一個新數據集。

Facebook的首席技術官Mike Schroepfer表示，挑戰的目標是“創造出每個人都可以使用的技術，以便更好地檢測AI何時被用來改變視頻以誤導觀眾。”

Deepfake檢測挑戰賽將包括一個數據集和排行榜，以及撥款和獎勵，以刺激行業創造新的方式來檢測和防止通過AI操縱的媒體被用來誤導他人。

懸賞1000萬美元，挑戰賽獲學界支持

Yann LeCun 曾在 Twitter 上提問：

講真，要是當初知道卷積神經網絡 (CNN) 會催生 DeepFake，我們還要不要發表 CNN？

他說：“假設在上世紀 80 年代那時我們能夠預見 CNN 的這些負面影響，我們該不該把 CNN 模型保密不公開呢？”

LeCun最後的結論是，就算自己不開源，CNN (或者類似的東西) 還是會被其他人發明出來(實際上，有些人可以說差不多已經做到了)。

既然已經開源，並且已經導致了負面影響，思考如何阻止和對抗這些負面影響更有價值。

這次，Facebook投入了超過1000萬美元來資助這項全行業的努力。

為了確保數據集和挑戰參數的質量，這些參數最初將在今年10月的國際計算機視覺會議（ICCV）上通過有針對性的技術工作會議進行測試。

完整的數據集發佈和DFDC發佈將於今年12月召開的神經信息處理系統會議（NeurIPS）上發佈。Facebook也將參與挑戰，但不接受任何經濟獎勵。

Facebook的這項挑戰賽得到了學術界的支持。

“為了從信息時代走向知識時代，我們必須更好地區分真實與虛假，獎勵可信內容而不是不受信任的內容，並教育下一代成為更好的數字公民。這需要全面投資，包括產業/大學/非政府組織的研究工作，以開發和實施能夠快速準確地確定哪些內容是真實的技術。”

- Hany Farid 加州大學伯克利分校電氣工程與計算機科學系教授

“自從有了攝影，人們就開始操縱圖象。但現在幾乎所有人都可以創造並將假圖片、假視頻傳遞給大眾。本次比賽的目標是建立人工智能系統，能夠檢測出篡改圖象中的細微缺陷，並揭露其對現實的欺詐性表現。”

- Antonio Torralba MIT電氣工程與計算機科學教授

根據DFDC網站的說法，這項挑戰將持續到2020年。將使用“一種測試機制來選擇獲勝者，該機制使團隊能夠根據我們創始合作夥伴的一個或多個黑盒測試集對其模型的有效性進行評分。”

Facebook的合作夥伴包括微軟、康奈爾理工，麻省理工學院，牛津大學，加州大學伯克利分校，馬里蘭大學等。

Deepfake盛行，扎克伯格、美國眾議院議長紛紛躺槍

DFDC並非Facebook第一次與Deepfake打交道。今年5月，藝術家Bill Posters做了一個馬克·扎克伯格的Deepfake視頻，以回應Facebook關於操縱圖象和數據使用的政策。

在這段合成視頻中，“扎克伯格”說：“試想一下：一個人完全控制著數十億人被盜的數據，掌握著他們所有的秘密、生活和未來。這都要歸咎於Spectre漏洞。它讓我明白，誰控制了數據，誰就控制了未來。”

視頻中的“扎克伯格”，無論從相貌聲音，還是穿著打扮，都跟真的扎克伯格幾乎沒有差別。他能眨眼，會做手勢，口型和畫外音高度吻合。乍看之下，幾乎找不到破綻，只是聲音有些奇怪。

最初的真實視頻來自於扎克伯格在2017年9月發表的關於俄羅斯干預美國大選的講話。而Deepfake視頻是使用CannyAI的視頻對話替換（VDR）技術創建的。

而在此之前，Facebook決定對一則關於美國眾議院議長Nancy Pelosi的虛假視頻暫時擱置不處理。在這段剪輯過的視頻裡，Pelosi聽起來像醉酒後說話，視頻很快在Instagram平台上瘋狂傳播。

按照 Facebook 的官方回應，Pelosi的視頻“沒有違反平台的政策，因為所有人都可以自由表達自己（的想法），如果有第三方事實檢測工具認定視頻是假的，視頻就會被打上標籤，提醒用戶注意其真實性，而且還會在推送中降低權重。”

不久之後，Facebook的公共政策主管Neil Potts在國會前作證說，若扎克伯格的虛假視頻出現在公司平台上，Facebook也會遵循同樣的政策。

隨著換臉APP“ZAO”的火爆，人們無需技術背景便可創造假視頻，一方面帶來了娛樂，而更多的是帶來了風險。

換臉APP“ZAO”

最壞的情況是，有人擔心，如果不加以控制，Deepfake系統可能會被惡意用來欺騙政府和人民，甚至引發國際衝突。

在DARPA組織的一次Deepfake相關的討論會上，達特茅斯大學計算機科學教授Hany Farid表達了擔憂：“Deepfake可能讓好萊塢級別的特效造假變得大眾化，並可能導致大量以假亂真的騙局。”

Farid舉了個可怕的例子：“假如有人製作了一段視頻，特朗普在視頻中說’我已經對朝 鮮發射了核武器’，這段視頻迅速傳播，在有人意識到它是假的之前，我們的世界可能已將發生了全面的核毀滅。”

他說：“我不是故意引發恐慌或誇大其詞，但我認為，目前這並非完全不可能。”

我們現在處在一個真假難辨的時代，如果不用技術手段對Deepfake視頻進行檢測、管制，後果將不堪設想，這也是為什麼我們需要像DFDC這樣的挑戰賽來推動技術向善、AI向善。

以 AI 攻 AI：DAPRA、伯克利開發反換臉刑偵工具

有“換臉”就有“反換臉”，越來越多的研究人員在努力尋找準確識別 Deepfake 的假視頻的方法。

最迫切希望攻破Deepfake的是美國國防部DAPRA，他們發起Media Forensics項目(簡稱MediFor)，資助研發一系列自動化工具來辨識被ps的圖片、Deepfake偽造的視頻、等等。

他們的第一個成果是一款“反換臉”AI刑偵工具，主要由紐約州立大學奧爾巴尼分校的研究人員開發技術，通過有效地預測眼睛的狀態，準確率達到 99%。

研究人員發現，Deepfake假視頻裡的人物極少眨眼，甚至不會眨眼，因為它們都是使用睜眼的照片進行訓練的。利用這些細微的線索，可以檢測出圖象或視頻中的臉是真實的還是 AI 生成的。

早期的 Deepfake 生成的假視頻缺陷明顯，比如人物說話時從不眨眼，現在這個缺陷已被修復

然而，這一工具來不及實用化就被宣告無效了——早期的Deepfake視頻遠遠算不上完美，存在各種容易發現的缺陷，比如不眨眼。但 Deepfake 技術的發展速度非常驚人，假視頻中人物從不眨眼的缺陷很快得到了改善，生成的假視頻變得越來越逼真可信。

最近，來自加州大學伯克利分校和南加州大學的研究人員在“以AI攻AI”的這場戰鬥中開發了出了新的武器，可以更加準確地識別偽造的視頻。研究人員利用前總統奧巴馬的現有視頻，使用類似的過程來創建假視頻，訓練 AI 來尋找每個人的 “軟性生物識別” 標籤。

圖 2. 從上到下依次是原始視頻，嘴唇同步 Deepfake 假視頻、喜劇模仿視頻、換臉 Deepfake 和木偶大師 deepfake 的 10 秒視頻剪輯的五個示例幀。

這聽起來很複雜，其實並不陌生。每當我們開口說話時，都會以微妙但獨特的方式來移動身體，我們的頭、手、眼睛甚至嘴唇都會產生這樣的運動。這一切都是在潛意識裡完成的，你沒有意識到你的身體正在做這件事，大腦也沒有立刻意識到身體其他部位的運動發生在何時，但從結果上看，這是目前 Deepfake 在創造假視頻時的時候沒有考慮到的因素。

在實驗中，這款新的 AI 準確發現偽造視頻的機率達到了 92%，實驗對象包括使用多種技術創建的假視頻，以及由於視頻文件被過度壓縮導致圖象質量下降的視頻。

不過，研究人員也發現，該方法的適用性容易受到人們說話的不同背景的影響（直面鏡頭正式講話，與不看鏡頭的現場採訪），解決這些侷限仍需要更多的研究。

現在，Facebook、微軟、MIT、UC伯克利等業界和學校聯合發起的這項Deepfake 檢測挑戰賽，無疑將進一步推進“反換臉”的進步，有興趣的同學快去參與。

本文經授權發布，不代表36氪立場。

如若轉載請註明出處。來源出處：36氪