不只有 DeepFake 趨勢科技:AI既是攻擊手法也是攻擊目標

圖/不只有 DeepFake ,趨勢科技:AI既是攻擊手法也是攻擊目標。
圖/不只有 DeepFake ,趨勢科技:AI既是攻擊手法也是攻擊目標。

一份由歐洲刑警組織 (Europol)、聯合國區域犯罪與司法研究院 (UNICRI) 及趨勢科技共同製作的研究報告正式出爐,內容揭露了歹徒如何利用今日的人工智慧 (AI) 技術來犯罪,並預測其未來的可能發展。這份報告的結論指出,AI 既是網路犯罪集團的攻擊手法,也是攻擊目標。

這份報告的結論指出,雖然 Deepfake 是目前最為人熟知的 AI 攻擊手法,但也警告我們未來需要新的過濾技術來防範假訊息攻擊與網路勒索的風險,並防範專門以 AI 資料為目標的攻擊。

這份報告指出,AI 可能遭歹徒利用的方式包括:

  • 製造難辨真偽的大規模社交工程攻擊。

  • 開發文件內容辨識惡意程式以提升攻擊效率。

  • 躲避影像辨識與語音生物辨識技術。

  • 勒索病毒攻擊,利用人工智慧來篩選攻擊目標並躲避偵測。

  • 資料汙染,發掘偵測規則中的盲點。

除此之外,這份報告也警告:歹徒正在開發一些 AI系統來提升惡意程式的成效,並干擾惡意程式防護與臉部辨識系統的運作。趨勢科技前瞻威脅研究團隊總監 Martin Roesler 表示:「網路犯罪集團一直都是最新技術的率先採用者,AI 技術也不例外。正如這份報告所指出,AI 已經被用於猜測密碼、破解CAPTCHA 認證、複製人類語音,以及其他眾多開發當中的非法技術。」

以下是三家機構在結論中所提供的幾項建議:

  • 發揮 AI 的潛力,讓它成為打擊犯罪的工具,也讓網路資安產業與執法機關跟上時代洪流。

  • 藉由持續不斷的研究來激發更多防禦技術的發展。

  • 提倡並發展安全的 AI 設計架構。

  • 減少政治口水,讓 AI 應用於網路資安用途。

  • 透過公私部門合作來建立跨領域專家群組。

◤編輯最愛◢

👉 多款輕薄筆電/電競筆電/MacBook 瘋狂折扣不搶後悔

👉2020網友熱議新手機!這裡買最省

影像資訊:趨勢科技

👉黑五家電狂歡慶!折扣超殺滿額送 點我看更多