62% 網路安全專家認為，駭客已經開始用 AI 來進行網路攻擊

身為人工智慧（AI）威脅論的主要支持者，馬斯克（Elon Musk）一直都很擔憂 AI 未來的發展可能會對人類造成危險，近日他在推特轉推了一篇駭客對 AI 威脅的看法報導，試圖佐證自己的理念。

Gizmodo 的報導談到，為了解 AI 走上「歧途」的可能情況，網路安全公司 ZeroFOX 在 2016 年進行了一次實驗，讓人類和 AI 進行一場競賽，看誰能誘導更多 Twitter 用戶點擊惡意連結。

實驗之前，研究人員先讓 AI 理解這次的目標，在研究社群網路用戶的行為模式之後，設計並拋出網路釣魚（phishing）的誘餌，吸引用戶點擊連結上鉤。

結果在實驗的規定時間裡，AI 總計向 800 多名用戶發出詐騙推特，並吸引 275 名用戶點擊；相較之下，參加實驗的 ZeroFOX 員工只發出 129 次嘗試，吸引了 49 名用戶。

不論是拋出的魚餌數或吸引到的用戶數量，AI 都以壓倒性的比數擊敗了人類。

這樣的結果似乎在預料之中，但 ZeroFOX 認為最重要的是，這個結果證明 AI 確實能被駭客用來進行惡意攻擊，事實上，雖然無法證實，但他們很有可能已經這麼做了。

今年 7 月舉辦的美國駭客年會（Black Hat），數百名網路安全專家一起討論 AI 技術可能帶來的隱憂，當與會者被問到「未來一年內，是否會有駭客開始利用 AI 進行網路犯罪」時，近 62% 的受訪者給了肯定的答案。

運用 AI 進行網路犯罪

負責調查的 Cylance 安全數據科學家 Brian Wallace 認為，駭客應該已把 AI 當做武器使用好一段時間了。

「這推論非常合理，因為『規模』對駭客來說很重要，他們必須盡可能增加攻擊次數、目標，同時減少自己的風險。對他們來說，AI 和機器學習就是能用到的最終完美武器。」

Wallace 的想法並非少數，行動裝置安全防護公司 Zighra 執行長 Deepak Dutt 也認為，在不久的將來，運用複雜的 AI 系統進行網路攻擊的可能性很高，甚至很有可能已被一些國家利用。

Dutt 指出，AI 可透過挖取網路大數據，得到每個人出生日期、電話、位置等幾乎所有身分訊息，也可以監控電郵、發送的文字訊息，甚至是量身打造個性化的「魚餌」，來進行社交工程（social engineering）的駭客攻擊。

這些言論與馬斯克日前發表的擔憂十分類似，當時馬斯克在推特提到，他認為國與國之間的 AI 競賽，很可能引爆第三次世界大戰。

「戰爭可能不會由國家領導者，而是由人工智慧所發動──只要它認為『先發制人』是取得勝利最有效的方式。」

但就像 Facebook 創辦人馬克·祖克柏（Mark Zuckerberg）那樣，也有安全數據科學家抱持不同想法。Recorded Future 的技術長 Staffan Truvé 就認為，駭客目前並沒有使用 AI，而是運用更簡單的自修改代碼或自動化方案在正常工作。

Truvé 表示，他並不認為對有犯罪意圖的駭客來說，AI 已經成為必須存在的「標準配備」，因為傳統的方法仍舊有效。「如果你可以從一個傳統、熟悉的方法得到很好的結果，又為什麼要花時間和金錢改變成另一種模式？」

AI 究竟是什麼？

對於專家和業界意見分歧的看法，《未來的犯罪》作者 Marc Goodman 認為，這主要還是每個人對 AI 定義的差別所導致，隨著技術持續發展，人們對 AI 的概念也在持續改變。

從最根本來說，AI 的 I 意味著代理者（無論是生物或機械）具備「解決複雜問題的能力」，但其實人們已經擁有許多具備這種功能的工具，只是因為持有的時間過長，我們已將其視為理所當然。

這就像是在幾個世紀以前計算機剛出現的時候，這個比人類運算快上幾百萬倍的機器被認為是激進的技術進步，但現今已經很少人會注意到它的特別；又或像是 1997 年擊敗世界棋王的 AI 深藍（Deep Blue），曾經被視為人類智力的頂點標準。

而在今天，機器學習（machine learning）、自然語言處理、神經網路（neural networks）等多方發展之下，人們也同樣提升了對機器智慧的看法，像是語音助理 Siri、自駕車或疾病診斷功能，都已視為尋常事物。

更別提那些未來派科幻作品對 AI 的描寫，與如今現實中發展的應用相去甚遠。如果人們忽視這些工具的力量，那麼也可能會忽略打算開發 AI 潛能做事的人，像是駭客。

「『AI』一詞經常被人誤解，談到 AI，許多人聯想到的都是魔鬼終結者，但那並非 AI 真正的意義。相反的，AI 是一個廣泛的命題，包含各種形式的學習技術──而這些智慧恰好是人工的。」

Hackers Have Already Started to Weaponize Artificial Intelligence

看更多 科技新報 的相關文章：
人工智慧威脅論觀點不同，馬斯克隔空批祖克伯對 AI 認知之不足
馬斯克：世界各國的 AI 競賽，可能會導致第三次世界大戰