【專欄】回顧這一、二年AI 失敗的10 個故事

近年來，隨著深度學習技術的快速發展，人工智慧快速崛起，在2016年谷歌AlphaGo 通過大勝李世石（韓國圍棋九段棋士）一戰成名，似乎一夜之間，人工智慧就變得無所不能，而人類的地位則突然間變得岌岌可危了。當然，人工智慧技術的確在許多方面進展迅速，人工智慧就像電力一樣，是下一次技術革命的推動力。

但是，目前的人工智慧技術，只是在某些方面可以達到或超過人類的水準，縱然如此，目前的人工智慧技術底層「弱人工智慧」的本質仍然沒有變。而這樣的「弱人工智慧」也會不時顯出「弱智」感覺來。以下就人工智慧近年十大翻車現場做一個梳理，人工智慧的局限可見一斑。

但失敗是成功之母。從翻車爬起來，必經之地。本文回顧的目的不是淡化或嘲弄研發結果，而是看看哪裡出了問題，希望我們下次能做得更好。

優步自動駕駛汽車殺死行人

2018 年3月28日，在亞利桑那州坦佩市，一輛優步（Uber）自動駕駛的SUV在一條公共道路上首次發生與自動車輛有關的行人死亡事件。優步車輛處於自動駕駛模式，車輪上配有安全駕駛員。

所以發生了什麼事？優步發現其自動駕駛軟體決定在汽車感測器檢測到行人後不採取任何行動。根據美國國家運輸安全委員會關於事故的初步報告，優步的自動模式禁用了富豪工廠（Volvo’s）安裝的自動緊急制動系統。

億萬富翁廣告人像被識別為「步行者」

中國主要城市的交通警察正在使用AI來解決行人亂竄問題。他們在十字路口使用面部識別技術部署智慧相機，以檢測和識別違規穿越馬路的人，其部分模糊的名稱和面孔隨後會顯示在公共顯示幕上。

然而，南方港口城市寧波的人工智慧系統，因為錯誤地「認出」了中國億萬富翁的臉為亂穿馬路的人， 因為在公車廣告一張中國億萬富翁董明珠的照片被辨識為她是違規穿越馬路的人，而出現尷尬的狀況。

IBM 沃森（Watson）在醫療保健領域無法達標

IBM最初是一個問答機器，一直在廣泛的應用程式和流程（包括醫療保健）中探索Watson的AI功能。2013年，IBM開發了Watson首個針對癌症治療推薦的商業應用程式，該公司在過去五年中與醫院和研究中心建立了許多重要的合作夥伴關係。但Watson AI Health並沒有給醫生留下深刻印象。一些人抱怨它對癌症治療提出了錯誤的建議，可能會導致嚴重甚至致命的後果。

據報導，在沒有顯著進步的項目上花費數年後，IBM正在縮小Watson Health的規模並裁掉該部門一半以上的員工。

深度假像（Deep Fakes）揭示了AI的不體面的一面

2018年12月，紅迪（Reddit）出現了幾個色情視頻，其中包括「國際頂級女性名人」。使用者「Deep Fakes」採用生成對抗網路將名人的面孔與色情明星的臉孔交換。雖然面部交換技術已經開發多年，但Deep Fakes的方法顯示，任何擁有足夠面部圖像的人，現在都可以製作他們自己非常有說服力的假視頻。

2018年，知名人士的假視頻充斥著互聯網。雖然這種方法在技術上，並非「失敗」，但其潛在的危險是嚴重而深遠的：如果視頻證據不再可信，這可能會進一步鼓勵流傳假新聞。

谷歌照片混淆滑雪者和山

Google 照片包括一個相對未知的 AI 功能，可以自動檢測具有相同背景/場景的圖像，並提供將它們合併到單個全景圖片中。2018年1月，Reddit使用者「Mallet Darker」發佈了三張在滑雪勝地拍攝的照片：兩張是風景，另一張是他的朋友的照片。當谷歌照片合併，發生了一件奇怪的事情，因為他的朋友的腦袋被渲染成一個從森林中窺視出來的尖峰巨人。

LG機器人Cloi在揭幕儀式上獲得了舞臺表演

2018年1月8日應該是LG的IoT AI助手Cloi在拉斯維加斯舉行的2018年國際消費電子展上首次亮相的那一天。Cloi被呈現為一個簡單而愉快的介面，能夠識別控制家用電器的語音命令。然而，當可愛的機器人走上舞臺進行現場演示時，觀眾正在觀看和等待，等待.....但它未能回應LG市場行銷主管的命令，只產生尷尬的沉默。

亞馬遜AI招聘工具具有性別偏見

據報導，亞馬遜人力資源部門在2014年至2017年期間使用了支援AI的招聘軟體來説明審核簡歷並提出建議。然而，該軟體對男性申請人更有利，因為其模型是在過去十年中提交給亞馬遜的簡歷上接受培訓的，當時雇用了更多的男性候選人。

波士頓動力機器人絆倒

SoftBank擁有的機器人製造商波士頓動力公司，不止一次為互聯網贏得了驚喜：它的機器人SpotMini可以靈巧地用頭戴式抓手臂打開門；它的人形機器人阿特拉斯（Atlas）現在可以做跑酷，順利跳過原木，跳躍一系列40釐米的步驟而不會跌倒。

但即使是波士頓動力公司，也有其「哎呀」的時刻：在未來科學家和技術專家大會上首次亮相時，阿特拉斯在一個完美的演示中提升了盒子等。但就像阿特拉斯已經包裝了它的演示並試圖離開一樣，這個可憐的機器人絆倒在窗簾上，笨拙地從舞臺上摔下來。從好的方面來說，它的表現很像人類。

2018年AI世界盃的預測幾乎都是錯誤的

人工智慧研究人員運行機器學習模型來預測多階段比賽的結果。然而大多數都是完全錯誤的。

SQL Services 資料科學家給出了一個解釋：「無論你的模型有多好，它們都和你的資料一樣好......但現有的足球資料還不足以預測世界盃的表現，它缺少資訊和未定義的影響太多了。」

Startup聲稱從人臉預測智商

以色列機器學習初創公司Faception提出了有爭議的說法，即其人工智慧技術可以分析面部圖像和骨骼結構，以揭示人們的智商，個性，甚至是暴力傾向。資料科學家Ben Snyder在Twitter上斥責該公司的技術：「那是顱相學。你剛剛把ML當作一個種族主義的叔叔。」該推文收到了超過6,500轉推送和近17,000個喜歡。

總結

雖然人工智慧還在不時展示一下翻車現場，但其成長速度是不可小視的，這些現場，從另外一方面，正好也展示出了人工智慧技術的進步速度。 專欄屬作者個人意見，文責歸屬作者，本報提供意見交流平台，不代表本報立場。