對話深度學習奠基人特倫斯:AI的進化動力與終極限制

36氪
對話深度學習奠基人特倫斯:AI的進化動力與終極限制
對話深度學習奠基人特倫斯:AI的進化動力與終極限制

隨著低垂的果實被摘走,越來越多的人拋出疑問「人工智能是否會再次進入寒潮?」但很少有人知道寒潮的真實情況,人工智能經過60多年的發展究竟在哪些方面已發生了變化,制約它發展的因素會有哪些,它會朝著什麼方向演進?面對種種制約條件,我們可以做出哪些努力?

近期捕手志(ID:ibushouzhi)與美國「四院院士」(全美在世僅3位)、深度學習的先驅及奠基人、《深度學習:智能時代的核心驅動力量》一書作者特倫斯深度交流了一番,希望解開上述問題。特倫斯從AI的第一波浪潮就參與其中,他對當前AI發展現狀的深度思考值得看看。

作者/李曌

編輯/潘宇波

未經授權,謝絶轉載

一、AI的發展與制約

李曌:你在AI的第一波浪潮時就參與研究,至今AI發生了哪些變化?

特倫斯:在20世紀80年代,計算機速度慢且價格昂貴,因此必須對它進行邏輯化編程,但今天計算機的速度比過去要快一百萬倍,並且通過深度學習,AI可以通過實例進行自我編程。比如,當我開始研究AI時,我們只能解決小問題,但今天可以通過更大的深度學習網絡解決難題。

李曌:深度學習的本質究竟是什麼?

特倫斯:深度學習的成功基於在非常高維度的參數空間中,學習高度複雜的統計模型。這使它能夠解決現實世界中的統計問題,例如語音識別和自然語言翻譯,這些問題難度也是非常高的。

李曌:你認為公眾對深度學習的主要誤解有哪些?

特倫斯:人們擔心深度學習會奪走人類工作。相反,對人類而言,無論你是辦公室的白領或是醫生,深度學習都會使你變得更聰明。一些工作會徹底改變,但新的工作也會產生。

其實每當一項新技術產生時,都會有一個調整過渡期,在此期間會有意想不到的結果發生。目前人們正在測試自動駕駛汽車,但正如我在《深度學習》一書中描述的那樣,人類社會需要幾十年才能適應這項新技術。

李曌:最終深度學習會發展到什麼水平?

特倫斯:深度學習只是通用人工智能的第一步。它基於我們的大腦皮層結構,但我們的大腦還有許多其他區域可用於開發通用智能,我們需要對這點加深理解。

李曌:深度學習可以解決哪些領域的問題?中國AI領域大概有20個獨角獸、30個準獨角獸企業,這當中近80%都與圖象識別或語音識別有關係,美國的AI企業是什麼情況?

特倫斯:深度學習打開了一扇門,讓人工智能通過語音、語言和視覺與人交流,而基於編寫程序的AI無法做到這一點,因為問題各不相同導致編寫的程序極大且複雜。

深度學習可以應用於有足夠數據量的許多問題,它還對許多其他問題產生重大影響,例如:在醫學領域,深度學習對許多疾病的醫療診斷都好過或與最棒的醫生匹敵。深度學習在許多科學領域也非常有效,例如天文學和細胞生物學。

美國有數百家小型AI初創公司,有許多打造專用機器學習晶片的硬件初創公司。

李曌:為什麼美國會有那麼多生產專用機器學習晶片的硬件公司?

特倫斯:計算能源成本是人工智能的終極限制。人類大腦中有1000億個神經元,每個神經元都與其他數千個神經元相連,總計達千萬億個突觸連接。大腦運轉所需的功耗是20瓦,但一台遠不如大腦強大的千萬億次級超級計算機,功耗卻為5兆瓦,是大腦功耗的25萬倍。

目前最大的深度學習網絡只剛好嵌入像米粒大小的大腦部分,隨著學習系統的擴展,發展AI必須製造出更節能的專用晶片,我們需要比現在強大一百萬倍的硬件。如今我們才剛剛開始:谷歌、微軟和亞馬遜等大型科技公司正在打造更節能的專用機器學習晶片。

李曌:數據也是制約AI發展的重要原因,當前大部分數據都被集中在各國的科技巨頭手中,形成數據孤島。如果不保證數據具有完備性(多樣性、充足)的情況下,AI有可能做出錯誤的決策,區塊鏈是否是其中一個解決方案?

特倫斯:區塊鏈技術有可能幫助我們解決數據訪問問題,這是世界各地正在探索的眾多解決方案之一。

二、AI的國界與治理

李曌:你認為中美兩國在發展AI上誰將更有優勢?可以想像AI會對世界格局產生影響,那麼政府在其中應扮演什麼樣的角色?

特倫斯:AI在全世界都在覺醒,任何國家都沒有壟斷地位。在20世紀80年代,只有少數大學擁有足夠的計算機能力來進行AI研究。今天,任何擁有筆記本電腦的個人都可以做出重要的發現:AI已經變得民主化,這意味著沒有人能預測下一項重大進步將來自哪裡。政府不應對此阻撓,而應加強國際合作促進這一進程。

李曌:你在《深度學習》一書中也提及中國擁有更多的數據,但是否意味著更多的數據和更多的工程師,這種規模上的優勢能倒推帶來基礎研究層面的突破或者決定技術的路線?

特倫斯:我在書中的評論是基於將當前的AI技術應用於AI可以解決的問題,並且可以提供許多解決方案。但有些問題可能需要一個新的突破,沒有人知道該突破發生的時間和地點。

李曌:如今AI的應用有明顯的邊界,要發揮人工智能的作用需要具備哪些條件?有人認為脫離了五個條件(數據充足、確定性、完全的信息、靜態、特定領域的單任務)後,AI就很難發揮餘地,你如何看?

特倫斯:當前的這些限制最終將被克服。深度學習已經與強化學習相結合,達到了圍棋世界冠軍水平。我們在大腦中發現了許多其他類型的學習算法,這些算法將在未來大大增強AI的功能。

李曌:的確,深度學習和強化學習結合,推動了算法的自進化。如果我們按照人的思維去推進AI的發展,是否會使得AI的發展陷入困境中?如果AI的發展不在人們思維所預料之內,是否未來會變得不可控?

特倫斯:所有技術都可以用於善惡目的。與我們共同存在的有些技術甚至比AI更具存在風險,如核武器和生物戰。到目前為止,我們通過識別並減輕風險已倖存下來。自然進化賦予我們的智能幫助我們在不確定的環境中生存,而我們需要自救,從而在更加不確定的環境中生存。

李曌:這似乎讓AI的治理已經被迫提上了行程。

特倫斯:因為我們創造了AI,所以與管控人類自己相比,我們應該能更好地管控AI,人類自身是更糟糕的麻煩製造者。AI將有很多用途,我們現在甚至無法想像。我們必須應對每項新的應用,以確保它得到適當的監管。

三、AI的進化與破局

李曌:AI的系統如今還都非常脆弱容易受攻擊、欺騙,需要大量的數據,而且不可解釋,之所以造成這樣的缺陷的原因是什麼?美國物理學家Freeman Dyson認為目前AI方向有非常多大的噪音,整個圈子建立在了錯誤的想法之上。因為大腦是模擬的,而機器是數字的,大腦被用來比較圖象和模式,機器可以做但靈活性很差。他認為除非我們能做出模擬的模型,而非數字模型,我們才可能對大腦有更多的認識,而很少人在朝這個方向努力。

特倫斯:我們不瞭解人類大腦的工作原理,但即使它並不完美,也並不能阻止我們對其使用。我們對神經網絡的數學理解正在取得重大進展,並且可以修復缺陷,但這需要很多年。我想Freeman Dyson可能沒有意識到這些進步。

李曌:我們對神經網絡的數學理解加深,對AI的發展有什麼重大的意義?

特倫斯:對一項技術有理論上的理解有助於對該技術做出重大改進,但這會是一個漫長的過程。例如,我們經歷了從1903年萊特兄弟的第一次載人飛行發展到今天的大型噴氣式飛機。

李曌:當然也有人提出反問:誰規定AI必須按照人的智能來發展的?

特倫斯:大自然讓人類大腦進化以解決許多問題,我們可以從大自然中學到很多東西。大自然解決了這些問題,這證明解決方案是可能的。直到最近,我們對大腦的工作原理還不太瞭解,但在21世紀已經取得了很大進展,對大腦的逆向工程才剛剛開始。

李曌:大自然的進化的確讓我們認識到AI現階段的問題,未來也會有解決方案。但對進化的理解是否也會限制AI的發展?商業公司在利用進化帶給我們的直覺、感受對我們實現控制,比如利用進化中人體對糖的需求從而向人們推銷甜食,但環境已經發生了變化(原始社會中水果便是最甜的食物)。

特倫斯:人類在規範商業世界方面做得還不夠好。你在指出人類智能的缺陷,這可能不是AI的最佳目標。

李曌:那AI的最佳目標是什麼?

特倫斯:每個人都有自己的目標。我認為AI的最終目標是讓人類更好地瞭解自己,並將天平向更好的方向傾斜——同舟共濟符合我們所有人的利益。

李曌:這意味著未來我們將與機器共生。

特倫斯:「共生」很好地描述了人類和AI的合作方式,AI不會取代我們,反而會讓我們更聰明地做事。如今「共生」現象已在醫學和生物學領域發生。

李曌:這讓我聯想到很多科幻電影裡人與機器共存的場景。著名機器人製造專家Rodney Brooks認為,要讓機器人完成日常任務,他們較高的認知能力應該基於感官運動與環境的相互作用,而不是抽象推理。你也提到複製身體反而比複製大腦更複雜。

特倫斯:我完全同意Rodney Brooks的觀點,即我們需要更好地瞭解我們的身體如何幫助我們解決問題。自1956年AI出現以來,我們認識到,我們認為容易的問題,如視覺、言語和運動控制,比我們想像得要困難得多,相比之下抽象推理要簡單得多。

李曌:雖然我們的大腦不是完全基於邏輯的,但不妨礙你的設想「如果大腦是基於邏輯的,那麼它應該是跨領域的通用智能」。AI是基於概率的統計,屬於數學範疇是基於邏輯的,那麼是否證明AI實現通用是必然的?

特倫斯:AGI是一個系統級問題,而我們還在解決外圍問題。我們需要更多時間探索如何整合深度學習所能實現的所有功能。如今,Deep Mind振奮人心的研究正在引領潮流。

李曌:當前推動AI發展的動力是什麼,接下來的新動力又是什麼?

特倫斯:從AI開發到其轉化為大眾市場產品的時間約為50年。今天推動AI發展的基本發現來自20世紀80年代。在已取得進展的基礎上,當前技術還需要幾十年的時間才能趨向成熟。

當前神經科學領域正在發生一場革命,這將引發人們對大腦創造智能的新見解,但它還需要幾十年才能將這些發現轉化為下一代AI。

李曌:你認為未來3年AI將會有哪些變化?

特倫斯:在現有技術的基礎上,短期內的進步將是漸進的,而無法預測的主要進步將在25年內發生。

本文經授權發布,不代表36氪立場。

如若轉載請註明出處。來源出處:36氪

你可能還想看