OpenAI剛融資100億，DeepMind急了？CEO接受《時代》專訪，呼籲AI圈減少科研競賽

DeepMind一直是Google的驕傲。

作為Google母公司Alphabet的子公司，DeepMind是世界領先的人工智慧實驗室之一。成立13年，它交出的成績單，十分亮眼。

不得不說，DeepMind在演算法上是有點東西的。

2022年7月，AlphaFold大爆。2022年10月，DeepMind研發的AlphaTensor登上了自然雜誌封面，這是第一個用於為矩陣乘法等基本計算任務發現新穎、高效、正確演算法的AI系統。

現在，所有人都意識到了，AI正處於時代的「風口浪尖」。

ChatGPT雖然寫作能力媲美人類，但很難規避掉訓練資料中的錯誤資訊和有毒偏見。更可怕的是，現在計算能力已經變得越來越低廉，AI對普通大眾的門檻越來越低。

DeepMind CEO Demis Hassabis對AI發展的趨勢感到擔憂，他擔心，AI會被用於製造可怕的工具，破壞人類的文明。

不過，也有網友吐槽，「我很欣賞他的立場，但是當競爭對手試圖儘可能快地朝著同一個目標前進時，這些AI開發公司怎麼能不加快行動呢？」

還有網友說，他是想為追趕OpenAI爭取時間hhhhhh。

DeepMind的使命——建構通用人工智慧AGI

接下來就讓我們看看，Hassabis在這次的對話中，都透露了哪些重要資訊。

時代雜誌專欄記者BILLY PERRIGO採訪了Deepmind CEO兼創始人Demis Hassabis，探討了DeepMind的使命，以及如何建構AI，從而解決一些世界上最棘手的問題。

Demis Hassabis站在螺旋樓梯的中間，審視著他建造的大教堂，這座跨越三層樓的DNA雕塑是DeepMind最近開設的倫敦總部的核心。

46歲的Hassabis一直致力於解決關於AI的永恆問題：

Hassabis說他的團隊一直在努力實現一個更宏偉的目標：

今天的人工智慧是狹隘的、脆弱的，而且根本不算智能。

Hassabis認為，AGI將成為一種劃時代的技術，就像電力的利用一樣改變人類生活的結構。

就連他自己也把推特首頁的簽名改成了「致力於AGI，嘗試瞭解現實的基本性質」。

但人工智慧的前景也伴隨著風險。

研究人員建構的設計新藥的AI程序可以很容易製造出致命的生化用品，大規模訓練的AI模型可能被仇恨言論者利用。

OpenAI開發的爆款ChatGPT因其容易受到種族主義和錯誤資訊的影響而受到批評，小公司Prisma Labs也是如此，許多使用者抱怨Lensa將他們的圖像性感化，暴露出其訓練資料中的偏見。

Prisma Labs開發的AI增強自拍軟體——Lensa

正是在這種不確定的氣氛中，Hassabis同意接受這次的採訪，就他日益增長的擔憂發出嚴厲警告，「我建議放緩AI前進的速度，至少不要太快」。

就像Facebook使用者數量飆升至30億之時，大家都在歡呼雀躍，但當虛假資訊、仇恨言論甚至煽動種族滅絕開始出現在平台上時，也讓公司措手不及。

Hassabis看到了人工智慧發展的令人擔憂的趨勢，他說：

從國際象棋手到攪動風雲的CEO

和其他同齡人不太一樣，Hassabis12歲時就已經是世界排名第二的國際象棋棋手，並提前一年從高中畢業。

Hassabis（左）9歲時擔任英格蘭11歲以下國際象棋隊隊長

他還在初中時就已經開始思考那些改變人類歷史的大問題，他說：

Hassabis走進Guildford的Bullfrog視訊遊戲工作室時只有15歲。

他還參加了一家電子遊戲雜誌的比賽，以贏得在著名工作室實習的機會，他設計的一個太空侵略者風格的遊戲還獲得了當季銷售量第二的成績。

Bullfrog的聯合創始人Peter Molyneux仍然記得第一次見到Hassabis的樣子，莫利紐克斯說：

在去Bullfrog的聖誕晚會的公車上一次偶然的談話中，這位少年迷住了Molyneux。

他們談到了遊戲的哲學，是什麼讓勝利如此吸引人，以及你是否可以將這些相同的特徵灌輸到機器中，那時他就知道這個年輕人注定要成就大事。

邊讀博，邊進軍遊戲圈

從劍橋大學畢業後，Hassabis回到Bullfrog幫助Molyneux開發了他迄今為止最受歡迎的遊戲：Theme Park，一款玩家從上帝視角經營遊樂場業務的模擬遊戲。

在決定攻讀神經科學博士學位之前，Hassabis繼續建立了自己的遊戲公司。

他想瞭解大腦的演算法層面：不是微觀神經元之間的相互作用，而是似乎產生人類強大智能的更大結構。

2013年，DeepMind成立第三年，Google來敲門了。

一群Google高管乘坐私人飛機飛往倫敦，Hassabis向他們展示了團隊的作品——訓練玩電腦遊戲Breakout的AI原型，這讓他們驚嘆不已。

DeepMind演算法背後的標誌性技術——強化學習（Reinforced Learning），是Google當時沒有做過的事情。

它的靈感來自人腦的學習方式，這是Hassabis在他作為神經科學家期間形成的一種理解。

AI在遊戲中的數百萬次訓練，每次得分都會得到獎勵，並通過基於點的強化過程學習最佳策略。

Hassabis和他的同事們堅信在遊戲環境中訓練人工智慧，這種方法的好處給Google高管留下了深刻的印象。

「我立刻就愛上了他們，」領導這次考察之旅的Google前高級副總裁Alan Eustace說。

目前，Hassabis最愛的一款遊戲名為Polytopia。在這款策略遊戲中，玩家的目標是通過技術進步，將一個小村莊發展成為一個統治世界的帝國。

Hassabis說，馬斯克也是這款遊戲的粉絲。兩人最後一次交談是在幾個月前，主要聊的就是Polytopia。

雖然Hassabis為人謹慎，但很容易理解，為什麼遊戲能與他產生共鳴。他仍然相信技術進步本質上對人類有益。而在資本主義制度下，預測和減輕AI的風險是可能的。「科學和技術的進步，這就是文明的驅動力，」他說。

被馬斯克拋棄

但就在DeepMind不斷攀登新高度的時候，事情開始變得複雜起來。

2015年，其最早的兩位投資者，億萬富翁彼得·泰爾和埃隆·馬斯克，通過資助競爭對手初創公司OpenAI象徵性地背棄了DeepMind。

該實驗室隨後獲得了微軟10億美元的資助，它也相信AGI的可能性，但對於如何實現這一目標有著截然不同的理念。

它對遊戲沒那麼感興趣。它的大部分研究都不是集中在強化學習上，而是集中在無監督學習上，這是一種不同的技術，涉及從網際網路上抓取大量資料並將其通過神經網路抽取。

當DeepMind、Google和其他AI實驗室一直在閉門進行類似研究時，OpenAI更願意讓公眾使用其工具。

2022年，DeepMind推出了DALL·E 2，可以生成幾乎任何可以想像到的搜尋詞的圖像，以及聊天機器人ChatGPT。由於這兩種工具都是根據從網際網路上收集的資料進行訓練的，因此它們受到結構性偏見和不精準的困擾。

DALL·E 2很可能將律師描繪成白人老頭，將空姐描繪成年輕美女，而ChatGPT則容易自信斷言虛假資訊。

但是，儘管Hassabis呼籲放慢AI競賽的步伐，但DeepMind似乎也未能倖免於競爭壓力。

2022年初，該公司發佈了更快引擎的藍圖。這項名為Chinchilla的研究表明，許多業界最前沿的模型訓練效率低下，並解釋了它們如何能夠以相同水平的計算能力提供更多功能。

Hassabis說，DeepMind的內部道德委員會討論了發佈研究是否不道德，因為它可能會讓不那麼謹慎的公司在沒有嚴格保護的情況下發佈更強大的技術。

人工智慧巨頭的道德紅線

置身其中，Hassabis深知人工智慧可能產生的危險。

「他明白AI技術對社會影響深遠，他想在技術發明之前就能有所瞭解，」Eustace說。「這就像國際象棋。如何面對殘局？如何預測二十步之後的發展？」

Eustace向Hassabis承諾，Google也有同樣的擔憂，兩者之間的利益一致。Eustace說，Google的使命是索引所有人類的知識，使之易於訪問，並最終提高世界的智商。

Google前高級副總裁Alan Eustace

「我認為這引起了他的共鳴。」2014年，Google以約5億美元的價格收購了DeepMind。Hassabis拒絕了來自Facebook的更高報價。

他說，其中一個原因是，與Meta不同，Google「非常樂意接受」DeepMind劃定的道德紅線。

Hassabis希望，DeepMind成為Al研究中安全和道德的代表。以身作則，在這個充滿追求更快更強的領域做好自己。

DeepMind發佈了反對不道德使用其技術（包括監視和武器化）的「紅線」。但它卻沒能阻止母公司Google，使用自己搭建的AI系統，和五角大樓進行科技合作。

2021年，Alphabet結束了與DeeMind長達數年的談判。根據談判結果，DeepMind將保持其在Alphabet的現有地位，其未來工作將由Google高級技術審查委員會監督，其中包括兩名DeepMind高管。

Hassabis並不否認DeepMind的「逃離Google」計畫，但沒有表示自己對公司目前架構的擔憂。

但他補充說，自收購以來，DeepMind的道德結構已經「演變為現在的樣子」。

Hassabis說，DeepMind和Alphabet都致力於公共道德框架，並從一開始就將安全納入他們的工具。

DeepMind有自己的內部道德委員會，即機構審查委員會（IRC），由公司所有部門的代表組成，首席營運官Lila Ibrahim擔任主席。

DeepMind首席營運官Lila Ibrahim

Ibrahim說，IRC定期舉行會議，任何分歧都會升級到DeepMind的執行領導人做出最終決定。她說，「我們的運作十分自由，有一個單獨的審查流程。」

當被問及如果DeepMind的領導團隊不同意Alphabet高層的決定，或者公司的道德「紅線」被越過會發生什麼時，Ibrahim說：「我們還沒有遇到這個問題。」

AlphaGo：震驚世界的人機大戰

在DeepMind總部大廳遠處牆壁的玻璃櫃中，放著一塊塗有黑色塗鴉的大方形木頭。

這是DeepMind第一次重大成功的紀念品。Google收購後不久，該公司就為自己設定了挑戰，即設計一種演算法，在圍棋中擊敗世界上最好的棋手。

當時，國際象棋早已被蠻力電腦程式設計所征服，但圍棋要複雜得多；最好的人工智慧演算法仍然無法與頂級人類玩家相提並論。

DeepMind以破解Breakout的方式解決了這個問題。它建立了一個程序，在通過觀察人類遊戲來學習遊戲規則後，它可以與自己進行數百萬次模擬對戰。

通過強化學習，演算法會自我更新，減少使其更有可能輸掉比賽的決策的「權值」，並增加使其更有可能獲勝的「權值」。

2016年3月，名為AlphaGo的演算法與世界頂級圍棋選手之一李世石對決。AlphaGo以四比一擊敗了他。敗北的李用黑色記號筆在棋盤背面潦草地簽下了自己的簽名。

2016年，Hassabis在韓國慶祝DeepMind戰勝圍棋選手李世石（右）

AGI驅動的未來會是烏托邦嗎？

Hassabis認為，如果AGI創造財富的時代已經到來，那麼這些財富應該重新得到分配。「我認為我們需要確保儘可能多的人受益——最好是全人類。」

他喜歡全民基本收入（universal basic income）的想法。在理念下，每個公民每月都會從政府那裡獲得津貼和基本服務。同時，國家會保障公民交通或住房等基本生活水平。

Hassabis說，AGI驅動的未來應該比當今世界更加注重財富平等，但他沒有解釋該系統將如何運作。

「如果我們生活在一個極度富足的世界，那麼留給不平等的空間也越小，不平等產生的機率也會更低。因此，如果AGI的願景得以實現，這就是它的積極影響之一。」

然而，鑑於過去幾十年，科技行業極速增長與財富不平等的大幅加劇同時發生，其他人對這種烏托邦式的未來並沒有那麼樂觀。

播客節目Tech Won't Save Us的主持人Paris Marx說：「大公司，包括DeepMind的母公司，首要任務是確保為股東創造最大價值。

如果不能獲利，這些公司根本不會專注於解決氣候危機。當公司的全部目標是為股東積累更多財富時，他們肯定對重新分配財富不感興趣。」

「我們缺乏的不是解決氣候危機或重新分配財富的技術，」Marx說。「我們缺乏的是政治意願。目前來說，很難看出一項新技術的誕生將如何產生政治意願，從而實現真正的社會轉型。」

說回DeepMind的螺旋樓梯，樓梯中間，擺放著一個巨大的DNA雕塑。雕塑前的木凳上有一個告知：「請勿觸碰，」上面寫著。「它非常脆弱，很容易損壞。」

參考資料：

https://time.com/6246119/demis-hassabis-deepmind-interview/

https://www.youtube.com/watch?v=Gfr50f6ZBvo

本文來自微信公眾號“新智元”（ID:AI_era），作者：新智元，36氪經授權發佈。

本文經授權發布，不代表36氪立場。

如若轉載請註明出處。來源出處：36氪