《沙丘》裡的電腦和機器人都去哪了?

·7 分鐘 (閱讀時間)

《沙丘》(Dune)在科幻領域的位置,就如同《指環王》在奇幻世界中的地位一樣,是基石與標杆,也是打通小

小說原著作者赫伯特(Franklin Herbert)筆下的概念和設定影響

《沙丘》問世於1965年。相較於其他同時期科幻作家對於計算機與

我們怎麼總想跟AI乾一架?

這是緣起於小說在開頭就提到的一個設定:巴特蘭聖戰(Butlerian Jihad)。

作為《沙丘》世界歷史中的一個重要事件,戰爭發生在主線故事的一萬多年前。那時的人類掌握了星際航行技術,分佈擴展到宇宙群星之間;同時製造了大量“會思考的機器(Thinking Machines)”來為自己服務,甚至使用這些“思考的機器”來組成政府實施統治和管理。幾百年之後,開始有人不堪於“思考機器”的高壓統治和奴役,憤而起兵反抗,一場人類與“思考機器”之間的大戰終於爆發。最終,人類勝,機器敗,所有“會思考的機器”盡被消滅。

人類

“巴特蘭聖戰”現在已經成為了科幻作品裡的一個經典設定。例如經典戰棋遊戲系列“戰鎚40K”(Warhammer 40,000),就基本完整地繼承了“巴特蘭聖戰”的概念:在過去的黃金年代,人類製造出了鐵人為自己服務,而鐵人反叛,人類最終消滅了所有鐵人,黃金年代結束,之後人類禁止製造任何思考機器。

赫伯特在《沙丘》中做出這樣的設定,很大程度上是對

將“三定律”推演到極致,就出現了一個基本的倫理和哲學問題:如果機器人保護一個人類的代價是坐視另一個人類受到傷害,該如何行動?一個智能機器版本的“電車難題”:絕對道德主義與功利主義之爭。

面對這個困境,阿西莫夫在劇情裡增加了一個“第零定律(Zeroth Law)”:機器人必須優先保證人類整體的生存與不受傷害,而三大定律都在此之下。那麼,如何定義“人類整體”呢?阿西莫夫自己寫了《永恆的終結》(The End of Eternity)與機器人系列的最後一部《曙光中的機器人》(The Robots of Dawn)來回答這個問題:機器人為了執行機器人三大定律,推導出的結論,就是如果想要避免個體人類不受傷害,只能將人類置於自己的高壓統治之下,徹底失去自由;但是在第零定律之後,得出的結論成為,如果想要最大程度的保證人類整體的生存與不受傷害,那麼最好的辦法,是讓人類生活在一個沒有機器人的世界之中。

於是機器人統一停止了運轉,之後的人類世界,就再也不存在機器人了。

在讀過阿西莫夫這個系列之後,再回頭來看《沙丘》,就可以很明顯的發現其中的對應關係:沙丘宇宙,就可以看做是一個黑暗版的阿西莫夫宇宙。

一個禁止人工智能的世界可能麼?

這裡的秘密,藏在希爾伯特(David Hilbert)的終極數學之夢裡。

自古以來,數學都被認為是一個邏輯推理的學科。到了20世紀,數學家們就有了這樣一個疑問:既然數學的本質是邏輯推理,那麼這個過程是否可以不通過人腦,而是使用純粹的機械過程來實現?這就是希爾伯特的終極數學之夢:形式主義,創造出一個無矛盾的數學體系,能夠完全的使用形式化的、機械的推理過程來實現全部的數學。

在他之後,就是 圖靈和邱奇分別獨立證明了可以使用一個純粹機械的形式系統,來模擬人類進行數學推導的過程,這就是後來我們都很熟悉的“圖靈機”(Turing Machine)。然而之後哥德爾用不完備性定理(Gödel's incompleteness theorems)打破了這一夢想:他通過構造出一個特殊的形式系統證明了,任何形式系統都存在系統之內無法證明也無法證偽的命題,從而摧毀了希爾伯特無矛盾的數學體系之夢。但是“能夠思考的機器”,就成為了希爾伯特的形式主義的直接遺產。從這個角度,假如真的存在某種無所不能的時間規劃局(就如《永恆的終結》裡一樣)想要從一開始就“禁止思考機器的出現“,他們要禁毀的就是整個現代數學。

也許有朝一日,希爾伯特的夢想終將實現:人工智能的智力水平決定性地超越了人類,成為了一個嶄新物種。那麼,在這樣一個世界裡,人類還重要嗎?這也是“ 諸如《終結者》《黑客帝國》這樣的 近年來人工智能領域的飛速發展一同加深了這種不安,譬如馬斯克(Elon Musk)也會出來湊熱鬧地呼籲研究“安全的”人工智能。

《沙丘》設定下這樣一個禁止計算機技術的世界,結果就是人類本身的意義被凸現出來。原文裡,因為沒有“思考機器”作為拐杖,人類開發出了各種各樣的“學校”用 比方說門塔特(Mentat)學校:他們把學生訓練成“門塔特”——一種用來代替計算機的專業人才,有著無與倫比的分析與計算能力;還有宇航工會的領航員,也是通過使用香料來強化他們對超空間的感知能力,才能夠讓星際飛船在亞空間中航行(所以小說中的香料才如此關鍵,它支撐了整個星際的航運事業);還有其中的

《沙丘》的古典科幻意味就在這裡:沒有計算機或者時髦的新技術,而是在自己的框架下生長出一套完整的、異質性的、能夠自洽的世界。

你想生活在沒有計算機的世界裡麼?

如果是這樣的話,我們或許就會回到1970年代以前了。

那就是一個基本沒有計算機的年代。人們還是會看報紙來了解天下大事;多數人會在生產機器的工廠工作;飛機都很昂貴,長途出門需要坐慢速火車,高鐵也不存在。

這樣發展下去,大概會成為蒸汽朋克或者柴油朋克的世界:精密機械會有更多的發展,車迷的黃金時代會延續得更久(80年代的JDM,Japan Domestic Market,被認為是消費汽車行業純機械化汽車的巔峰時期);技術領域更加關注於外太空(畢竟當年實現阿波羅11號登月的全部計算機算力還不如你現在的手機);人們有更多的時間出門參加活動,而不是整天呆在家裡打遊戲或者上網……

或許就真如《沙丘》中描繪的一樣,人類能夠更好地拓展自身思維方式,物理學會有意想不到的進步。沒有計算機特效技術,模型、特攝、手繪賽璐珞動畫會發展得更加精緻,動畫迷會盡享漫長的黃金時代。

當然,更大的可能是,沒有第三次工業革命(代表就是計算機的出現),人類文明陷入停滯。

導演維倫紐瓦在《沙丘》之前的一部作品,恰好是以賽博朋克、人造人社會為主題的《銀翼殺手2049》。某種意義上,它和《沙丘》形成了一個巧妙的

而這兩個世界顯然都值得人們去盡情探索一番。

本文經授權發布,不代表36氪立場。

如若轉載請註明出處。來源出處:36氪