【曾子固專欄】洪水即將來臨了 : 如何遏制人工智慧

過去兩年，人工智慧取得了驚人的進步。未來幾年的前景將更加廣闊，可能會出現更大、更有效率、具有真正創造力和複雜規劃的模型。潛在的積極因素是驚人的，包括提高商業生產力、更便宜和更有效的醫療保健、科學發現以及針對每個孩子的需求量身定制的教育計劃。但風險也很大。其中包括虛假資訊的擴散、失業以及不良行為者可能試圖利用新技術製造破壞。穆斯塔法·蘇萊曼 Mustafa Suleyman發表在最新一期《外交事務》(Foreign Affairs) 的<人工智慧遏制；如何調整冷戰戰略以因應新威脅>( Containment for AI:How to Adapt a Cold War Strategy to a New Threat)指出，這項技術將迅速普及。這意味著在未來十年中，應對人工智慧不受控制的傳播的內在趨勢將成為一代人的挑戰
要控制人工智慧並控制社會
因此，這將需要類似於西方在冷戰初期所動員的世代反應。當時，美國外交官喬治·F·凱南談到要透過硬實力和經濟文化壓力來遏制蘇聯，確保將蘇聯拒之門外，保證民主世界不會被壓倒。今天的挑戰需要一個同樣廣泛和雄心勃勃的計劃，在這種情況下，要控制人工智慧並控制社會。與凱南一樣，這將是一項基於法律和條約的努力。然而，這也需要大規模的全球運動和科技公司文化的改變。這種現代形式的遏制不僅需要管理人工智慧並防止其造成災難，而且還需要確保它成為人類歷史上最有益的發明之一。
縱觀人類歷史，有一條看似永恆的法則：每項發明的基礎技術——從鎬到犁，從陶器到攝影，從電話到飛機——都將變得更便宜、更容易使用。它將廣泛傳播。發明生態系預設為擴張。而始終推動這項進程的人就是技術人（Homo technologicus），也就是天生的技術物種。
想一下印刷機、內燃機造成多大的影響
想一下印刷機。1440 年代，約翰內斯古騰堡 (Johannes Gutenberg) 發明了它之後，歐洲只有一個例子：他的原創作品位於德國美因茨。但僅僅 50 年後，整個非洲大陸就有大約 1,000 家印刷機。結果非常出色。在中世紀，包括法國和義大利在內的主要國家每個世紀都會產生數十萬份手稿。一百年後，他們每年生產約 40 萬本書，而且速度還在持續加快。光是 17 世紀，歐洲國家就印製了 5 億本書。
內燃機也出現了同樣的趨勢。這是一項棘手的發明，花了 100 多年的時間才得以完善。最終，到了 1870 年代，德國工場中只剩下少數可用的實例。這項技術仍處於萌芽階段，數量有限，而且完全處於邊緣狀態。德國工程師卡爾·本茨於 1885 年發明第一輛實用車，八年後僅售出了 69 輛汽車。但 100 多年後，出現了超過 20 億台各種形狀和尺寸的內燃機，為從割草機到貨櫃船的各種設備提供動力。
核武從未真正得到遏制，它們僅在 1945 年被美國使用過兩次
一些技術，尤其是核武器，可能會與這一趨勢背道而馳。畢竟，自它們誕生以來的 80 年裡，它們僅在 1945 年被美國使用過兩次，而且核武庫也遠低於 20 世紀 80 年代的最高水平。儘管這種反駁有一定道理，但它忽略了世界各地仍然部署的數千枚彈頭、尋求建造這些彈頭的新國家的持續壓力，以及從一開始就發生的一系列令人毛骨悚然的事故和千鈞一發的事件。一直是這些武器的一個常見特徵，但由於顯而易見的原因，這些特徵被低估了。從 1962 年古巴飛彈危機的戲劇性事件到 2017 年美國政府僱員汽車中核材料的失踪，儘管避免了徹底的災難，但核武從未真正得到遏制。如果核武等技術是技術傳播規則的例外，那麼它們充其量只是一個非常片面且令人不安的例外。
即將來臨的洪水
人工智慧不可避免地會追隨手斧、印刷機、內燃機、網路的軌跡。它也將無處不在，並且會不斷改進。這已經發生了。在短短幾年內，尖端模型已經從使用數百萬個參數或在訓練中調整的變數增加到數萬億個，這表明這些系統的複雜性不斷增加。在過去十年中，用於訓練大型人工智慧模型的計算量增加了九個數量級。摩爾定律認為運算能力每兩年就會翻一番，它預測電腦的功能將呈指數級增長。但人工智慧領域的進步甚至更快，成本降低和能力提高的趨勢呈曲線上升，超出了以往任何技術的水平。這些成果在著名的人工智慧產品中顯而易見，但在數位世界的表面下也被證明具有變革性，包括為軟體提供動力、組織倉庫、操作醫療設備、駕駛車輛和管理電網。
隨著人工智慧下一階段的發展，能夠實現現實世界目標的強大一代自主人工智慧代理將會出現。雖然這通常被稱為通用人工智慧，但我更喜歡術語「人工智慧」或 ACI，這是全面 AGI 之前的一個階段，其中人工智慧仍然可以自主完成一系列任務。這項技術可以代表人類完成複雜的活動，從組織生日派對到完成每週一次的購物，以及建立和經營整個業務線等重要活動。這對該技術來說將是一個巨大的進步，對電力的本質和世界經濟具有變革性的影響。預計它會迅速且不可逆轉地擴散。
人工智慧將帶來一系列新的危險
每個人口袋裡的 ACI 將帶來經濟成長的巨大成長，因為幾代人中最重要的生產力增強劑變得像電力一樣無所不在。ACI 將徹底改變醫療保健、教育和能源發電等領域。最重要的是，它將為人們提供實現生活目標的機會。目前有許多關於人工智慧的末日論，但在合理的擔憂中，重要的是要記住人工智慧的許多優點。對於 ACI 來說尤其如此，它有潛力讓每個人都有機會接觸到世界上最好的助理、幕僚長、律師、醫生和全能的 A 團隊。
但其缺點也不容忽視。首先，人工智慧將帶來一系列新的危險。也許其中最嚴重的是新形式的錯誤訊息和虛假訊息。現在，只需幾個簡單的語言命令就可以產生保真度驚人的圖像，並且越來越多地生成視訊。當敵對政府、邊緣政黨和單獨行動者能夠創造和傳播與現實無法區分的材料時，他們將能夠播下混亂的種子，而旨在阻止它們的驗證工具很可能會被生成系統所超越。去年，一張五角大廈起火的捏造圖片導致股市出現短暫但明顯的下跌，深度假貨引發了股市動盪，而且深度假貨很可能在 當前的美國大選中佔據重要地位。
遏制包括監管、更好的技術安全、新的治理
人工智慧的全球進步預計還會帶來許多其他問題。自動化有可能擾亂勞動力市場，而大規模網路攻擊的可能性正在增加。一旦強大的人工智慧新形式傳播開來，所有好的和所有壞的都將在社會的各個層面上出現：在執行長、街頭小販和恐怖分子的手中。
大多數人的注意力正確地集中在這項變革的社會和倫理影響上。但這種討論常常忽略了科技滲透到文明各層面的趨勢，而正是這一點需要採取嚴厲的行動。科技具有快速、廣泛、廣泛傳播的趨勢，因此必須遏制人工智慧的擴散和負面影響（當後者確實發生時）。考慮到創新的歷史和軌跡，遏制是一項艱鉅的任務，但它是人類如何管理歷史上最強大的新技術的最快推出的唯一答案（無論多麼困難）。
這個意義上的遏制包括監管、更好的技術安全、新的治理和所有權模式以及新的問責和透明度模式。為了確保更安全的技術，所有這些都是必要的，但還不夠。遏制措施必須將尖端工程與道德價值結合起來，為政府監管提供基礎。目標應該是建立一套相互關聯、相輔相成的技術、文化、法律和政治機制，以維持對人工智慧的社會控制。政府必須遏制曾經需要幾個世紀或數千年的技術變革，但現在卻在幾年甚至幾個月內展開。從理論上講，遏制是對擴散不可避免的一個答案，既能夠遏制擴散，又能夠解決其後果。
不是將人工智慧放入密封盒子的問題
這不是地緣政治意義上的遏制，可以追溯到凱南的理論。這也不是將人工智慧放入密封盒子的問題，儘管一些技術（特別是流氓人工智慧惡意軟體和工程病原體）只需要這樣做。從尋求對抗某些蘇聯紅色威脅的意義上來說，遏制人工智慧也不是競爭性的。它確實類似於凱南的方法，因為政策框架必須在所有方面發揮作用。但遏制技術是一個比凱南設想的更為基本的計劃，它尋求的不是相互競爭的參與者之間的權力平衡，而是人類及其工具之間的權力平衡。它尋求的不是阻止該技術，而是保證其安全和受控。
大多數人正確地認為監管是必要的，並且傾向於認為監管就足夠了。它不是。實踐中的遏制必須在技術運作的各個層面上發揮作用。因此，它不僅需要積極主動、消息靈通的立法者和官僚，還需要技術專家和企業主管。它需要外交官和領導人進行國際合作，以架起橋樑並縮小差距。它需要世界各地的消費者和公民對技術提出更好的要求，並確保技術始終關注他們的利益。它需要他們鼓動並期待負責任的技術，就像對綠色能源和環保產品不斷增長的需求促使企業和政府採取行動一樣。
不受控制的擴散是人類歷史上的預設現象
遏制需要國際條約和大規模全球運動來回答棘手的技術問題。它必須涵蓋人工智慧安全工作，以及監控和強制合規性所需的審計機制。人工智慧背後的公司對於這項工作至關重要，需要仔細考慮如何使自己的激勵措施與政府監管相一致。然而，遏制人工智慧並不是下一代人工智慧建構者的唯一責任。它也不會完全取決於國家領導人。相反，所有將受到影響的人（即每個人）對於為這項努力創造動力至關重要。 遏制提供了一種政策組合，能夠從人工智慧模型的細粒度細節到可以減輕大規模就業損失的大型公共計劃。
總的來說，這個項目可能會證明與當前情況相同，並且能夠抵消人工智慧帶來的許多風險。這些措施的累積效應——必須包括許可製度、對一代受到批評的公司進行人員配置，以及建立保證訪問先進系統的內置機制——將使人類繼續處於這一系列劃時代變革的主導地位。 ，並且有能力在極限範圍內說「不」。這些步驟都不容易。畢竟，不受控制的擴散是人類歷史上的預設現象。因此，遏制不應被視為所有技術問題的最終答案，而應被視為關鍵的第一步。