【歐陽永叔專欄】新生物武器如何破壞世界的穩定
在網路安全中,滲透測試是對電腦系統防禦的模擬攻擊,使用對手將使用的工具和技術。各類政府和公司都使用此類測試。例如,銀行定期聘請電腦專家闖入其係統並將資金轉移到未經授權的帳戶,通常是透過網路釣魚獲取員工的登入憑證。測試人員成功後,他們向機構展示他們的發現,並就如何提高安全性提出建議。
人類社會本身受到了一種滲透測試:COVID-19
在上個十年末和本世紀初,人類社會本身受到了一種滲透測試:COVID-19。這種病毒是一個不假思索的對手,它試探了世界抵禦新病原體的能力。到測試結束時,很明顯人類失敗了。從偏遠的南極研究站到偏僻的亞馬遜部落,新冠病毒 (COVID-19) 蔓延到各個地方。它席捲了療養院和航空母艦。隨著它的蔓延,它拉平了弱勢群體和強勢群體——一線工人和國家元首。獨裁國家實施的嚴厲封鎖和民主國家開發的神奇疫苗減緩了病毒的傳播,但並沒有阻止病毒的傳播。到 2022 年底,四分之三的美國人至少被感染過一次。中國去年 12 月結束「零新冠」限制後的六週內,全國超過 10 億人被感染。這次大流行病死亡人數相對較少的主要原因並不是社會已經控制了這種疾病。事實上,病毒感染被證明只有中等程度的致死率。最終,COVID-19 幾乎自行消亡。
世界正面臨越來越多的生物威脅
Roger Brent, T. Greg McKelvey等人發表在最新一期《外交事務》(Foreign Affairs) 的<新生物武器>( The New Bioweapons)指出合成生物學如何破壞世界的穩定(How Synthetic Biology Could Destabilize the World)。
人類在對抗新冠病毒 (COVID-19) 方面的失敗令人警醒,因為世界正面臨越來越多的生物威脅。其中一些,例如禽流感,來自大自然。但很多都來自科學進步。在過去的 60 年裡,研究人員對分子生物學和人類生物學有了深入的了解,從而開發了極其致命且有效的病原體。他們已經找到如何製造可以逃避免疫力的病毒。他們學會如何進化現有病毒,使其更容易透過空氣傳播,以及如何設計病毒以使其更加致命。目前尚不清楚 COVID-19 是由此類活動產生還是透過與野生動物的互動進入人類群體。不管怎樣,很明顯,現在由人工智慧推動的生物技術使疾病的產生變得比以往任何時候都更容易。
合成病原體可能比新型冠狀病毒能夠殺死更多的人
如果人造或人工改良的病原體從實驗室逃脫或釋放,後果可能是災難性的。有些合成病原體可能比新型冠狀病毒能夠殺死更多的人,並造成更多的經濟破壞。在最壞的情況下,全球死亡人數可能超過黑死病,歐洲每三個人就有一個死於黑死病。
避免這樣的災難必須成為世界領導人的首要任務。這個問題至少與人類世早期的其他重大挑戰一樣複雜,包括減輕和管理核武的威脅以及氣候變遷對地球的影響。為了應對這種危險,各國需要開始強化社會力量,以防範人造病原體。例如,他們必須開發能夠檢測工程疾病的預警系統。他們必須學習如何增加個人防護裝備的產量以及如何使其更有效。他們需要將開發和分發疫苗和抗病毒藥物所需的時間從幾個月縮短到幾天。他們需要管理用於創建和操縱病毒的技術。他們必須盡快完成這一切。
大多數人都將生物學視為進步的力量
一個多世紀以來,大多數人都將生物學視為進步的力量。到了二十世紀初,疫苗已經幫助人類消滅天花和牛瘟,幾乎消滅小兒麻痺。成功是零碎的;許多傳染病無法治愈,因此徹底消滅病原體仍然是例外,而不是規則。但這些進步是不可否認的。人類成就的合格性質也許是愛滋病毒大流行的最佳例證。幾十年來,愛滋病毒幾乎殺死了所有感染它的人。它每年繼續感染數百萬人。但由於科學創新,世界現在有了阻止病毒複製的混合藥物,使這種疾病從死刑變成了可以控制的疾病。這種醫療進步取決於不同且鬆散協調的企業(每個企業對不同的激勵措施做出反應),這些企業提供醫療服務、管理公共衛生以及進行科學和醫學研究。
破壞人類健康的企圖成為可能
但進步可能是一把雙面刃。如果科學家對微生物學的不斷加深的了解促進了人類健康的巨大進步,那麼它也使得破壞人類健康的企圖成為可能。第一次世界大戰期間,盟軍研究了細菌武器的使用,德國軍事情報人員使用此類病原體攻擊盟軍用於運輸的動物。它們使法國和羅馬尼亞的馬和騾子患病。在挪威,他們試圖感染薩米人用來運送武器到俄羅斯軍隊的馴鹿。德國官員甚至設法感染了美國的畜欄和馬厩,這些畜欄和馬厩裡滿是前往歐洲的動物。
到第二次世界大戰開始時,這些舉措已經成熟為旨在殺死人類的武器。在日本佔領的滿洲里,日本軍官石井四郎指揮著反烏托邦的 731 部隊,在人類身上測試了生物武器。他們用炭疽、傷寒、副傷寒、鼻疽、痢疾和黑死病感染並殺死了數千名囚犯。在戰爭的最後幾天,石井提出了一項名為「夜間櫻花」的全面生物戰行動,日本水上飛機將在美國西海岸主要城市上空驅散感染黑死病的跳蚤。但該計劃遭到陸軍總參謀長否決。 “如果進行細菌戰,”這位負責人指出,“它將從日美之間的戰爭升級為人類與細菌的無休止的戰鬥。”
沒有阻止其他國家研發生物武器
假設國家和恐怖分子缺乏製造生物武器的意願或手段是錯誤的。這種想法並沒有阻止其他國家研發生物武器。 1960年代,美國國防部啟動了112計劃,試驗如何大規模傳播攻擊性病原體。為此,軍隊在紐約市地鐵的隧道中散佈孢子,並在舊金山灣的船上散佈氣溶膠中的細菌。它從軍用飛機向數千平方英里的範圍噴灑化學物質,從落基山脈到大西洋,從加拿大到墨西哥灣。在美國官員看來,這些武器是針對蘇聯核攻擊的一種保險:如果莫斯科襲擊美國並摧毀華盛頓自己的核武庫,美國仍然可以透過致命病原體的反擊來摧毀蘇聯。到本世紀中期,該部門致力於開發致命和殘疾的生物武器。 20 世紀60 年代接近尾聲時,政府科學家生產了大量致命細菌和毒素,用微生物學家萊利·豪斯賴特(Riley Housewright) 的話說,這些細菌和毒素的目的是“混淆診斷並阻礙治療” 。
生物武器可能會像核武一樣致命
然而,這些事態發展嚇壞了民間研究人員,他們反對華盛頓的計畫。他們在白宮找到了樂於接受的聽眾。 1969 年,美國總統理查德·尼克森決定停止該國的生物武器計畫。他還呼籲制定一項國際條約來禁止此類措施。外部專家支持了他的觀點。尼克森宣布這項消息後不久,諾貝爾獎得主生物學家約書亞·萊德伯格在國會作證 支持全球禁令。他說,生物武器可能會像核武一樣致命。但它們會更容易建造。萊德伯格說,核武「已經被大國壟斷了足夠長的時間,足以維持事實上的威懾平衡並建立基於防擴散的安全體系」。 “細菌的力量會以相反的方式發揮作用。”
《生物武器公約》沒有限制私人團體和個人追求此類武器
但華盛頓的主要對手並沒有被說服。 1971 年,當全世界就一項條約爭論不休時,蘇聯在鹹海的一座島嶼上釋放了一種武器化的天花病毒株——天花病毒。它導致了今天的哈薩克爆發天花。蘇聯公共衛生官員的英勇努力遏制了疫情的爆發,但這些努力之所以成功,只是因為受影響地區人口稀少,而且大多數蘇聯公民都接種了疫苗並擁有一定的免疫力。
同年晚些時候,蘇聯和美國同意簽署一項禁止生物武器的條約,稱為《生物武器公約》。聯合國大會普遍讚揚該協議,並於 1972 年在倫敦、莫斯科和華盛頓開放簽署。但蘇聯最終違反了該協議。 1979 年,斯維爾德洛夫斯克市(現為葉卡捷琳堡)秘密炭疽計畫的孢子被釋放,造成 68 人死亡。莫斯科沒有發生任何其他明顯的事故,但蘇聯人一直維持著一項生物武器計劃,直到他們的國家分崩離析——據叛逃者稱,該計劃在鼎盛時期僱用了 6 萬人。 1991年,美國和英國代表參觀了該計畫的一些設施,在那裡他們看到了一排排能夠生產數千升高滴度天花的容器和生物反應器。然後,這些船隻可以將病毒透過冷藏管道泵入小炸彈中,而小炸彈又可以裝載到飛彈上。
《生物武器公約》還有另一個問題:它沒有限制私人團體和個人追求此類武器。 1984 年,俄勒岡州的羅傑尼希宗教運動用沙門氏菌污染了沙拉吧。 (其目標是使反對派選民失去選舉能力,以便羅傑尼希候選人能夠贏得沃斯科縣選舉。)沒有人死亡,但數百人患病。 1995年,世界末日奧姆真理教組織使用化學神經毒劑沙林在東京造成數千人受傷;該國先前曾嘗試製造炭疽武器,但沒有成功。 2001 年,美國發生了針對記者和兩個美國參議院辦公室的炭疽攻擊(聯邦調查局認為是由一名美國科學家單獨實施),造成 5 人死亡。
當前的國際協議和公共衛生措施無法防止生物武器攻擊
這些事件規模相對較小,可以證明恐怖分子和國家目前可能受到技術困難或現有法律的限制,無法造成大規模生物破壞。但這種觀點過於樂觀。相反,它們表明當前的國際協議和公共衛生措施無法防止此類攻擊。這些事件也表明,假設國家和恐怖分子缺乏製造生物武器的意願或手段是錯誤的。一些個人和團體確實面臨障礙,例如無法進入合適的實驗室或設施。但由於技術的不斷進步,這些障礙正在瓦解。
2012年,由Emmanuelle Charpentier和Jennifer Doudna領導的一群科學家在頂尖學術期刊《科學》上發表了一篇文章。文章描述了一種名為 CRISPR-Cas9 的工程系統,該系統使用人造嵌合 RNA 來編輯遺傳物質。這項發明為分子生物工程已經很強大的工具箱增添了新的內容,包括科學家所說的「經典重組DNA」(發明於20 世紀70 年代)、聚合酶鍊式反應(更廣為人知的名稱為PCR ,發明於20 世紀80 年代)和合成DNA(也於 20 世紀 80 年代開始使用)。這些發明共同創造了人類創造力的爆發,推動了科學發現和醫學進步。例如,2023 年 12 月,FDA 批准了一種基於 CRISPR 的複雜基因療法用於治療鐮狀細胞性貧血,這是一種困擾數百萬人的毀滅性疾病。
風險不斷增加的部分原因是第二次技術革命
但由於政治、經濟以及生物進步影響人類的複雜制度,最新技術的優勢可能需要數年時間才能惠及那些有需要的人。例如,鐮狀細胞性貧血的 CRISPR 治療在技術和醫學上都很複雜、成本高(每人 220 萬美元)且耗時。因此,它只覆蓋了很小一部分患者。儘管全世界都在努力傳播這些先進新技術的好處,但科學家們仍在繼續證明它們也容易造成傷害。 2018 年,三人團隊中的一個人使用重組 DNA、PCR 和合成 DNA 重建了馬痘(天花的近親)。另一個小組使用這些工具加上 CRISPR 來設計一種與天花相關的不同病毒。此類研究很容易被用來生產致命的毒素。
風險不斷增加的部分原因是第二次技術革命:人工智慧的興起。大型語言模型,例如來自 ChatGPT 和 Claude 的模型,隨著每次新的迭代而變得更加複雜和強大。如今,成千上萬的實驗室工作人員每天都使用最新版本來加速他們的工作,部分原因是針對技術問題提供了大量有用的指導。 2020 年,人工智慧研究人員創建了一個名為 AlphaFold 的系統,該系統有效解決了生物學中的一個聖杯問題:根據蛋白質的氨基酸序列預測蛋白質的三維結構。
產生病原體比防禦病原體便宜。
但對於潛在的生物恐怖分子來說,這些系統可以減緩造成混亂的道路。最大的人工智慧模型似乎是根據生命科學已發表的全部知識進行訓練的。當然,大部分知識已經可以在網路上獲得,但沒有人能夠消費、處理和綜合所有這些知識。目前的人工智慧系統還可以設計新的蛋白質(可以設計危險的病原體)並執行實驗室操作。一些電腦科學家甚至致力於製造可以執行實驗室任務的自動化系統。如果這些努力成功,惡意行為者可以透過簡單地劫持此類自動化設施來製造致命的新病原體。
當局很難阻止他們。事實證明,駭客有能力闖入極其複雜的安全系統,而產生新病原體所需的材料包括廣泛可用的試劑和設備。監管機構可以嘗試針對數十家負責關鍵零件訂單的供應商。但有許多方法可以繞過這些供應商,關閉它們可能會減慢有價值的生物醫學研究和開發。
如果不良行為者最終確實產生並釋放了病毒病原體,它可能會在比官員檢測和識別威脅並開始反擊所需的時間短得多的時間內感染大量人群。畢竟,產生病原體比防禦病原體便宜。製造一種新疾病所需的設施和材料的資本成本很低,但應對疾病的流行涉及一系列複雜且昂貴得驚人的組成部分:廣泛的測試和檢測網絡、大量的個人防護設備、具有社會破壞性的封鎖,以及可以開發、製造和分發治療方法和疫苗的設備。
花費數十億美元試圖阻止另一場流行病的想法應該足以阻止各國將生物學武器化。然而,一些政府繼續採取危險的措施。 2024年4月,美國國務院評估稱,北韓和俄羅斯擁有進攻性生物武器計劃,而中國和伊朗正在進行可武器化的生物活動。它們都是《生物武器公約》的締約方。
防禦威懾,「確保相互毀滅」的概念
冷戰期間,世界核子大國避免了災難,很大程度上要歸功於「確保相互毀滅」的概念。政客們認識到,一次核攻擊可能會引發毀滅性的報復——或者,正如美國總統羅納德·裡根和蘇聯領導人米哈伊爾·戈爾巴契夫在1985 年所說的那樣,“核戰不可能獲勝,也絕對不能打。核武國家製定了詳盡的學說來管理其技術並阻止武器的使用。各國政府達成了各種國際防擴散協議,將擁有核武的國家數量降至最低。蘇聯和美國創建了許多系統,包括條約、指揮控制協議和熱線電話,以減少誤解導致災難性戰爭的可能性。
但在生物武器方面,冷戰時期的威懾模式就行不通了。相互確保毀滅依賴於恐懼,這種恐懼在核子時代很普遍,但在生物戰中並不普遍。當前的威脅依賴於驚人的技術進步和史無前例的發明的持續,這使得人們很難完全掌握風險。與廣島和長崎的核爆不同,沒有任何生物襲擊是引起持久關注的世界歷史事件。
相互確保毀滅也取決於一個國家識別攻擊者的能力。有了核武器,這樣做就很容易了。但國家可以釋放生物武器並逃避偵測,從而避免報復。政府可以秘密釋放一種危險的病毒,並將其歸咎於任何其他國家,甚至非國家行為者。
恐怖分子可以獲得製造生物武器所需的知識和技術能力
非國家行為者確實可以釋放致命的病原體,這一事實使得相互確保的破壞成為一種更無用的檢查。沒有一個政府願意冒國家被毀滅的風險,但許多恐怖分子並不關心生存,他們現在可以獲得製造生物武器所需的材料、設備、知識和技術能力。 1969 年,萊德伯格警告說,不受控制的生物擴散的後果將類似於「超市裡出售氫彈」。 2024 年的世界充滿了超市,裡面堆滿了製造炸彈的材料。
由於冷戰式的威懾很難實現,目前的情況需要不同的理念。在這裡,威懾之路不在於報復能力。相反,它的防禦如此強大,以至於不值得進行生物攻擊。
社會如何使生物武器失敗有一個歷史模板
社會如何使生物武器失敗有一個歷史模板:主要城市火災的結束。在大部分有記錄的歷史中,世界上的城市都會週期性地被大火吞噬,將其核心夷為平地。但在十九世紀,這些火災的頻率急劇下降。這種減少在一定程度上是由於開發了更好的反應系統的結果,例如專業消防部隊和消防栓。但主要是,這種減少是由日常措施推動的,包括引入不易燃的建築材料、實施工程標準和建築規範,以及責任保險的要求——這些措施阻止了危險行為。當各州對疏忽的定義更加明確,更容易針對意外火災提起民事訴訟時,人們變得更加謹慎。
今天的當局可以借鏡這個劇本。政府建立了消防部門和消防栓來應對城市火災。現在,他們需要建立能夠快速開發疫苗、抗病毒藥物和其他醫療干預措施的系統。然而,就像城市火災一樣,政府需要明白,快速反應是不夠的。世界可以而且必須發展出在疫情爆發後 100 天內為其 80 億人接種疫苗的能力,這比美國為 1 億人全面接種 COVID-19 疫苗所需的速度還要快。然而,對於以冠狀病毒 Omicron 變種的速度傳播的病原體來說,這仍然不夠。
更徹底地監督未來的實驗室自動化
此外,政策制定者必須採取類似於製定更好的建築規範的措施,換句話說,採取措施使病原體更難傳播。他們可以先增加個人防護裝備的庫存。口罩、手套和呼吸器是阻止病毒傳播的關鍵,因此官員應該簽署此類物品的準備合約。各國也應該補貼工業基地,以便在需要時能大幅提高產量。他們應該指示製造商重新設計個人防護裝備,使其更便宜、更有效、更舒適。政府可以透過確保從事基本服務工作的人員能夠特別迅速地獲得防護設備來進一步增強這種抵禦能力。各國應協助為這些部門的建築物配備殺菌遠紫外線淨化系統和顆粒過濾器。綜合起來,這些措施將大大降低疫情爆發發展成為社會不穩定事件的風險。
還有最後一種方法可以降低生物災難的風險,這種方法不僅僅是製定應對和防禦措施。是為了讓官員更好地治理新技術。最終,這可能是真正防止大規模生物攻擊的唯一方法。
政府可以使用許多工具來監管進步。官員們可以拒絕資助甚至徹底禁止特定的實驗。他們可以要求人員和設施在進行某些類型的工作之前獲得許可證。他們可以更徹底地監督未來的實驗室自動化。
各國政府應設計新的方法來檢測違禁生物活動
但官員也應該塑造支持生物研究和開發的生態系統。例如,他們應該要求銷售核酸、菌株、試劑和其他用於製造生物製劑的生命科學設備的公司採用「了解你的客戶」規則,該規則要求公司確認其客戶的身份及其性質。他們還確保貨物僅運送到已知的合法地點。 (許多政府長期以來一直強制金融機構遵守「了解你的客戶」規則,以防止資金流入犯罪網絡。)此外,政策制定者應該能夠更好地監管行為。各國政府應設計新的方法來檢測違禁生物活動,以便執法和情報機構能夠在攻擊發生之前阻止它們。
儘管人工智慧和生物工程有很多優點,但也存在著巨大的危險。
最後,從今天開始,各國將需要在製定生物防禦政策時考慮到人工智慧。目前,在發布大型語言模型之前,公司會發明並安裝各種保護措施,例如用戶無法跨越的「紅線」。例如,ChatGPT-4 和 Claude 3.5 Sonnet 拒絕回答有關如何進化病毒來殺死農場動物的直接問題。但如果使用者尋求技術指導,了解如何在不使用「殺戮」一詞的情況下進行這種定向進化,這些模型將提供很好的指導。因此,人工智慧模型需要額外的保護措施來防止分發危險訊息,政府應該幫助創建它們。
「對於進步,沒有治癒方法」
降低這些新技術帶來的風險並不容易,而且一些治理措施可能會減慢合法研究的速度。政策制定者在考慮限制措施時必須深思熟慮。但明智的監督至關重要。現實情況是,儘管人工智慧和生物工程有許多優點,但也帶來了巨大的危險,社會和政府必須誠實地評估這些發展當前和未來的好處及其潛在危險。
然而,官員們不應絕望。畢竟,世界之前已經避免過生存災難。冷戰可能無法為如何應對當今的挑戰提供模板,但其歷史仍然證明社會可以遏制危險的發明。當時和現在一樣,世界面臨著由人類聰明才智開發出來的創新,它危害了文明。當時和現在一樣,各國無法消除新技術。但由於概念和系統的發展將風險降至最低,政府成功地預防了最壞的情況。 「對於進步,沒有治癒方法,」幫助指導美國核政策的數學家和物理學家約翰·馮·諾伊曼寫道。 「任何為目前爆炸性的進步尋找自動安全管道的嘗試都必定會導致挫敗。唯一可能的安全是相對的,它在於明智地進行日常判斷。
二十一世紀的一個決定性挑戰將是,世界能否在這些有望改變文明的新技術的出現中倖存下來。與核能一樣,它們是人類研究的產物。與核能一樣,沒有辦法讓它們恢復原樣。但社會可以透過明智地進行日常判斷來防止最壞的情況發生。 「提前要求完整的配方是不合理的,」馮諾依曼說。 “我們只能指定所需的人類品質:耐心、靈活性、智慧。”