Yahoo奇摩新聞 美國、中國將舉行首場人工智慧會談 防止AI引發災難與戰爭
美國和中國的官員將於14日在日內瓦舉行首次人工智慧（AI）會談，旨在防止在AI軍備競賽中發生災難性事故和意外戰爭。美國官員表示，他們並不預期此次對話會達成具體協議或提出合作建議，但希望能在彼此的觀點和對風險的看法上建立溝通的渠道。換言之，雙方將探討如何避免導致AI毀滅世界的情況。
去年11月舊金山峰會上，美國總統拜登（Joe Biden）和中國國家主席習近平同意應就AI領域舉行正式對話。美國白宮國家安全會議發言人華森（Adrienne Watson）表示，白宮與國務院的新興科技領域官員查布拉（Tarun Chhabra）和森特爾（Seth Center），將代表美方出席。中國將由外交部和國家發展和改革委員會的官員代表。
雙方會談什麼？
美國和中國都認為AI對國家安全和經濟成長至關重要，但美國政府也認為中國的AI發展可能會損害美國及其盟國的國家安全。去年，喬治華盛頓大學（George Washington University）國際事務學院的一份研究指出，美國欲阻止中國AI實力崛起，部分是由於擔憂中國軍隊開發無人作戰系統。
華盛頓致力在武器系統運用AI方面領先於北京，並試圖阻斷中國接觸頂尖AI技術，然而要堵住出口管制的每一項漏洞相當困難。中方則對美國的晶片制裁相當不滿，批評其濫用出口管制，並呼籲「停止對中國企業的無理打壓」。
根據拜登政府官員透露，會中將探討發展安全、可靠和值得信賴的AI。官員並駁斥美國可能會重新考慮晶片製裁的想法，稱華盛頓不會就「國家安全措施」進行談判。而中國外交部稱，雙方將討論AI和全球治理的技術風險等議題。中國駐美國大使館發言人劉鵬宇表示，中美AI對話將對兩國及其他國家的未來產生影響，雙方有責任進行坦誠對話。
《美聯社》（AP）喬治城大學安全與新興技術中心（CSET）研究員布雷斯尼克（Sam Bresnick）表示，美中都對AI的民用和軍事應用進行大力投資，但對於與美國討論AI風險，中國一直表現出「不情願」。
他推測，這次會談將為美國官員提供機會，能夠更了解中國如何定義AI風險，以及如何減輕風險。他認為美中不太可能立即簽訂有關緩解AI風險的約束性協議，但表示這些會談「可能有助於雙方在AI領域建立信任和理解」。
降低AI誤算與核戰風險？
軍隊和情報機構對使用AI技術感興趣，因為AI有助於快速處理龐大的數據，並在極短的時間內做出複雜的決策，這在現代戰爭中尤其重要。然而，這也讓人擔憂AI可能導致戰爭甚至是核戰，因為AI自主決策有可能導致誤算與意外後果。
美國國務院軍備控制官員迪恩（Paul Dean）本月初表示，核武國家應該禁止讓人工智慧控制核武器。他強調，美國已經「非常明確和堅定地承諾」，核武器的部署決定「只會由人類做出」，並補充道：「我們永遠不會將核武器的使用決定權交給AI。」
迪恩指出，英國和法國也承諾將核武器控制在人類手中。他呼籲中國和俄羅斯也跟進，宣布確保使用這種強大武器的最終決定權僅歸人類所有。迪恩進一步指出，美方認為這樣的做法是極重要的負責任行為，同時也標誌著聯合國安全理事會的五個常任理事國在管理核武器方面達成了令人樂見的共識。
在布魯金斯研究院（The Brookings Institution）的一篇評論中，學者魏光明（Graham Webster）和何瑞恩（Ryan Hass）指出，美中AI會談有望帶來更深層次的共識，包括哪些軍事應用中AI是可以被允許的，以及如何就訓練AI模型方面的跨境數據共享達成協議。
《華盛頓郵報》（Washington Post）指出，眼下，能夠保持開放的溝通管道已經是這些談判的重要成果。雙方官員皆表示，在美中關係日益惡化的情況下，防止意外將「事實冷戰」升級為「熱戰」（不論是因為人為失誤還是AI故障），應該是當前的政策重點。
美國政府官員感到擔憂的其他風險包含：與AI算法連接的數據庫可能遭對手駭入，以及自動系統故障可能導致軍事意外。此外，政府在決定AI系統的精確編程和容錯範圍時，面臨著棘手的道德問題。
根據獨立雜誌+972的上月報導，以色列在加薩使用AI來識別轟炸目標，這一做法引發了爭議。報導指出，在某些案例中，AI僅經過20秒的人工監督就做出了決定。聯合國秘書長古特雷斯（Antonio Guterres）對此表示關切，他強調表示「任何影響整個家庭生死的決定，都不應該僅依靠演算法的冰冷計算。」
更多風傳媒報導
