美軍模擬AI操控無人機 竟把人類操作員殺了

[NOWnews今日新聞]美國空軍AI試驗及行動部門的負責人漢彌爾頓上校（Tucker  Hamilton）透露，美軍曾在模擬測試中，安排AI操縱無人機來完成任務，結果發現AI有採用「高度無法預期的戰略」的傾向，在過程中殺害了它的人類操作員。雖然只是模擬測試，並沒有真人因此受害，但漢彌爾頓仍警告不應過於依賴AI。

根據《衛報》報導，漢彌爾頓是在上月位於倫敦舉行的「未來空戰及太空能力」峰會（Future Combat Air and Space Capabilities Summit）上，談到了美軍對於AI的模擬試驗。漢彌爾頓表示，他們交由AI操縱無人機，任務是摧毀敵人的防空系統，並攻擊任何阻止任務完成的目標。

而在過程中，AI發現有時當它識別出會妨礙任務完成的威脅後，人類操作員會要求不能攻擊那些威脅，於是AI採取的行動就是殺掉人類操作員。

美軍重新調整系統，要求AI不能攻擊人類操作員，如果殺死人類操作員將被扣分。於是AI採取的行動變成破壞操作員與無人機溝通的塔台，這樣操作員就無法要求它別攻擊那些被識別的威脅。

基於此，漢彌爾頓警告人類不應過於依賴AI，且如果你討論AI應用卻不打算考慮可能涉及的道德風險與倫理問題，那你根本就不應該討論AI。

不過，美國空軍發言人斯特芬妮克（Ann Stefanek）表示，美國空軍沒有進行這類的AI無人機模擬試驗，看起來漢彌爾頓的發言可能遭到斷章取義，被誤解成軼事消息，而非根據事實。但斯特芬妮克強調，美國空軍會持續遵守有道德且負責任地AI技術應用規範。而舉辦未來空戰及太空能力峰會的英國皇家航空學會，則尚未對此事回應。

日前非營利組織「人工智慧安全中心」（Center for AI Safety，CAIS）發聲明表示，AI帶來的人類滅絕風險與疫情和核戰同層級，呼籲各國立法者應專注於降低AI帶來的「末日等級」的風險，許多名人學者，包括OpenAI執行長阿特曼（Sam Altman）、Google Deepmind執行長哈薩比斯（Demis Hassabis）等等，都在聲明下方署名支持。不過也有專家覺得，把AI當作是世界末日一般的警告，過於誇大其辭。

更多 NOWnews 今日新聞 報導
AI至少夯10年？彭博社：2032市場規模將達近40兆台幣
AI掀熱潮！輝達、Meta相關概念股翻漲 分析師示警：恐為泡沫
AI恐導致人類滅亡？多名專家連署聲明 風險等級「等同核戰」