五角大廈軍事顧問委員會通過AI五大原則 樹立戰場道德

青年日報社

編譯江昱蓁/綜合外電報導

有鑑於「人工智慧」(AI)領域的革命已然來到,為說服世人相信美軍以負責任的態度使用這項技術,五角大廈國防創新委員會(DIB)日前針對戰鬥與非戰鬥AI技術於戰場的應用,設立5大道德原則。不過,該委員會決議不具拘束力,端視五角大廈是否會予以採用。

這5大原則包括:第一,責任性,人類應對AI系統的研發、部署、使用與結果負責,而整個過程人類需行使適當的判斷力。第二,合理可預期性,國防部應採取措施,避免戰鬥與非戰鬥AI系統在研發與部署的過程中,出現不可意料的偏差,而這類偏差又會造成人類的傷害。

第三,透明性,國防部的AI相關科技在研發、操作過程,或是數據源、研發文件等,都應透明且可驗證。第四,可靠性,國防部應明確界定AI系統的使用範圍,並在該系統的生命週期內予以測試,以確保該系統的安全性。

第五,可控制性,國防部除應確保AI系統能實現預期功能外,同時也須檢測與避免該系統意外傷害;在該系統行為脫序時,也能人為介入停止其行為。DIB也呼籲五角大廈投入更多資源至AI研發、培訓、倫理與相關評估。

DIB為一獨立委員會,由學界與業界人士共同組成,以提供國防部政策建議。該委員會歷經15個月的研究,從輿論的收集、公聽會的舉行,到邀請AI專家進行圓桌論壇,終於針對AI設定使用的5大原則。此外,國防部也成立原則與倫理工作小組協助DIB的工作。

為避免出現如同電影《魔鬼終結者》天網的劇情,DIB要求國防部應有能力在AI系統脫序時,迅速介入並停止其行為。圖為在立陶宛演習的美海軍即製爆裂物處理人員,操作SUG-V機器人。(取自DVIDS)

你可能還想看