美、英等18國簽署協議 確保AI安全性

記者羅時偉/綜合報導

包括美、英等18個國家27日聯合發布《AI系統安全開發協議》(Guidelines for Secure AI System Development),呼籲從設計階段開始,確保AI安全性,保障公眾免於受AI濫用威脅與不肖人士利用。

該協議由美國「網路安全暨基礎設施安全局」(CISA)、英國「國家網路安全中心」(NCSC)主導,要求AI開發人員在設計、開發與部署階段,都應注重安全性,協議內容並與產業界合作,確保AI開發以注重網路安全為前提,遵循「AI設計以安全為基礎」原則,包含防止AI技術遭駭客操縱,並建議企業僅能發布通過安全測試的模型等。

雖然該協議不具約束力,但CISA局長伊斯特利表示,協議獲多個國家簽署同意,代表愈來愈多國家願意承諾,讓AI開發從一開始就具備安全性。NCSC執行長卡麥隆則說,AI正迅速發展,各國與產業應攜手合作跟進,確保安全優先才能降低風險。

AI逐漸深入產業開發等領域,更需要確保安全性,保障公眾權益。圖為德國企業以AI繪製零件。(達志影像/美聯社資料照片)