從《名偵探柯南：黑鐵的魚影》看歐盟人工智慧法案

2023 年在台灣上映電影《名偵探柯南：黑鐵的魚影》劇情提到國際刑警組織的新科技設施「太平洋浮標」，結合世界各個角落的警備監視系統，透過 AI 辨識人臉技術可以輕鬆比對資料就可以找到罪犯。現實生活中，AI 的浪潮已經全面席捲各行各業，金融業運用 AI 協助 KYC 開戶、投資顧問、風險評估，醫療業運用 AI 進行基因序列資料分析、數位病理和智能藥物研發，就連坐在辦公室的上班族也可以運用 AI 快速進行文案生成、資料挖掘與分析、語音轉譯等。

然 AI 快速的發展也帶來新的信任危機，例如：AI 招聘系統以公司過去的應徵者男性居多，而得到了男性應徵者比較適合的結論；AI 影像辨識系統將非裔網友標示為「大猩猩」；律師在準備法庭文件時，利用 AI 來進行撰寫，結果引用的 6 個判例都是假的；透過 AI 協助設計晶片，過程中卻意外洩漏營業秘密；AI 生成的黑白照片卻獲得 Sony 世界攝影大賽首獎。

歐盟人工智慧法案（EU AI Act）

有鑑於 AI 的高速發展各國政府也開始制定法令法規，其中最引人注目就是歐盟委員會正提出有史以來第一個人工智慧法案，該法案旨在解決人工智慧的風險，並使歐洲在全球發揮領導作用，該法案草案已於 2023 年 12 月 9 日達成政治協議，並預計 2024 年正式通過並於 2026 年開始生效，若違反的企業則將面臨最高 3,500 萬歐元，或營業額 7% 的罰款，目前該法案定義了 AI 的 4 個風險等級：

1.不可接受的風險—禁止使用 AI： 所有被認為對人們的安全、生計、認知行為和權利構成明顯威脅的人工智慧系統都將被禁止。
2.高風險—受監管使用 AI： 可能使公民的生命和健康面臨風險的關鍵基礎設施、可能決定某人接受教育和職業生涯的機會、信用評分可能剝奪了公民獲得貸款的機會、人工智慧在機器人輔助手術中的應用。
3.有限風險—透明化義務： 有限風險是指具有特定透明度義務的人工智慧系統。
4.低風險/極小風險： 該提案允許免費使用風險最小的人工智慧。

而上述提到的「高風險 AI 系統」在推出市場之前將受到嚴格的義務約束，而它要求重點如下：

• 適當的風險評估和導入管理制度/系統。
• 為 AI 系統提供高品質的資料來源，以盡量減少風險和歧視性結果。
• 記錄活動以確保結果的可追溯性。
• 提供有關 AI 系統及其用途的所有必要資訊的詳細文件及其透明性，以便當局評估其合規性。
• 向使用者提供清晰且充分的資訊。
• 採取適當的人力監督措施以盡量減少風險。
• 高水準的穩健性（Robustness）、資安和準確性。

而遠端生物識別系統都被認為是高風險並受到嚴格的要求。原則上禁止在公共場所出於執法目的使用遠端生物特徵識別。但若是例外情況則受到嚴格定義和監管，如：在必要時尋找失踪兒童，防止特定且急迫的恐怖威脅，用以偵查、定位、識別或起訴嚴重刑事犯罪的肇事者或嫌疑人。因此，《名偵探柯南：黑鐵的魚影》劇情 AI 太平洋浮標設施若長時間的監視可能是「不可接受的風險」而禁止使用，但若為急迫的特定恐怖威脅，則可以在高度監管下限制使用。而此類使用須經司法或其他獨立機構授權，並受到時間、地理範圍和搜尋資料庫的適當限制。

歐盟的 AI 法案還將針對 AI 系統發布 CE 標章，要求 AI 系統應加貼 CE 標章並簽署合規聲明，包含設計時要符合預期目的、使用前要取得合格評測、上線部署後持續合規監控、嚴重事故或侵犯基本權利時應通報、系統重大變更時應重新評估等。

AI 新時代的奇異點將引來曙光

AI 的爆炸性的成長將為人類生活迎來新的跳躍式發展企業在建置、使用、管理 AI 技術時參考歐盟 AI 法案、美國 NIST AI Risk Management Framework、ISO 42001 都是很合適的選擇，相信運用新興科技時，讓人類邁向更美好的未來。

更多報導
AIGC 爆炸下，企業、工作者與 AI 趨勢共處的方法
人工智慧、電子錢包、跨界合作，銀行界 3 大動態將帶來哪些改變？
百萬網紅化身 AI 女友，一週賺進 220 萬！當虛擬戀愛成為商品，我們會更快樂還是更寂寞？