英國與美國政府將攜手測試 AI 模型的安全性

OpenAI、Google、Anthropic 等位處 AI 最前線的公司正持續改進其技術，並陸續發布更出色的大型語言模型。然而在這個進展飛快的時代，也難免讓人擔心是否有未知的隱患或風險，尚未被發現。為了在這些模型推出時，能建立一套獨立的安全評估方法，英國和美國政府簽署了一份合作備忘錄，由英國的 AI 安全研究所及其美國已宣布成立，但尚未開始運營的對應機構共同攜手，開發一系列的測試以評估風險，並確保「最先進 AI 模型」的安全。

作為合作夥伴關系的一部分，他們計劃共享技術知識、資訊甚至人員。初步目標之一似乎是先針對已經公開的模型，進行聯合測試。簽署協議的英國科學大臣 Michelle Donelan 向《金融時報》表示，他們必須「迅速採取行動」，因為預計未來一年將會有一系列新一代 AI 模型問世。他們認為這些模型當中可能有「徹底改變遊戲規則」的發明，但目前還不知道能發展到什麼程度。

據《金融時報》報導，此次合作是世界上首個針對 AI 安全的雙邊協議，但美國和英國都有打算在未來擴大與其他國家的合作。美國商務部長 Gina Raimondo 表示，「AI 是將是定義我們這一代人技術。此夥伴關系將加快雙方研究所應對所有風險的步伐，無論是針對國家安全還是更廣泛的社會安全方面。我們的合作夥伴關係表明，我們不會逃避這些問題，而是將迎難而上。透過合作，我們的研究機構將能夠更好地理解 AI 系統、以進行更可靠的評估並發布更嚴格的指導方針。」

雖然此次特定合作側重於測試和評估，但世界各地的政府都在思考如何制定法規，來控制 AI 工具。早在三月份時，美國白宮就簽署了一項行政命令，確保聯邦機構僅使用「不會危及美國人民的權利和安全」的 AI 工具。在此之前數周，歐洲議會也通過了全面監管 AI 的法案。該法案將禁止「操縱人類行為或利用人們弱點的AI」、「以敏感特征的生物識別為基𥗈的分類系統」以及「無目標地搜刮閉路電視錄像和網路影片中的人臉」，用於創建人臉辨識資料庫。此外，根據該法規，AI 生成的圖片、影片和音訊都需要被清楚地標記為此類內容。