讀心機器來了！我們如何才能控制它？

文 / 蘇和仲

科學進步正在迅速使讀心術等科幻概念成為現實，並給正在考慮如何規範讀腦技術以保護隱私等人權的倫理學家提出了棘手的問題。利亞姆·德魯(Liam Drew)最新發表在《自然》(Nature)的<讀心機器即將到來——我們如何才能控制它們？>(Mind-reading machines are coming — how can we keep them in check?)中說，「研究人員表示，能夠記錄和改變大腦活動的設備將產生挑戰現有人權立法的隱私問題。」(Devices that can record and change brain activity will create privacy issues that challenge existing human-rights legislation, say researchers.)

7 月 13 日，神經科學家、倫理學家和政府部長在聯合國科學和文化機構教科文組織組織的巴黎會議上討論了這個話題。代表們規劃了管理此類「神經技術」的下一步計劃——直接與大腦交互以監測或改變其活動的技術和設備。這些技術通常使用電氣或成像技術，涵蓋從醫學批准的設備（例如用於治療帕金森病的大腦植入物）到商業產品（例如用於虛擬現實（VR）以收集大腦數據或允許用戶控制軟件的可穿戴設備）。

大腦讀取設備幫助癱瘓者移動、說話和觸摸

聯合國教科文組織負責社會和人文科學的助理總幹事加布里埃拉·拉莫斯在會議上表示，如何監管神經技術「不是技術討論，而是社會討論、法律討論」。

神經技術的進步包括可以解碼人們思想內容的神經成像技術，以及可以將人們的手寫思想轉換為文本的植入腦機接口（BCI）1。

該領域正在快速發展——聯合國教科文組織在會議上發布的最新神經技術報告顯示，2015年至2020年間，全球範圍內申請的神經技術相關專利數量每年翻一番。報告稱，2010年至2020年間投資增長了22倍，神經技術目前已成為一個價值330億美元的產業。

防止神經技術的潛在危害，同時又不限制對其益處

需要監管的一個領域是神經技術用於分析個人的潛力以及操縱人們的思想和行為的奧威爾思想。出席會議的北卡羅來納州達勒姆杜克大學倫理學家尼塔·法拉哈尼 (Nita Farahany) 表示，大眾市場的大腦監測設備將成為數字世界的有力補充，在這個世界中，企業和政治參與者已經利用個人數據獲取政治或商業利益。

政策制定者面臨的挑戰是制定法規，防止神經技術的潛在危害，同時又不限制對其益處的研究。法拉哈尼表示，醫療和消費品面臨著獨特的挑戰。

用於臨床的產品主要受現有藥品和醫療器械法規的管轄。例如，一種監測癲癇患者大腦活動並刺激大腦抑制潛在癲癇發作的系統已投入臨床使用2。更先進的設備——例如植入式腦機接口，可以讓癱瘓的人僅用意念控制各種外部設備——正在試驗中。

讀心機來了：是時候擔心了嗎？

但商業設備是倫理學家更緊迫的關注點。從初創企業到科技巨頭，公司都在開發廣泛使用的可穿戴設備，包括記錄不同形式神經活動的耳機、耳塞和腕帶，並使製造商能夠訪問這些信息。

這些數據的隱私是一個關鍵問題。紐約市哥倫比亞大學的神經科學家拉斐爾·尤斯特 (Rafael Yuste) 在會上表示，他共同創立的 Neurorights 基金會的一項未發表的分析發現，18 家提供消費者神經技術的公司製定了條款和條件，要求用戶向公司提供其大腦數據的所有權。除一家公司外，所有這些公司都保留與第三方共享這些數據的權利。「我認為這是掠奪性的，」尤斯特說。「這反映出監管的缺失。」法拉哈尼說，鑑於這些產品的潛在市場很大，而且公司可能很快就會尋求從人們的神經數據中獲利，因此監管商業設備的必要性迫在眉睫。

防止第三方影響一個人的神經活動的權利

會議的另一個主題是記錄和操縱神經活動的能力如何挑戰現有的人權。一些發言者認為，現有的人權——例如隱私權——涵蓋了這一創新，而其他發言者則認為需要做出改變。兩名研究人員討論了「神經權利」的概念，即防止第三方訪問和影響一個人的神經活動的權利。

「神經權利既可以是消極自由，也可以是積極自由，」德國慕尼黑工業大學哲學家馬塞洛·伊恩卡 (Marcello Ienca) 在會議上表示。例如，消極自由意味著你的大腦數據不會在未經同意的情況下被侵入。積極的自由可能是人們公平地獲得有價值的醫療技術的能力。

提出了五項主要的神經權利

尤斯特和他的同事提出了五項主要的神經權利：精神隱私權；防止人格改變的操縱；受保護的自由意志和決策；公平獲得精神增強；以及防止神經技術核心算法中的偏差。尤斯特和伊恩卡希望他們的提議能為有關讀腦監管和人權條約挑戰的辯論提供信息。智利、西班牙、斯洛文尼亞和沙特阿拉伯等國家已開始製定法規，代表們在會議上討論了各自國家的工作。智利之所以脫穎而出，是因為它在 2021 年成為第一個更新憲法、承認神經技術需要法律監督的國家。

智利科學技術部副部長卡羅萊納·甘薩·科爾特斯(Carolina Gainza Cortés)表示，智利正在製定新的立法，立法者正在討論如何保護人權，同時允許研究技術的好處。

聯合國教科文組織成員國的下一步將是在 11 月投票決定該組織是否應該制定神經技術全球指南，類似於聯合國教科文組織正在敲定的人工智能指南，幫助成員國實施立法。「我的希望是我們從道德原則轉向具體的法律框架，」法拉哈尼說。「在神經技術方面，我們還不算太晚，」法拉哈尼在會議上說。「它還沒有在整個社會規模化。」