六種跡象顯示機器人「變成人」

特別報導

文 / 蘇和仲
科幻小說長期以來一直接受人工智能變得有意識的想法——想想 1968 年電影《2001：太空漫遊》中超級計算機變身反派的 HAL 9000 。隨著人工智能（AI）的快速進步，這種可能性變得越來越不切實際，甚至已經被人工智能領域的領導者所承認。例如，去年，聊天機器人 ChatGPT 背後的公司 OpenAI 的首席科學家伊利亞·蘇茨克弗 (Ilya Sutskever) 在推特上表示，一些最前沿的人工智能網絡可能「具有輕微的意識」。瑪麗安娜·倫哈羅Mariana Lenharo發表在最新一期《自然》(Nature)的<如果人工智能變得有意識：研究人員將通過以下方式知道>( If AI becomes conscious: here’s how researchers will know)指出，「從六種基於神經科學的意識理論得出的清單可以幫助評估。」(A checklist derived from six neuroscience-based theories of consciousness could aid in the assessment.)
極大地改變我們作為人類對待該實體的感受
許多研究人員表示，人工智能係統尚未達到意識階段，但人工智能進化的速度讓他們思考：我們如何知道它們是否已經具備意識？
為了回答這個問題，由 19 名神經科學家、哲學家和計算機科學家組成的小組制定了一份標準清單，如果滿足這些標準，則表明系統很有可能具有意識。他們於本週早些時候在同行評審之前在 arXiv 預印本存儲庫中發布了臨時指南。作者們之所以做出這項努力，是因為「似乎確實缺乏對人工智能意識的詳細、有經驗的、深思熟慮的討論，」合著者羅伯特·朗（Robert Long）說，他是非營利研究組織人工智能安全中心的哲學家。在加利福尼亞州舊金山。
該團隊表示，未能確定人工智能系統是否有意識具有重要的道德意義。加州大學歐文分校的神經科學家、合著者梅根·彼得斯表示，如果某物被貼上了「意識」的標籤，「這就會極大地改變我們作為人類對待該實體的感受」。
據他所知，構建先進人工智能系統的公司沒有做出足夠的努力來評估意識模型，並製定如果發生這種情況該怎麼辦的計劃。「儘管如此，如果你聽一下領先實驗室負責人的言論，他們確實表示他們對人工智能意識或人工智能感知感到好奇，」他補充道。
《自然》雜誌聯繫了兩家參與推進人工智能發展的主要科技公司——微軟和谷歌。微軟發言人表示，公司開發人工智能的核心是以負責任的方式協助人類生產力，而不是複製人類智能。自 GPT-4（公開發布的 ChatGPT 最先進版本）推出以來，顯而易見的是，「當我們探索如何充分發揮人工智能的潛力來造福社會時，需要新的方法來評估這些人工智能模型的能力。發言人說。谷歌沒有回應。
什麼是意識？評估人工智能新方法的競賽已經開始
研究人工智能意識的挑戰之一是定義意識的含義。彼得斯說，就報告的目的而言，研究人員關注的是「現象意識」，也稱為主觀體驗。這就是存在的體驗——作為一個人、一隻動物或一個人工智能係統（如果其中一個確實有意識的話）。
有許多基於神經科學的理論描述了意識的生物學基礎。但對於哪一個是「正確的」還沒有達成共識。因此，為了創建他們的框架，作者使用了一系列這些理論。這個想法是，如果人工智能係統的運作方式與這些理論中的許多方面相匹配，那麼它更有可能具有意識。
他們認為，與簡單地對系統進行行為測試相比，這是一種更好的評估意識的方法——比如詢問 ChatGPT 它是否有意識，或者挑戰它並看看它如何反應。這是因為人工智能係統已經非常擅長模仿人類。英國布萊頓附近蘇​​塞克斯大學意識科學中心主任、神經科學家阿尼爾·賽斯表示，該小組的方法被作者描述為理論重，是一種很好的方法。然而，它強調的是「我們需要更精確、經過充分檢驗的意識理論」，他說。
實驗室培養的大腦能變得有意識嗎？
為了製定他們的標準，作者假設意識與系統如何處理信息有關，無論它們是由什麼組成的——無論是神經元、計算機芯片還是其他東西。這種方法稱為計算功能主義。他們還認為，通過大腦掃描和其他技術對人類和動物進行研究的基於神經科學的意識理論可以應用於人工智能。
基於這些假設，研究小組選擇了其中六種理論，並從中提取了一系列意識指標。其中之一——全局工作空間理論——聲稱人類和其他動物使用許多專門的系統（也稱為模塊）來執行認知任務，例如看和聽。這些模塊獨立但並行工作，並且通過集成到單個系統中來共享信息。朗說，人們會「通過查看系統的架構以及信息如何流經該系統」來評估特定的人工智能係統是否顯示源自該理論的指標。
與全局工作空間理論相關的一些意識指標
Seth 對團隊提案的透明度印象深刻。「這是非常深思熟慮的，並不誇張，而且它的假設非常清晰，」他說。「我不同意一些假設，但這完全沒問題，因為我很可能是錯的。」作者表示，這篇論文遠未達到如何評估人工智能系統意識的最終結論，他們希望其他研究人員幫助完善他們的方法。但已經可以將這些標準應用於現有的人工智能系統。例如，該報告評估了 ChatGPT 等大型語言模型，發現此類系統可以說具有與全局工作空間理論相關的一些意識指標。然而，最終，這項工作並不表明任何現有的人工智能系統都是意識的有力候選者——至少目前還不是。