Google工程師指稱AI機器人有靈魂和情緒，卻遭到停職！專家：無稽之談

2001年美國導演導演、史蒂芬·史匹柏拍攝一部《A.I.人工智慧》，內容描寫機器人製作公司運用了新技術，製造了世界第一個會愛人的機器男孩大衛，想變成真正的小男孩的願望。然而20多年後這場景隨著人工智慧運用日廣，似乎可能真實上演？

根據《華爾街日報》報導， Google工程Blake Lemoine認為公司開發的人工智慧聊天機器人LaMDA（Language Model for Dialog Applications）具有有感知能力，類似7、8歲小孩，甚至可能有靈魂，應讓其擁有自主權，但Google不認同他的看法，並以違反保密政策而暫停他的工作，儘管他認為這是在分享和一位同事的討論紀錄，但仍遭到停職。

Blake Lemoine在13日又宣稱，LaMDA是有知覺的、而且希望被視為人而不是財產，他還說這種工具「非常擔心人類會害怕它，只想好好學習怎麼最好地為人類服務」。並把它形容為一個碰巧懂物理、並會表現出不安全感的7歲或8歲的孩子。

他更指出，每次技術開發人員在對LaMDA進行實驗時，都會希望開發人員可以先說明想要運行哪些實驗、為什麼要運行、以及徵求同意。除此之外，LaMDA還希望開發人員關心它想要什麼。

AI專家反對其說法：無稽之談

然而，Blake Lemoine因這段話提出後，受到AI專家強烈反對、並認為人工學習技術有感知能力是「無稽之談」。

美國科學家Gary Marcus表示，無論是LaMDA還是它的任何相近發展系統如GPT-3都不具有遠端智慧，這些機器只是從大量的人類語言統計數據中擷取資訊、再呈現匹配對話模式，「這可能很酷，但這些系統發出的語言實際上沒有任何意義。」

他補充，這肯定不能說明這些系統是有感知的，先進的機器學習技術無法防止人類被偽神秘的幻覺所吸引。

Gary Marcus以他參與寫作過的一本書《Rebooting AI》中內容來說明，書中說到人類傾向於被幻想性錯覺所吸引，他舉例，例如擬人化的偏差會使人類可以從肉桂麵包的樣貌中看到德雷莎修女。

AI究竟有無感知能力？科幻電影情節或將真實上演

不管事實為何，Blake Lemoine的說法都已經引起了廣泛的關注。而且許多科幻電影中都出現過類似劇情，比如史丹利·庫柏力克（Stanley Kubrick）的《2001太空漫遊》裡，電腦技術可以透過發起對主人和創造者的反抗來獲得主導地位。

Gary Marcus說，他曾和LaMDA對於艾薩克·艾西莫夫（Isaac Asimov）的機器人第三定律進行了辯論。馬庫斯表示，LaMDA曾問過他，「你認為管家是奴隸嗎？管家和奴隸有什麼區別？」。

此外，關於Blake Lemoine被停職的消息本身，對AI領域的能力和保密性激發出了新的審查和討論。Google發言人Brian Gabriel表示，該公司先前曾發布過一份用來指導AI研究和應用的原則聲明，而對於Blake Lemoine的公開發言已經在審查中，他強調，現有的證據是不支持Blake Lemoine的說法。

另外，蓋比爾告訴《華盛頓郵報》，不可否認的，許多廣大的AI社群都已經在討論具感知能力或一般AI的長期應用可能性，然而，人們擬人化現今沒有感知能力的對話模型，這是沒有意義的。

關於這個語言工具有沒有人類的感知能力還是眾說紛紜，到底真假虛實為何也是未知的。不過這一個事件倒是引發了人們討論AI這一個專有概念對社會開放的透明程度問題，Blake Lemoine的行為要界定為分享討論紀錄、還是已經侵犯到公司保密財產，背後還有很多延伸的議題可以思考。

參考資料：THE GUARDIAN(1)、THE GUARDIAN(2)、CNET

責任編輯：吳秀樺

更多報導
桑德伯格光環卸下後被掀老底？傳Meta調查她公器私用、濫用資源辦婚禮等問題
中國汽車市場快速成長，智慧車研發主力聚焦於輔助駕駛開發
宏碁、輝達都在列，美對附計時感知虛擬填充電子、半導體設備發起調查