「氣候變遷有法改善，反觀AI呢？」AI教父辛頓多次示警，一文看他的擔憂

最近剛從Google離職的AI教父傑佛瑞·辛頓（Geoffrey Hinton）受訪時表示，人工智慧對世界構成的威脅可能比氣候變遷來得更急迫。

75歲的辛頓日前透過《紐約時報》的一份聲明中宣布從待了十年的Google離職的消息，並表示他現在對自己的工作感到後悔。他分享道，AI聊天機器人所帶來的一些危險相當可怕，雖然據他所知AI尚未比人類聰明，但他認為它們很快就會，因此他頓促人們應該認真考慮如何阻止AI控制我們。他強調，當聰明的東西比我們更聰明的時候，AI就有可能對人類構成生存威脅。

辛頓近日接受《路透社》採訪時，則繼續敲響AI警鐘。他告訴《路透社》，他的意思並非貶低氣候變遷的價值，或是人們不應該擔心氣候變遷，這當然也是一個巨大風險。但至少在氣候變遷這個問題上，我們可以很明確地知道，停止碳使用等作法將改善現況許多，反觀AI，我們根本還不清楚應該如何應對。

Google在3月份推出了聊天機器人Bard後，遭到員工嚴重批評，並警告該技術可能存在危險。對此，辛頓表示他辭職是為了在不影響Google的情況下自在談論AI的風險，也談到Google的行為非常負責任，不過辛頓仍擔心AI將會助長虛假訊息的傳播以及裁員，根據高盛的研究估計，AI可能對3億多個全職工作造成影響。

反對暫停研究AI，指當務之急為找到應對之道

辛頓在當代AI系統的發展中所扮演的角色至關重要，1986年時，他與其他人合著了一篇名為「Learning representations by back-propagating errors」的開創性論文，是支撐AI技術神經網路發展的里程碑，他在2018年也被授予了圖靈獎，以表彰他的研究突破，不過辛頓也和越來越多的科技領袖一樣公開表達對AI風險的擔憂。辛頓在接受《泰晤士報》採訪時表示，他想知道在現在這個時間點才對快速發展的AI技術進行必要的檢查是否為時已晚。

推特（Twitter）執行長伊隆．馬斯克（Elon Musk）於4月份和數千人共同簽署一封公開信，呼籲暫時禁止OpenAI繼續開發比GPT-4更強大的系統，其中簽署人包含了Stability AI執行長埃馬德．莫斯塔克（Emad Mostaque）、Alphabet旗下的DeepMind研究人員，以及AI先驅約書亞．班吉歐（Yoshua Bengio）和斯圖爾特．羅素（Stuart Russell）。

不過儘管辛頓和簽署者一樣擔心AI可能帶來威脅，但他不同意暫停研究，他認為現在更應該做的事為更努力地研究，並投入大量資源來弄清楚我們可以做些什麼。

延伸閱讀：AI教父：AI恐讓窮人更窮、社會更暴力！能怎麼防？他給出建議

參考資料：Reuters、Business Insider、Yahoo News、BBC

責任編輯：蘇祐萱

更多報導
光靠技術，已經打不贏AI大戰！Google不畫大餅，怎麼靠實用性扳回一城？
巴菲特評AI、讚蘋果、看衰電動車？波克夏股東會上說了什麼，一文看懂五重點