AI教父辛頓：AI導致人類滅絕 未來30年內有一至兩成的可能性

「人工智慧（AI）教父」辛頓（Geoffrey Hinton）認為，未來30年內有10%到20%的可能性，出現AI導致人類滅絕的結果；他認為，研發AI的速度「非常、非常快，比我原本預期要快很多」，這項技術必須交由政府監管。

辛頓今年因在AI方面的貢獻，而獲頒諾貝爾物理學獎。英國《衛報》（The Guardian）報導，辛頓曾說，對人類而言，AI科技有10%的可能性，引發災難性後果。

英國廣播公司第4電台（BBC Radio 4）《今日》（Today）節目，詢問他對可能出現的AI末日、和10%的發生機率言論是否有變時，他說「沒什麼變，10%到20%。」

節目客座編輯、前衛生大臣賈維德（Sajid Javid）說「機率增加了」，辛頓答道：「如果一定要說，你看，我們以前從未和比我們聰明的東西打交道。」

他補充說：「你知道有多少例子是一個較聰明的東西，被一個較不聰明的東西控制？這種例子很少。以一個母親和一個嬰兒為例，演化費了很大力氣，讓嬰兒控制母親，但那是差不多我唯一知道的例子。」

辛頓說，人類與強大AI系統的智慧相比，就像學步的幼兒，「我喜歡這麼想：想像你自己和一名三歲小孩；我們就是那個三歲小孩」。

辛頓去年辭掉在谷歌公司（Google）的工作，更暢快地談論AI發展不受控制所構成的風險。AI安全倡議人士的主要疑慮之一是，創造通用AI、或比人類更聰明的系統，可能導致這項技術脫離人類的掌控，危及人類存亡。

他說，現在的狀況是多數專家認為，或許能在未來20年內，開發出比人類聰明的AI，「這是很恐怖的想法」。「我擔心的是，看不見的手，無法保障我們的安全，所以只將問題交給大企業的利潤動機，不足以確保這些公司安全地研發（AI）⋯⋯唯有政府監管，能迫使這些大企業從事更多安全研究。」

不過，網路科技巨頭 Meta 的首席AI科學家勒昆（Yann LeCun）卻不認為人類面臨存亡威脅，反而說「AI實際上可能拯救人類免於滅絕」。勒昆2019年與辛頓、班吉歐（Yoshua Bengio）一起獲得有「電腦界諾貝爾獎」之稱的年度圖靈獎（Turing Award）。

（責任主編：莊儱宇）