諾貝爾物理學獎得主擔心AI發展恐超出想像 坦言不安 呼籲強化控管

2024年諾貝爾物理學獎得主由兩名催生AI發展的科學家同獲殊榮,卻不約而同呼籲各界,應更深入理解深度學習系統內部運作機制,以防止失控。

美國科學家暨普林斯頓大學(Princeton University)教授霍普菲爾德(John J. Hopfield)8日表示,近期AI技術的發展,令他感到「非常不安」,警告若不加以控制,恐招致災難性後果。

A screen shows the laureats of the 2024 Nobel Prize in Physics, US physicist John J Hopfield and Canadian-British computer scientist and cognitive psychologist Geoffrey E Hinton, during the announcement by the Royal Swedish Academy of Sciences in Stockholm, Sweden on October 8, 2024. The Royal Swedish Academy of Sciences has decided to award the 2024 Nobel Prize in Physics US physicist John J Hopfield and Canadian-British computer scientist and cognitive psychologist Geoffrey E Hinton
2024年諾貝爾物理學獎8日揭曉,由美國科學家霍普菲爾德(John J. Hopfield,左)及英國出生的加拿大科學家辛頓(Geoffrey E. Hinton,右)共享殊榮。霍普菲爾德表示,近期AI技術的發展令他感到「非常不安」,若不加以控制恐招致災難性後果。(Photo by JONATHAN NACKSTRAND/AFP via Getty Images)

2024年諾貝爾物理學獎8日揭曉,由美國科學家霍普菲爾德、及英國出生的加拿大科學家辛頓(Geoffrey E. Hinton)共享殊榮。

法新社報導,91歲的霍普菲爾德在英國以視訊參與普林斯頓大學聚會時提到,他一生中目睹兩種強大但有潛在危險的科技崛起,分別是生物工程和核物理。

他說:「人們已習慣擁有優劣並存、一體兩面的科技⋯⋯身為一名物理學家,我對於那些不受約束、我不夠了解的科技,感到非常不安,因為我無法明確知道這種科技的極限,也不知道它能被運用到什麼程度。」

他接著說,「這正是AI引發的問題」,儘管現代AI系統看似「令人歎為觀止」,但對其運作缺乏理解,讓他感到「非常、非常不安」。

霍普菲爾德說,這正是他和另一名得主、加拿大科學家辛頓(Geoffrey E. Hinton)為何強烈主張「理解」是AI領域的基本需求。因為AI正發展出一些超越目前想像的能力。

辛頓去年躍居「AI末日論」的代表人物,他在獲聘為名譽教授的多倫多大學(University of Toront)舉行的新聞發布會上,重申這個主題。

76歲的辛頓對記者說:「如果你環顧四周,幾乎沒有較高智能的東西,被智能不如它的東西控制的案例,這讓你不禁想,當AI比我們更聰明時,它們是否會反過來控制我們?」

(責任主編:莊儱宇)

看更多相關新聞
諾貝爾物理獎 辛頓示警AI比核武危險
「AI教父」獲諾貝爾物理獎⋯家族全是超狂學霸 他童年壓力超大畢業當過木匠
諾貝爾醫學獎得主發現微型RNA獲殊榮 有望治療漸凍症
諾貝爾醫學獎得主出爐 兩位得主將抱走「這麼多」獎金
諾貝爾頒獎季 日媒看好文學獎村上春樹、多和田葉子