諾貝爾物理學獎得主擔心AI發展恐超出想像 坦言不安 呼籲強化控管
2024年諾貝爾物理學獎得主由兩名催生AI發展的科學家同獲殊榮,卻不約而同呼籲各界,應更深入理解深度學習系統內部運作機制,以防止失控。
美國科學家暨普林斯頓大學(Princeton University)教授霍普菲爾德(John J. Hopfield)8日表示,近期AI技術的發展,令他感到「非常不安」,警告若不加以控制,恐招致災難性後果。
2024年諾貝爾物理學獎8日揭曉,由美國科學家霍普菲爾德、及英國出生的加拿大科學家辛頓(Geoffrey E. Hinton)共享殊榮。
法新社報導,91歲的霍普菲爾德在英國以視訊參與普林斯頓大學聚會時提到,他一生中目睹兩種強大但有潛在危險的科技崛起,分別是生物工程和核物理。
他說:「人們已習慣擁有優劣並存、一體兩面的科技⋯⋯身為一名物理學家,我對於那些不受約束、我不夠了解的科技,感到非常不安,因為我無法明確知道這種科技的極限,也不知道它能被運用到什麼程度。」
他接著說,「這正是AI引發的問題」,儘管現代AI系統看似「令人歎為觀止」,但對其運作缺乏理解,讓他感到「非常、非常不安」。
霍普菲爾德說,這正是他和另一名得主、加拿大科學家辛頓(Geoffrey E. Hinton)為何強烈主張「理解」是AI領域的基本需求。因為AI正發展出一些超越目前想像的能力。
辛頓去年躍居「AI末日論」的代表人物,他在獲聘為名譽教授的多倫多大學(University of Toront)舉行的新聞發布會上,重申這個主題。
76歲的辛頓對記者說:「如果你環顧四周,幾乎沒有較高智能的東西,被智能不如它的東西控制的案例,這讓你不禁想,當AI比我們更聰明時,它們是否會反過來控制我們?」
(責任主編:莊儱宇)
看更多相關新聞
諾貝爾物理獎 辛頓示警AI比核武危險
「AI教父」獲諾貝爾物理獎⋯家族全是超狂學霸 他童年壓力超大畢業當過木匠
諾貝爾醫學獎得主發現微型RNA獲殊榮 有望治療漸凍症
諾貝爾醫學獎得主出爐 兩位得主將抱走「這麼多」獎金
諾貝爾頒獎季 日媒看好文學獎村上春樹、多和田葉子