諾貝爾物理學獎得主擔心AI發展恐超出想像 坦言不安 呼籲強化控管

2024年諾貝爾物理學獎得主由兩名催生AI發展的科學家同獲殊榮，卻不約而同呼籲各界，應更深入理解深度學習系統內部運作機制，以防止失控。

美國科學家暨普林斯頓大學（Princeton University）教授霍普菲爾德（John J. Hopfield）8日表示，近期AI技術的發展，令他感到「非常不安」，警告若不加以控制，恐招致災難性後果。

2024年諾貝爾物理學獎8日揭曉，由美國科學家霍普菲爾德、及英國出生的加拿大科學家辛頓（Geoffrey E. Hinton）共享殊榮。

法新社報導，91歲的霍普菲爾德在英國以視訊參與普林斯頓大學聚會時提到，他一生中目睹兩種強大但有潛在危險的科技崛起，分別是生物工程和核物理。

他說：「人們已習慣擁有優劣並存、一體兩面的科技⋯⋯身為一名物理學家，我對於那些不受約束、我不夠了解的科技，感到非常不安，因為我無法明確知道這種科技的極限，也不知道它能被運用到什麼程度。」

他接著說，「這正是AI引發的問題」，儘管現代AI系統看似「令人歎為觀止」，但對其運作缺乏理解，讓他感到「非常、非常不安」。

霍普菲爾德說，這正是他和另一名得主、加拿大科學家辛頓（Geoffrey E. Hinton）為何強烈主張「理解」是AI領域的基本需求。因為AI正發展出一些超越目前想像的能力。

辛頓去年躍居「AI末日論」的代表人物，他在獲聘為名譽教授的多倫多大學（University of Toront）舉行的新聞發布會上，重申這個主題。

76歲的辛頓對記者說：「如果你環顧四周，幾乎沒有較高智能的東西，被智能不如它的東西控制的案例，這讓你不禁想，當AI比我們更聰明時，它們是否會反過來控制我們？」

（責任主編：莊儱宇）