憂心潛在社會風險 馬斯克與專家連署暫緩先進AI開發

路透社28日報導,美國億萬富豪馬斯克(Elon Musk)及一群人工智慧(AI)專家和業界高階主管在一封公開信中同聲呼籲,未來6個月暫緩開發比OpenAI最新發表的GPT-4還要強大的系統,引用的理由是這會對社會及人類帶來潛在風險。

這封由非營利機構「生命未來研究所(Future of Life Institute)」發佈的公開信,獲得馬斯克等1,000多人連署簽名,呼籲暫停進一步的AI開發,直到獨立專家們為這類設計發展出共享的安全規範,並加以實施及審核。

信中指出,「強大的AI系統應該要在只有當我們有信心它們的效用將是正面的,以及它們的風險將是可管理的時候,再進行開發。」

信中詳述了與人類競爭的AI系統對社會及人類文明會帶來以經濟和政治干擾形式出現的潛在風險,並呼籲開發者要與管理及監管機構的政策決定者合作。

信函的共同連署人包括Stability AI執行長莫斯塔克(Emad Mostaque)、Alphabet旗下DeepMind的研究人員,以及著名的AI學者班吉歐(Yoshua Bengio)和羅素(Stuart Russell)。

在此之前,歐洲刑警組織(Europol)27日也表達了對ChatGPT等先進AI的道德及法律疑慮,警告AI系統可能被濫用,用來發動網路釣魚、散佈不實訊息及網路犯罪。

馬斯克一直以來直言不諱地表達對AI的擔憂。他旗下的電動車製造商特斯拉(Tesla)的一項自駕系統正使用AI技術。

自OpenAI的ChatGPT去年發佈以來,促使業界對手加速研發類似的大型語言模型,企業並把生成式AI整合進入他們的產品。微軟(Microsoft)是OpenAI的主要股東。

「生命未來研究所」的一名發言人告訴路透社,OpenAI執行長阿特曼(Sam Altman)尚未簽署這封信函。OpenAI未立即回應置評要求。

簽署這封信函的紐約大學(New York University)教授馬可思(Gary Marcus)說,「這封信並不完美,但它的精神是正確的:我們必須暫緩腳步,直到我們對可能的後果有更好的理解。」

他表示,「他們可能造成嚴重的傷害...大型業者對他們正做的事變得愈來愈保密,這使得社會難以防禦可能發生的任何傷害。」

原始連結

更多中央廣播電臺新聞
AI搶飯碗 高盛:恐影響全球3億工作機會
歐洲刑警組織警告 ChatGPT恐被用以升級犯罪技術
AI發展 吳政忠:社會將面臨倫理、法治、人權挑戰