Yahoo奇摩新聞 OpenAI宮鬥大戲全是為了「它」! 重大突破Q*威脅人類生存 恐難防失控
[Newtalk新聞] 據《路透社》前（22）日，兩名知情人士稱，在 OpenAI 創始人兼 CEO 阿特曼（Sam Altman）遭解職風波發生前，幾名研究人員曾致信董事會，警告稱「一項強大的人工智能項目」可能威脅人類。這封信件成為董事會罷免阿特曼的導火索。
報導稱，知情人士透露，該公司在給員工的內部信息中承認項目「Q*」的存在。OpenAI 的一些員工認為 Q* 可能是該公司探索通用人工智能（AGI）獲得的突破性成果。在該公司看來，AGI 是能在最具經濟價值的工作中表現超過人類的自主系統。對此，OpenAI 發言人表示，公司首席技術官米拉 · 穆拉蒂 22 日向員工提到了 Q* 的相關報導，但她未對報導內容的準確性作出評價。
消息人士表示，鑒於 Q* 龐大的計算資源和能力，它能夠解決某些數學問題。與只能解決有限數量運算的計算器不同，AGI 可以做到泛化、學習和理解。雖然數學成績僅能達到小學生的水平，但在類似數學測試中能夠取得優異成績，依然讓研究人員對它未來的成功非常樂觀。
研究人員認為解決數學問題是生成式人工智能發展的尖端。數學問題有固定的答案，正確回答意味著人工智能將擁有類似於人類的推理能力，這可以應用於尖端的科學研究中。
在給董事會的信中，研究人員還提到一個「人工智能科學家小組」。一位知情人士表示，該小組正在探索如何優化現有的人工智能模型，以提高其推理能力並最終使其能夠開展科研工作。
報導表示，研究人員在給董事會的信中對人工智能的能力和潛在危險表示擔憂。但這名消息人士沒有具體說明信中提到的安全問題。
今年 7 月有外媒表示，OpenAI 成立了團隊來確保 AGI 符合人類的利益，但團隊負責人雷克表示，目前沒有任何方案能夠控制一個潛在的超智慧 AGI，並防止其失控。
更多Newtalk新聞報導
「大洋黑洞」來了! 解放軍核潛艦「泵推」突破 WSJ : 美艦在台海增遭獵殺風險
(影) 以軍趁停火前猛攻! 往加薩地道灌海水 還打死哈瑪斯海軍司令
