陳志德觀點:人工智慧的可能挑戰與影響

陳志德
風傳媒

最近與太太看了一部美國電影,故事是關於美國黑人與白人之間、有錢人群體與草根群體在社會價值觀、文化、生活方式、習慣規矩、經濟差距上產生的各種沖突。雖然這部電影是根據50 年代美國社會狀態的真人真事,其實也向觀眾提示了美國目前還存在著社會分化的矛盾情況。這部電影《綠色白皮書》- Green Book的劇情集中在一個白人司機與他的黑人音樂博士老闆之間與周遭的關系。他們在兩個月的工作關系中建立了相互真誠理解、打破護色、不分階級的真摯友誼。這是一部非常感人肺腑的電影傑作。

從電影內容體現了不同文化背後存在著的許多現實問題與挑戰。我聯想到這樣與人工智慧有關的問題:“人工智慧是否有可能理解與分辨使用者的道德觀、價值觀、文化、生活習慣、經濟差異懸殊、科技差異懸殊,甚至不同宗教信仰背景之間帶來的可能沖突嗎?”。許多發達國家非常重視人工智慧產品的發展。讓我們一起來探素人工智慧產品或設計可能產生的挑戰與其影響及可能帶來的問題。

公平對待使用者的問題

這個問題看來是與人工智慧設計者的價值觀有著不可分割的關系。一個人所接受的信仰會影響他(她)的價值觀與道德態度,由此會影響他(她)能否公平公正地對待使用者,所設計的產品能夠體現出尊重人權、尊重人尊嚴的特點。 反之,不良動機的設計者所設計的人工智慧產品有可能產生不公平或反人權的現象。我們可以從一些恐怖主義與獨裁的國家最近幾年使用高科技來對付國際社會或對付本國的人民可以看到其恐怖的一面。

人工智慧遭濫用具有風險,美國學術機構紛紛探討AI道德議題(資料照,AP)
人工智慧遭濫用具有風險,美國學術機構紛紛探討AI道德議題(資料照,AP)

作者指出,不良動機的設計者所設計的人工智慧產品有可能產生不公平或反人權的現象。我們可以從一些恐怖主義與獨裁的國家最近幾年使用高科技來對付國際社會或對付本國的人民可以看到其恐怖的一面。(資料照,AP)

人工智慧產品在面對不同文化習慣的國際用戶,將來會遇到更復雜的應用或操作方面的挑戰。人工智慧如機器人能否在不同文化環境提供相對安全與公平的服務嗎?需要大家拭目以待了。

法律問題、社會行為與心理反應方面的新挑戰

各國有關部門在熱情地鼓勵積極發展人工智慧創新產品的同時,也可以考慮引導不同社會科學研究單位同時進行有關人工智慧設計產品有可能產生的其他科技以外問題的研究課題:比如從人類社會學角度來來檢討人工智慧的產品與設計對使用者的影響情況﹔從哲學思想界對人工智慧課題不斷提出各層面的疑問與它可能帶來的新挑戰與問題﹔從法律界考慮因著有不道德的設計者製作人工智慧產品所可能產生的可能犯罪問題與相應的法律規則、懲罰規則﹔從社會心理學界對無法適應人工智慧產品的使用者而產生各種心理障的問題進行各種探索。

737MAX8新出廠的客機在六個月之內就發生了兩起航空慘案。根據報導,這兩架飛機在起飛幾分鐘後就開始高速向下墜落,基本原因是人工智慧控制的起飛系統在發生緊急情況時,與機長發生爭奪駕駛權事故,機長無法通過人工介入方式進行緊急飛行操控。根據調查結果是人工智慧系統控制失靈,造成了整架飛機垂直下飛撞上地面。發生事故的這兩架飛機牽涉了設計不完整的人工自動飛行系統而造成慘禍。到目前為止,波音737MAX8還沒有得到再次航飛安全的批准。

衣索比亞航空波音737 MAX 8空難舉世震驚(AP)
衣索比亞航空波音737 MAX 8空難舉世震驚(AP)

2018至2019年間,737MAX8新出廠的客機在六個月之內就發生了兩起航空慘案。圖為衣索比亞航空波音737 MAX 8殘骸。(資料照,AP)

公共安全的挑戰

737MAX8新出廠的客機在六個月之內就發生了兩起航空慘案。根據報道,這兩架飛機在起飛幾分鐘後就開始高速向下墜落,基本原因是人工智慧控制的起飛系統在發生緊急情況時,與機長發生爭奪駕駛權事故,機長無法通過人工介入方式進行緊急飛行操控。根據調查結果是人工智慧系統控制失靈,造成了整架飛機垂直下飛撞上地面。發生事故的這兩架飛機牽涉了設計不完整的人工自動飛行系統而造成慘禍。到目前為止,波音737MAX8還沒有得到再次航飛安全的批准。

這裡提醒設計者在正式使用人工智慧系統之前有必要提高安全防範要求與進行足夠的安全測試才能推出市場。

如何能公平地服務貧困群體與科技落後的地區

人工智慧的發展是建立在已經擁有公共電腦、通信、互聯網的發達基礎上。那些還沒擁有完整的通信基礎服務(如5G通信)的地區,就有可能失去得到人工智慧產品服務的機會。這樣會進一步加劇貧富差距的問題。2G、3G型手機,更不用說目前發如火如荼在推廣的5G手機。那麼人工智慧的產品與服務對這些貧困群體是遙不可及了。

人工智慧工廠可能產生的社會問題

各國政府與有關社會研究機構需要針對一些傳統行業在不久的將來會被人工智慧化工廠所代替,需要面對有大批的傳統行業的工人的失業問題。國家需要撥出預算與設立相關部門來處理可能失業與再培訓的各種新政策來預防可能發生的社會失業與未來的民生問題,避免社會沖突的發生。

中國機器人產業(新華社)
中國機器人產業(新華社)

作者認為,各國政府與有關社會研究機構需要針對一些傳統行業在不久的將來會被人工智慧化工廠所代替,需要面對有大批的傳統行業的工人的失業問題。(資料照,新華社)

總結

人類發展的新科技應該是能夠讓世界上大多數人得到益處才有可能進一步在市場生存空間。比如由人工智慧系統控制的公共交通,需要有緊急人工切換安全措施的設計可以讓人工接手進行安全幹預。太過隨意推出沒有足夠安全檢測過的人工智慧的服務與產品是非常不負責任的行為,可能會產生類似波音737MAX8客機的安全隱患事件危害許多寶貴生命。

我期待有人也能專門設計人工智慧服務與產品是專門為著提高落後國家的生產力與扶貧脫貧的動機,如類似通過遠程醫療科技為落後國家提高優質的醫療服務、彌補缺乏訓練有素醫務人員的不足。但願有更人性化、有道德責任心的人工智慧產品的出現來為人類提供更高安全性、有效率、更照顧弱勢群體的服務工具。這樣也可以縮短貧富差距的國際問題。人工智慧產品應該是幫助人類的工具而不是被沒有良心的人利用來欺壓一般的老百姓。

要避免可能發生的人類悲劇,有如國際法律公約針對生化武器設立了非常重要的人類道德的底線來防範故意破壞這底線的罪惡勢力。就利用人工智慧來破壞人類道德底線也需要有類似的國際法律公約的設立。

*作者現任新加坡《新橋》雜誌創辦人/總編輯

更多風傳媒報導
相關報導》 臉書呼籲監管 祖克柏與索羅斯隔空筆戰
相關報導》 巴菲特股東信:若低利率持續,股票表現遠勝債券


你可能還想看