誰該害怕中國的人工智能戰略?

中國制定10年戰略,欲成為世界人工智能領先國家。該戰略內涵如何?我們是否有理由擔心?

(德國之聲中文網)幾乎每隔一星期便會有一次國際人工智能會議在中國的某個地方召開,比如上海。上個月,該市主辦"AIAAT 2018"-人工智能應用及技術國際會議。很快,"IVPAI2018"-圖像、視頻處理與人工智能國際會議接踵而至。本周,又是"WAIC 2018"-世界人工智能大會。

很清楚,中國制定了開发人工智能計劃,而且,中國的計劃是長期的,且規模宏大。

華盛頓新美國安全中心(CNAS)資深研究員沙爾雷(Paul Scharre)指出,中國制定了旨在成為全球人工智能領域領跑者的國家戰略,並正訴諸實施。沙爾雷是自主武器專著-《無人軍隊》(Army of None)的作者。他強調,中國推進國家與私營經濟之間的伙伴關系,在人工智能領域投入巨資,用於研发;中國擁有阿裡巴巴、百度和騰訊等多個人工智能大企業;中國創新企業文化在发展,並正咄咄逼人地增加人力資本,其途徑是加強自然科學、數學和工程技術教育,招攬硅谷專家來中國。

以上各點均不新鮮。從政府到科研機構,從私人到商企,中國關注人工智能和機器學習系統已有多年。事實上,商企是引導中國進入人工智能領域的主要推手之一。阿裡巴巴、百度、騰訊組成的"聖三一",以及商湯科技(SenseTime),在此領域,均各擅勝場。

不過,2016年3月當為拐點。當時,谷歌旗下公司"深度思維"(DeepMind)的人工智能產品-阿爾法圍棋(AlphaGo)在中國戰略游戲-圍棋上一舉擊敗世界冠軍李世石。此事很可能激勵了中國人工智能的第二個推動來源-軍事智能化。

圍棋與人工智能

英國劍橋大學人工智能管理研究專家傑弗裡·丁(Jeffrey Ding)就此指出,商業盈利是一大基本推動力,但絕對有著國家安全考量,中國國內"存在著把人工智能視為潛在的軍事革命手段的討論"。他指出,過去可能已經有所動作,但发生了李世石在圍棋賽上敗陣的這一"衛星時刻"(Sputnik moment)後,中方似乎強化了相關努力。《解密中國人工智能夢》一書的這位作者指出,"受軍隊將領們青睞的圍棋在中國有著獨特的歷史","它與軍事戰略有千絲萬縷的聯系"。

這一"衛星時刻"很快導致中國政府翌年做出兩大戰略考慮,一些人稱之為一次新的技術競賽,類似冷戰時期的太空競賽。不過,沙爾雷和名為《人工智能時代的戰略競賽》(Strategic Competition in an Era of Artificial Intelligence)報告的其他共同執筆人指出,人工智能領域的競賽可能會更趨激烈,因為它不限於兩個超級大國之間,而是涵蓋多種領域,跨越多個地區。

2017年年初,中國出台了名為《人工智能2.0》的計劃,添入《科技創新2030-重大項目》名單。該項目名單制定於2016年,列有與人工智能密切相關的大數據和機器人技術,但未將人工智能本身單獨立項。

因此,阿爾法圍棋改變了中國的人工智能觀。

2017年7月,中國公布了《新一代人工智能发展規劃》,稱人工智能是"國際競爭的新焦點"。該規劃描述了三個主要发展階段,確定了至2030年使中國成為人工智能世界主要創新中心的目標。規劃稱,那時,"要形成較為成熟的新一代人工智能理論與技術體系,在類腦智能、自主智能、混合智能和群體智能等領域取得重大突破……,人工智能在生產生活、社會治理、國防建設各方面應用的廣度深度極大拓展"。

傑弗裡·丁表示,中方的目標雄心勃勃,亦有可能實現,但並無保證。他認為,美國依然擁有最好的大學,能吸引最好的專業人才,美國技術公司,例如社交媒體平台,領導著巨大全球市場的分配,"因此,欲至2030年取代美國成為世界主要創新中心,這不太可能,不過,作為一種目標,亦未嘗不可。"

人工智能統治全民

這只是開始。不久前,中國出版了其第一本人工智能教材《人工智能基礎(高中版)》。作者中包括商湯科技的創始人湯曉鷗。一項新的发展規劃特別呼籲,在小學和初中就設置與人工智能有關的課程。

而由此起步,對中國學校來說,在教室裡安裝人臉識別攝像頭便是題中應有之義了。難道不是嗎?瑞典倫德大學(Lund University)東亞東南亞研究中心研究員布雷姆(Stefan Brehm)指出,孩子們正進入鏡頭,"學生們的面部特征被攝下,以確認他們在課堂上精力是否集中。課後,數據經由算式解析,反饋給學生"。

中國的2017发展規劃一再強調要注重群體智能,增進"互信"。不妨視之為中國人工智能的第三個推動力。

中國力圖實現人們互信的手段之一是運用俗稱的"社會信用評分體系"。該系統原意為一種個人信用評分手段,現在被用以搜集與個人有關的所有信息-工作、互動、購物範式、過馬路時的表現、旅游計劃、社交媒體或網頁瀏覽記錄,-以創造出一種社會信息集合體。

第三只眼

傑弗裡·丁表示,人工智能有助於使中國實現其社會管治模式,具有巨大潛能,並且已經大量運用,實行對民眾的更富攻擊性的縝密監控,或者,"督促"民眾成為政府所認為的那種好公民。

這是一種胡蘿卜加大棒政策。

瑞典倫德大學的布雷姆指出,這正是(中國)政府所說的:我們懲罰不忠誠的人,而好公民則會得到好處。

阿裡巴巴的芝麻信用這樣的社會信用系統廣為人知,並被普遍接受。盡管細節尚不清楚,政府正考慮實行一種強制性的國家信用體系。

然而,我們已讀到人權觀察組織撰寫的相關報告。根據這些報告,中國還另有所圖,例如,用這一體系監視社群,搜集基因樣本,在維族穆斯林家中安裝二維碼系統。

而民眾中對這種監控的反對並不強烈。布雷姆指出,西方人或許會以為,在專制國家,人們會非常憂慮,然而,大多數人卻對之持歡迎態度,原因是,他們會認為,社交媒體可用它來揭露腐敗,社會信用體系可作為對"司法不力"的補充。他指出,還有些人認為,社會信用體系使用算式,更為客觀,每個人都按同樣的標准被評分。

或許,這是一種讓人難以接受的事實。但是,若以為中國人能心安理得,接受無時不在的監控,這種觀點可能是我們這些外人的誤解之一。錯誤的看法還包括,我們歐洲人才高度關注技術倫理問題。中國的人工智能規劃將另兩件事情作為目標。一是:人工智能開发可以是一種開放式資源-對公共監督與合作開放;二是:國家需要制定倫理規範,"加強對人工智能潛在危害與收益的評估"。

傑弗裡·丁表示,他曾留意某些討論,例如對人臉識別或用以監控人民的二維碼系統的討論,但未看到公共空間有大量討論,但在另一些事情上,情況便大不相同,例如,對個人信息保護、隱私、預防洩露、算法歧視這些可能政治上不太敏感的議題,有著非常活躍的討論。

無論中國是否能在2030年達到其目標,按照麥肯齊全球研究所2017年度報告的說法,這個國家是"全球自動化潛力最大的國家"。這種自動化有可能傷及數億人。