劉永謀:關於智能治理的哲學反思

·33 分鐘 (閱讀時間)

“智能治理牽涉的不只是純粹的技術問題,更多是製度安排和政治考量。不同的國家和地區、不同的文化類型、不同的民族特性、不同的歷史和國情、不同的科技發展水平,走出來的智能治理道路不會都一樣。這需要我們不斷探索。”

什麼是智能治理?

我想到最近有兩則新聞很“火”,一則關於“文明碼”;另一則關於外賣騎手和算法。這兩則新聞都與將智能技術運用於當代社會的治理活動中有關,稱之為智能治理。

所謂的智能技術一般指的是互聯網、物聯網、大數據、雲計算、VR、區塊鍊和人工智能技術等信息通信技術(ICT,information and communication technology)的最新進展,均與所謂“機器智能”的概念相關聯。

顯然,今天智能治理的影響逐漸深入到每個人的日常生活。一方面是智能治理正在不可阻擋地前進,新冠疫情更是使之加速;另一方面,大家對智能治理一直存在各種擔憂,擔心被算法控制,自身權利被侵害。

那麼,我們必須要問:究竟如何看待智能治理?如何實施智能治理?它究竟是完美的天使,還是殘忍的惡魔?它究竟是無堅不破的利器,還是裝模作樣的南郭先生?

當然,智能治理的哲學反思是個大問題,這裡做一下簡單分享。

從技術治理到智能治理

我對智能治理的研究,是在我的技術治理理論大框架下進行的。在過去幾年中,我一直嘗試建構一套審度技術治理的理論,對技術治理現象予以某種框架性的詮釋,進而以此為基礎,探討將技術治理引導到有益方向的可能性。

也就是說,智能治理實際上是技術治理中的一個小問題、新問題。

技術治理與技治社會

何為技術治理?工業革命和電力革命極大地彰顯了科學技術改造自然界的巨大威力。19世紀中葉一些思想家想到:應該把威力巨大的現代科技成果運用於社會治理中。這就是我所謂的技術治理的主旨。

我對技術治理的定義是,在社會運行,尤其是政治、經濟領域中,以提高社會運行效率為目標,系統地運用現代科學技術成果(包括原理、方法和知識)的治理活動。

在思想史上,技治主義思想又多又亂。而且,技治主義一出現就遭到各種批評。但當前技術治理已經成為公共治理領域一種全球範圍內的普遍現象,我稱之為“當代社會的技術治理趨勢”。

而物聯網、大數據以及人工智能等新技術,更是加快了技術治理在全球範圍內的推進。從這個意義上說,當代社會已經成為技術治理的社會。

我研究技術治理是因為,哲學歸根結底是人學,哲學的核心問題是要理解當代人的歷史境遇。顯然,我們生活在一個技術時代。如果離開技術時代的大背景,哲學反思肯定流於空泛,無法真正理解當代人的歷史處境,更談不上“把握時代精神”。

“技術時代”包含的內容非常豐富,我認為其中最重要的就是技術治理和技治社會:抓住技術治理深入思考,就能很好地回答哲學的核心問題。

劉永謀:關於智能治理的哲學反思
劉永謀:關於智能治理的哲學反思

智能治理綜合

從知識角度來看,很多學科知識可以運用於治理活動中,以不同學科為基礎的治理方案各具特色。

以物理學為基礎的技治方案,如斯科特(Howard Scott)的“高能社會”,往往將現代社會視為能量轉換和利用的大機器,主張通過社會測量查明整個社會的能量狀況,進而實現生產和消費的物理學平衡,給社會成員提供舒適的物質生活。

以心理學為基礎的技治方案,如斯金納(BF Skinner)的“瓦爾登湖第二”社區,最大的特點是用心理學方法對社會成員的情緒和行為進行一定程度的管理、改造和控制,消除不利的心理狀態,鼓勵有利的個體行為,使之符合技術治理的總體目標,從而提升整個社會的運行效率。

以生物學為基礎的技治方案,如威爾斯(HG Wells)的“世界國”,主張用生物學的方法提升社會成員身體和精神兩方面的狀態:未來的人類不僅道德水平極高,人性與今日迥異,身體素質和智力水平也將遠邁今日,在此基礎上技治社會得以高效運轉。

以管理學為基礎的技治方案,如伯恩哈姆(James Burnham)的“經理社會”,主張用專業的管理技術來運行整個社會,包括公司、政府和其他社會組織機構,擺脫所有者對實際經營者的干擾,組織和協調治理活動所涉及的諸種人財物因素,擴展國有經濟,融合政治與經濟,交由職業經理人管理。

以經濟學為基礎的技治方案,如紐拉特(Otto Neurath)的“管理經濟社會”,強調在更大範圍實行中央計劃調節,有規律地進行生產而非依賴盲目的市場調節,並以經濟計劃為核心實施各種社會工程,不斷對整個社會進行改良,最後走向社會主義。

智能革命興起以來,技術治理轉向以信息技術和智能技術為基礎,將各種科學原理和技術方法綜合運用的治理活動。這是技術治理最新的發展趨勢,我稱之為“智能治理的綜合”。

無論哪一種治理技術,都必須精確地把握治理對象的即時信息。在技​​治社會中,技術治理主要運用戰略包括:

(1)社會測量,即對社會物質和精神狀況進行調查和統計;

(2)計劃體系,即運用計劃手段,既包括國家計劃、社會計劃,也包括企業計劃,在相對較大的範圍內盡可能地對生產和分配活動進行統一的配置和安排;

(3)智庫體系,即制度性地將政治權力的一部分通過智庫方式交由專家掌管,實施一定程度、一定範圍的專家參與決策;

(4)科學行政,又稱為行政科學化;

(5)科學管理,這裡指的是企業、公司和非政府組織的理性化;

(6)科學城市(或工程城市),即科學地建設、運行和維護作為人類主要居住場所的城市,如能源、交通、治安、物資、垃圾處理和環境保護等;

(7)綜合性大工程,這種工程不僅涉及自然改造,還涉及人口、社會、文化和環境等諸多社會因素,既是自然工程,也是社會工程。

顯然,信息-智能技術平台在上述戰略中均非常重要,從總體上提升局部社會工程的效率,改變技術治理運行的形式,故而我才有“智能治理的綜合”的看法。

劉永謀:關於智能治理的哲學反思
劉永謀:關於智能治理的哲學反思

智能社會自覺

隨著智能革命的爆發,在當代社會,尤其是技術-經濟領域正在發生重大變革。有人認為,智能革命對社會的影響是如此之大,以至於最終導致總體社會形態、未來將發生整體性變革,智能社會隨之來臨。因此,簡單地說,智能社會就是以智能技術為主導性技術,被智能革命全面影響、改造和定型的社會。

顯然,“智能社會”的說法是基於智能技術發展的未來願景而提出來的。也就是說,它是未來發展的理想藍圖,今天只能說智能社會正在到來。但同時,“智能社會”又在現實發生,因為智能技術的社會影響已經開始顯現。

究竟什麼是智能社會呢?社會怎麼會像人一樣有智能呢?這當然是一種擬人化的用法:智能社會之所以是“智能的”,是因為它能像有機體一樣在“自覺”的基礎上完成刺激-反應的“類生命”行為。

什麼是社會自覺?智能社會可以通過技術手段收集關於自身的各種數據和信息,對自身即時狀態有一定程度的“了解”,並在此基礎上“思考”自身發展的問題和方向——這裡的“了解”、 “思考”都要打上引號,是一種比喻。

當智能社會出現各種問題和變化時,比如受到新冠病毒衝擊時,它能迅速感受到內外的刺激,在“思考”的基礎上做出反應,並不斷接收反饋以調整反應行為,這與傳統社會”盲目“、“本能”地應對方式是根本不同的。因此,一定程度的“自覺”是智能社會的根本特徵。

實際上,思想家們早就有了以科技手段來測量、預測和控制社會的想法。比如今天我們視之為應用數學分支的統計學,源於一種社會治理術。威廉·配第將之稱為“政治算術”。

統計學的英文statistics顯然與state(國家)相關,漢語譯為統計學字面意思是“統而計之的學問”,丟失了原有的研究國家治理的含義。

雖然社會技術一直在推進,但是只有等到智能技術大規模興起,測量、預測和控制社會的理想才第一次變得有落地的可能。

所謂智能社會,可以說就意味著智能治理社會,即用智能治理的方式來運行整個社會。智能技術在各個技治戰略中都可以發揮非常重要的基礎性作用,從總體上提升社會工程的效率,改變技術治理運行的形式。

反過來,當代社會技術治理的大趨勢,又給智能技術的發展提供了強大的動力,不斷推進智能革命和智能治理深入推進。

一句話,智能社會與技術治理是相互支持、相互促進的。

劉永謀:關於智能治理的哲學反思
劉永謀:關於智能治理的哲學反思

遠眺:烏托邦VS敵托邦

前一陣,馬斯克爆炒的“腦機接口”,試圖把人的大腦活動也“上網”,有人擔心腦機接口技術會不會變成操控人的技術。假如可以“腦補”未來的願景,智能技術會對人類社會造成什麼影響?

粗略地說,存在兩種極端而相反的看法:一種是樂觀主義的,認為最終會出現以智能技術為基礎的理想國,我稱之為“AI理想國”;另一種是悲觀主義的,認為世界最終會變成一座大機器,我稱之為“AI機器國”。

AI理想國

先看AI理想國。它以一個樂觀預期為支撐:就算機器人最終不能取代人類的所有勞動,也能替代其中絕大部分。

“Robot(機器人)”的最初含義是“機械勞工”:發明Robot的初衷就是要讓AI為我們勞動。在很多人設想中,Robot不光勞動能力遠超人類,而且任勞任怨、不要休息、不要工資、不怕危險,不和人類爭搶資源,一心為人,緊急情況出現的時候為了人類可以毀滅自己。大家看,理想的Robot是不是“活雷鋒”?

在現實生活中,自動化工廠、無人超市、智能旅館和AI物流等出現,雖然創造一些新的工作崗位,但更多的人因此而失業。我稱之為“AI失業”。

從長遠來看,“AI失業”不可避免。為什麼?既然發明Robot目標是讓人類從繁重勞動中解放出來,那麼除非智能革命停止,否則大趨勢上看“AI失業”只能是愈演愈烈。

即使是保守估計,都可以認為:全部的體力勞動和絕大部分的腦力工作未來都能夠被AI取代。終有一天,完全從繁重勞動中解放出來之後,人類就有禮邁入理想社會的可能。

可是,現實中大家都在擔心“AI失業”。顯然,這不是機器人的錯,而是社會制度的問題。

不是失業的人不願去勞動,而是AI把工作做了。一些理想主義者認為,這是少數人利用貨幣制度壓迫大多數人,應該對未來智能社會的社會制度重新進行設計。

按照馬克思主義的說法,AI失業問題本質上是科技生產力發展與現有社會生產關係之間的矛盾,現有的社會制度不適應科技生產力的發展。

按經濟學家加爾布雷思的說法,這是“富裕社會”問題,也就是說:二戰以後生產力突飛猛進,到60年代,發達國家生產的物質財富總量遠超過社會成員的基本需要,進入富裕社會。他認為,傳統社會是貧窮社會,東西不夠吃,必然有人挨餓,而富裕社會東西夠吃,有人挨餓是因為沒有分給他,或者說,屬於相對貧困而非絕對貧困。

1929年,技治主義者斯科特、羅伯等人認為,美國和加拿大所生產的商品和服務如果平均分配,完全能滿足所有人的舒適生活。他們的結論不是拍腦袋得出的,而是組織工程師和專家進行實際物理測量得出的,得到了​​當時美國政府的承認。

“AI理想國”應該什麼樣子?各家意見不一,但也有一些基本共識。

(1)在全社會範圍內平均分配,統一生產,把機器人全力開動。女人、老人、小孩、殘疾人和病人,分配同樣的產品和服務。生產力極大豐富,每個人的所得超過舒適生活所需。

(2)取消貨幣和商品交換,用物理券來測算生產和消費。“人人平均”怎麼衡量呢?錢做不到。平時一桶牛奶100元,在經濟危機中賣不出去,一錢不值。但是,生產一桶牛奶消耗的能量不變,而能量券代表的是生產某項服務和商品所消耗的能量數,用能量券衡量就可以解決價值與價格的偏離問題。

(3)要大大縮短工作時間。在大量的閒暇中,人們從事文化、藝術和體育活動,逐漸提升整個人性。斯科特在1929年的測算是,25到45歲之間要工作,每天工作4天,一年工作165天,生產的東西就完全夠用了。那可是1929年!在智能革命之後,大家可以暢想一下,一周人類還需要工作多久呢?

(4)物理券記名到個人,不能轉讓、出借、贈予和繼承,有有效期,不能積累,也不能通過儲蓄和投資獲利。經濟上人人平等。這基本上朝著公有製方向前進。

(5)人們在工業系統中的晉升,由專業能力和從業資歷決定,從最普通勞動者中逐級提拔,不看出身和裙帶關係。

(6)政府由行業頂級專家組成,主要管理經濟事務,保障大家的經濟自由,對其他社會事務尤其是宗教和文化,保持寬容。

上下滑動查看詳情

總之,沒有Robot代替人類勞動,“AI理想國”難以想像。在AI理想國中,智能技術廣泛運用於社會運行的調節。比如,即時收集整個社會的生產信息和消費信息,統一傳輸到計劃中心進行處理,使生產與消費相匹配。

劉永謀:關於智能治理的哲學反思
劉永謀:關於智能治理的哲學反思

AI機器國

另外一些人,卻對智能治理的未來非常悲觀。

一些哲學家擔心,互聯網可能成為電子圓形監獄(electronic panopticon)。“圓形監獄”是邊沁提出、福柯等人發展的一種治理理論。邊沁認為,當時各種治安問題都可以用圓形監獄的原理加以解決。

圓形監獄的中心是看守監視囚犯的瞭望塔,四周是環形分佈的囚室。看守可以24小時監視囚犯,囚犯卻看不到看守,囚犯相互之間不能交流。即使看守不在瞭望塔里,囚犯也會覺得有人在監視他。而看守也不自由,因為上級可以不定時來視察。

一句話說,圓形監獄原理就是“無處不在的監視”。

福柯指出,圓形監獄不光監視,還可以採取措施改造罪犯行為,並根據改造效果調整改造方案。福柯稱這種改造為規訓,認為規訓技術可以用於對所有人進行改造,還認為圓形監獄原理早就從監獄中擴散到整個社會,所以現代西方社會本質上是規訓社會,或監獄社會。

後來一些人認為,新興的信息與通信技術(ICT)技術加劇規訓化的趨勢,當代社會就成了“電子圓形監獄”。

顯然,這種理論主要考慮的是隱私問題,但智能革命之後,就不再僅僅是隱私問題。所以智能技術才可能帶來真正的牢獄和“AI機器國”。

“AI機器國”會是什麼樣子?它將是一架嚴密的智能大機器:每個社會成員都成為這個智能機器上的一個小智能零件,隨時可以更換,和鋼鐵製造的零件沒有差別。

歸納起來,“AI機器國”的噩夢集中在4個方面:

(1)完全機械化。社會中所有的一切,包括人,都是智能機器。對一切進行智能測量,包括人的思想情感,也要還原成各種大數據。

(2)完全效率化。效率是社會的唯一目標。智能科技最有效率,沒有效率的東西,比如文化、文學和藝術等,都可以取消。於是,“AI機器國”科技越來越發達,物質越來越豐富,人類文明不斷擴展,衝出地球,衝出太陽系……著名好萊塢系列科幻電影《星際迷航》,表達的就是這種不斷星際殖民的夢想。

(3)完全總體化。整個社會是一個智能總體,按照基於智能技術所規劃的藍圖運轉。所有的一切包括國家政黨、社會制度、風俗習慣以及個人生活,全部被改造,沒人能夠逃脫總體智能控制。

(4)完全極權化。“AI機器國”認為民主和自由沒有效率,所以反對民主和自由,把權力完全交給智能專家、控制論專家,實行等級制度,以數字、智能和控制論的方式統治社會。

近看:反治理與風險

“AI理想國”與“AI機器國”是兩種對未來的極端想像。未來究竟會怎樣?這裡我們埋個伏筆,先看看現實中的智能治理。

完美人夢想

現實是什麼樣子?現實遠比理想狀態要復雜,並非那麼非黑即白,而是利弊互現的。這就引出一個問題:智能技術真的是完美治理的利器嗎?恐怕不是。

在這個世界上,一輩子24小時完全照著法律、規章、公司規定、校紀校規、社會公德以及爸媽教導活著的人有幾個?誰都會犯個小錯,比如闖紅燈,在禁煙的樓道偷偷抽煙……這些都監測下來之後,都要處理嗎?

現代治理有一個衝動:所有人都多少有點問題,都要被改造、被提升,而不光是罪犯。我稱之為“完美人夢想”。

於是,社會用各種各樣的規矩,把每個人隨時隨地約束起來。顯然,這是不可能的,也是可怕的。哪裡監控裝得多,結果發現哪裡的治安就會“差”一些,因為發現的不規矩會越多——本來大家差不多。所以,理想的全面管控不可能付諸實施,只能是理想型(ideal type)或者方法論。

執拗於“完美人夢想”,肯定會導致我所謂的“過度治理”問題。

多數小錯誤還是應該交給道德領域,甚至要被社會所容忍。因為治理必然伴隨反抗,技術治理必然伴隨著技術反治理,反治理是不可能,也沒有必要被消除的。

技術治理要想平穩運轉,必須在治理與反治理之間,達到某種作用力與反作用力的平衡。試圖完全剷除反治理,結果一定是技術治理系統的崩潰。

智能反治理

總的來說,智能治理的反治理主要包括如下問題:

(1)智能低效問題。治理智能化是否真的提高了效率?這個問題必須具體分析。有人認為,電腦在社會機構中的使用,未必提高效率,而是掩蓋這些機構需要改進的問題。有論文提到,一些法院反映:“智能法院”並沒有明顯提高效率,有時還變麻煩了,一些例行審批交給智能係統,出了問題,都不知道找誰負責。它打著新科技的名義,實際上並不科學,並沒有效率。我稱之為“偽技術治理現象”,它在現實中很常見。

(2)技術怠工問題。利用智能技術來怠工。比如,藉口學習新的智能技術來怠工,在微信群裡@領導,事事請示匯報,推卸責任等等。

(3)智能破壞問題。“人肉搜索”、“網絡水軍”甚至網絡造謠,給治理活動帶來混亂。利用智能技術的欺詐和犯罪已經出現,比如機器人語音詐騙。對於智能破壞,尤其是機器人犯罪問題,很不好追查。

(4)官僚主義智能化問題。現代治理以可計算和文犢中心作為基礎,可計算就是信息要數字化,文犢中心要求治理圍繞文件展開。治理者治理的是紙上的、數字的對象,不是真實對象,那治理措施在現實社會就會出現一定的偏差。而且,這導致信息和文件激增,出現很多原本沒有的待處理信息,比如智能技術製造出城市管理中水電氣、交通、人流等信息。信息越多,就需要更多機構處理,於是官僚機構不斷膨脹。比如,不管電子監控效果如何,但可以此向上面要錢、要編制,目標就從效率偷偷換成官僚機構的擴張。各官僚機構各管一攤,不能把握整體,這在“智慧城市”治理當中已經發生。

(5)過度治理問題。剛才已經提到過,很多社會參數沒有必要獲取。過度監控可能成為阻礙治理的反作用力,浪費人財物,嚴重降低治理效率。

總之,智能治理沒有科幻電影中想像的那麼厲害。

數字崇拜

智能治理導致新的社會風險,有些目前已經有所表現。比如,專家權力過大乃至失控,精英主義思想氾濫,個人的權利被侵蝕;比如,文化朝著數字化單方面發展,不能數字化的東西被拋棄;再比如“AI失業”的風險,甚至由此加劇社會階層的固化等等。風險不一一列舉,必須要警惕,要研究,預先防範並及時化解。

智能治理是以大數據為基礎的數字治理。它的風險從根本上說,與“數字崇拜”有關。“數字崇拜”就是認為數字才是客觀的,數字才是權威的唯一可靠來源。智能革命以後,數字崇拜進化成“大數據崇拜”。

劉永謀:關於智能治理的哲學反思
劉永謀:關於智能治理的哲學反思

有一種說法:大數據不再是隨機樣本,而是全體數據。這種說法是錯誤的,世界上沒有真正的全數據。

因此,大數據所謂的“大”是實用意義上的“大”,針對某個目的而言足夠大了。比如智能交通調控,能掌握八成以上機動車輛的運行軌跡,就可以嘗試調控。既然是以實用目的來判斷是不是夠大,所以大數據並不客觀,而是有價值預設的。

因此,我們不需要全數據。數據並不是越多越好,太多可能出現“數據超載”。大數據的根本目標不是真理,而是行動,如果不能對決策有幫助,就是“數字垃圾”。

波茲曼批評了統計數字崇拜。他認為,運用統計數字進行論證主要是“三招”。

(1)抽象概念客觀化,把某個發明出來的抽象概念變得可以測量,比如民意測驗假定有個“民意”,可以從民眾身上抽取出來。哪有什麼像桌上這瓶礦泉水一樣客觀的“民意”呢?民意調查的結果都是偶然的,今天這麼選,可能明天就變了,或者有人沒說真話,人心也是變動。

(2)排序,即把每個人按照某種標準安放在某個序列之中,比如從極不喜歡到極其喜歡分為0到10,你選一個數字,5是中間值,這叫排序,好像很科學,實際上誰也搞不清5是多喜歡。

(3)忽略不可數字化的問題。比如智商測量中,數字、圖形、邏輯推理的能力可以量化,IQ能測,而想像力、直覺不能量化,IQ就不測。會講故事?這個不好量化,不算智商。所以,很多人批評IQ測量。

因此,很多數據概念都存在問題。如對它們視若神明,就成了“數字迷信”。

不要迷信數據,大數據作用也是有限的、有邊界的。而將大數據運用於社會運行策略當中,本質上是政治問題,而不是純粹的技術問題,因為大數據並不能提供純粹客觀真理的基礎,而是有價值取向的。

就算大數據是真理,也推導不出我們應該如何行動。這就是休謨著名的是與應當的二分。

案例:疫情應對與再治理

究竟應當實施智能治理嗎?對於不同技術、不同國情、不同語境,答案肯定是不同的,必須具體情況具體分析。這裡結合新冠疫情應對中智能技術的使用,談一點初步的看法。

無人困境

大家有目共睹:智能技術在抗疫活動中發揮了很大的作用。

比如,我們現在每日都用到的各種“健康寶”,運用交通數據、移動通信數據分析人員流動狀況,用即時病人統計數字來預測疫情動向,在機場、火車站用智能測溫與人臉技術篩查病人,用AI和醫用機器人輔助醫學診療。

在抗疫相關的人財物調撥、輿情信息收集分析等方面,智能技術發揮的作用就更大。

但是,“智能抗疫”也引起一些非議,或者說,並沒有達到大家期望的理想狀態。

首先最典型的是“無人技術”,如無人機、無人車、無接觸檢測治療機器人等,效果不理想。

第二,智能技術應用好的地區集中於東部發達地區和發達城市,中西部一些數字化基礎不好的地方,政府在公共衛生智能化方面投入很少,之前缺乏完善用戶體系和原始數據積累,智能技術就發揮不了什麼作用。

第三,智能技術在疫情防控實踐中還存在“堵點”和缺陷,對真實應用情境的理解還不夠。尤其是在街道和社區的一線工作中,無人技術和智能技術沒有表現出應有的力量,比如人員管控基本上靠登記填表、高音喇叭等“人海”技術,耗費大量人力。

最後,對技術應用中人的因素考慮不夠,引起社會對智能技術應用的倫理和隱私方面的關注。大家知道,各種“健康碼”一直就有這方面的爭議。

為什麼會這樣呢?

疫情突發,“智能抗疫”相關的各方面應對倉促,是一個原因。還有之前智能技術在治理領域的應對不成熟,雖然政府需求很大,但沒有得到商業上的重視。再有就是我們在技術儲備、專家水平方面,也有一些客觀的短板。

但這些原因的背後,還有一個更重要或最主要的原因:當前智能治理領域中,智能技術不能與“治理中的人”很好地結合起來,我稱之為智能治理的“無人困境”。

道理很簡單:智能治理不是純粹技術問題,而是技術與治理的融合,而講到治理,就不能不考慮人的因素,尤其是治理者和被治理者的特點和規律。

“智能抗疫”如果不能把人和技術結合起來考慮,肯定會事倍功半。

再治理

要擺脫“無人困境”,就要對智能治理進行再治理。我認為,所有的技術治理活動都需要再治理,重心是約束治理者,尤其是專家的權力。

第一,要劃定權力的界限。

第二,要設計越權時的糾錯機制。從治理中的人的角度看,人與技術在技術治理中的結合,最根本的是治理活動中各方權力如何平衡的問題。

從原則上說,要破解“無人困境”,至少要重視如下問題。

(1)加強技術專家與治理專家、實際管理者、利益相關者的溝通和合作。技術專家熟悉技術,治理專家熟悉治理,實際管理者了解國情和國人,利益相關者或者是被治理的直接對象,或者與治理行動有利益關係。只有大家溝通合作,智能治理運轉才能更順暢。

(2)約束治理者的權力,這也意味著對被治理者權利的保護。比如,疾控專家說,出門要戴口罩,在人煙稀少的空曠處可以不戴,到了基層就有極端情況:沒帶口罩的人就被打罵、被扭送到派出所。這是典型的過度治理的現象。

(3)約束技術專家權力。專業技術,普通人不懂,而專家同時也是危機處理中的利益相關者,有著自身的利益訴求,並且由於專業局限對其他事務缺乏足夠了解,如果專家權力過大,可能出現胡亂決策或以權謀私等問題,必須對專家權力加以約束。專家隊伍中要有一些人文社科的專家,不能全是搞技術的。

(4)預測與平衡反治理行為。治理必然會有反治理,不能完全消除,要理解、容忍和控制。各種“智能抗疫”措施的使用,要根據具體情況以及疫情變化而變化,不能搞“一刀切”,特殊情況特殊處理。據傳很多老人不用智能手機,不會搞“健康碼”,導致坐公交地鐵、去醫院公園都被拒。這就是不能容忍的反治理的情況。

(5)區別治理與操控。智能治理的運用是有限度的,超過限度就成為技術操控,把被治理對象當作囚犯來對待,嚴重侵害公民的基本權利。這個界限在哪裡呢?要具體問題具體分析。我認為一個基本原則是:治理應該是統計學意義上的,對像是人群或“人口”,不能精確到操控單個人甚至某個人的行為。機械決定論的思路肯定會導致越界,引發治理系統的崩潰。

(6)區分信息與輿論。在“智能抗疫”中,必然涉及信息流動的問題。許多信息是疫情信息,是客觀和物理的,不與疫情判斷、預測和防控直接相關。而發病人數、藥物療效和醫療物資狀況等,這類信息必須以保持通暢為第一原則,否則就會耽誤事情。當然,也要遵守保密法規。另外一些是輿情信息,有很強的主觀色彩,其中摻雜大量的謠言和錯誤言論,需要運用意識形態技術進行治理。不能混淆信息治理與輿論治理,混淆疫情信息和輿情信息。

“他山之石”:阿甘本的批評

在西方,以“智能抗疫”為核心的技術治理戰略引發的非議,遠超過中國。

在中國,對技術治理疫情評價基本上是肯定的,但在一些西方國家則是否定的。在美國,戴口罩被政治化。我與德國、美國的哲學家合作研究,比較了三國疫情技術治理模式的不同,發現差別很大。

這裡我們舉個最典型的例子,即意大利哲學家阿甘本對疫情中技術治理的批評,來進行分析。

在三四月份的時候,他批評意大利政府為應對疫情“封城鎖國”的隔離政策,引發各國思想家論戰了一個多月。

簡單地說,阿甘本的觀點是:新冠肺炎並不多麼致命,政府採取極端措施,是另有所圖,即將例外狀態常態化,擴充國家權力。

因此,最大的問題不是疫情,而是政府以疫情為名搞的嚴管措施,只怕今後會成為常態。當年,納粹就是這麼一步步極權的。

難道國家搞隔離不是為了保護大家嗎?要理解阿甘本的言論,首先就要理解他的生命政治理論,該理論有三個關鍵詞:赤裸生命、神聖人和例外狀態。

先說赤裸生命。阿甘本把活著與生活對立起來。活著就是純粹動物性的生命,吃喝拉撒繁衍……這就是“赤裸生命”。人不能光活著,還得生活。生活的本質是思想。思想被壓制,只剩下活著,你的生命就成了赤裸生命。

再說神聖人。誰的生命完只剩下赤裸生命了呢?最典型的就是納粹集中營中的囚犯,還有戰爭中的難民,為了活著,他們只能任人宰割,是“神聖人”。其實“神聖人”最好翻譯為“天譴之人”。

最後說例外狀態。對待神聖人,根本不需要遵守適用於正常人的各種法律規則,也就是說,神聖人就處於例外狀態之中,因為適用他的各種習俗、倫理、法律和政治權利等規矩都不存在,完全要等“主權者”來決定。

這個主權者,就是國家最高權力。希特勒要種族滅絕猶太人,設置了集中營。集中營怎麼搞?根本沒有約束。

阿甘本認為,除了集中營、戰爭難民外,例外狀態並不罕見。它在各種緊急狀態、戒嚴狀態和軍事管制狀態中經常出現。本來例外狀態是暫時的,正常之後應該取消,但實際上在正常狀態中某些例外措施恰恰被延續起來。

因此,例外狀態一再出現,一再悄悄地改變現代政治。所以,他認為,當代人在不同程度上都生活在集中營中。

劉永謀:關於智能治理的哲學反思
劉永謀:關於智能治理的哲學反思

阿甘本把抗擊疫情所做的隔離工作視為例外狀態了,堅稱政府在耍陰謀,讓我們為了活著而不要生活,自我隔離或強制隔離,保持社交距離,打碎我們與朋友、鄰居結成的共同體關係,這堅決不行!

大家知道,奧斯維辛集中營的陰影至今仍籠罩在歐洲人民的心中,阿甘本的觀點容易引發西方人的共鳴。例外措施究竟是什麼?

阿甘本稱之為生命政治措施。生命政治是指在政治領域中,運用科學原理和技術方法來改造人的行為和生活,以提高政治活動效率,屬於技術治理的一種。現在我們每天出門都要戴上口罩,和人說話都離遠點怕傳染,都屬於阿甘本所稱的“生命技術”。

阿甘本的批評不能說完全沒有道理,但是存在很多問題,尤其不是適合中國的國情。

第一,當代西方反科學思潮流行,普通歐洲民眾對科技有成見,反感技術治理,所以有些人才會堅決不戴口罩,不配合政府的隔離措施——“不自由毋寧死”。中國民眾對於科技和專家主要還是支持和信任的。

第二,技術治理不是完全負面的,顯然“智能抗疫”挽救了許多人的生命。就算它有一些問題,但你不能完全抹殺牠的正面價值,只看負面的可能。

最後,不存在絕對自由,人多少都要受到社會的改造和控制,比如學校教育也要改造人,讓你成為文明人,所以重要的不是拒絕所有的改造,而是要把生命政治控制在正常的範圍之內。

阿甘本其實提醒了我們:抗疫中的技術治理措施不能太過,不能超出限度,否則就侵害人們的生活和權利,並且當疫情過去,例外措施應該及時取消,恢復正常。

結語:審慎務實地推進智能治理

回過頭來,我們再來看看智能治理的願景。

AI理想國和AI機器國最後真的會出現嗎?從以上的分析中,很容易得出一個結論:未來智能治理的道路肯定是介於理想國和機器國之間,兩種極端狀況都不大可能出現。

先說理想國。就算機器人把所有的勞動都包了,一些人擔心,人類會不會天天打麻將,天天無事生非,自己把自己毀滅了。或者像電影《機器人瓦利》中想的那樣:人類成了行屍走肉,吃飯都是機器人餵。

更重要的是,如何讓人類放棄現行的不平等製度?我們為此將付出何種樣的代價呢?

並且當我們將智能技術用於治理活動,不只有一種可能性,而是存在很多不同的模式。我們應該結合現實國情,堅持“期待理想國,警惕機器國”的理念,審慎選擇智能治理模式,通過制度設計發揮智能治理的正面作用,防範它的風險,將之引導到造福社會的方向上去。

這就是我提出的技術治理理論要解決的問題。

要特別強調的是,防範智能治理的風險要落到實處,不能光喊口號,停留在文件裡。結合中國國情,更可能落地的風險防范思路,至少有三個可以深入思考的思路:

(1)制度主義思路。近年來,科技倫理討論持續熱門,但已經讓人感覺到倫理約束技術治理在現實中的不足,主要是無力感明顯,倫理批評難以落實。應對技治風險,還是要以製度設計為主,結合國情,通過制度來約束專家和治理者的權力。這是上述智能治理再治理的最核心問題。

(2)工程師教育。智能治理不可避免要依靠智能專家和控制論專家。技術和工程方面的事務,專家還是有更大的發言權,外行可以意見,但對技術設計的內情還是不清楚的。對工程師的倫理教育如果做得好,還是能起到一定的效果。也就是說,要製度性地對對工程師、對在讀的理工科大學生進行工程倫理、人文素質方面的教育,讓他們意識到自己肩負的社會責任,學會不僅用技術的眼光看待自己的工作,還要學會用倫理的眼光看待自己的工作。目前,國內在這方面要做的工作還很多。

(3)工程設計“道德物化”。道德可以通過設計思路落實到技術中,要以技術的方式實現道德理念,這就是道德物化的思路。比如說開車要係安全帶,不繫可能傷害自己傷害他人。可某個司機就是不講道德,怎麼辦?技術上設計報警系統,不繫安全帶,就不停地報警。再比如減速帶。你急彎開車就不減速,我就設計很多減速帶,把車顛簸得不得不減速。所以,把技術和道德結合起來,用物化的辦法將準則變成有形的技術設計。對智能治理中的風險,可以研究“道德物化”提前加以規避。

當然,上述技術治理、再治理的思考還很初步,只是一些拋磚引玉的思路。

但總而言之,智能治理牽涉的不是純粹的技術問題,更多是製度安排和政治考量。不同的國家和地區,不同的文化類型,不同的民族特性,不同的歷史和國情,不同的科技發展水平,走出來的智能治理道路不會都一樣。這需要深入研究,不斷探索。

本文經授權發布,不代表36氪立場。

如若轉載請註明出處。來源出處:36氪