人工智能與風(fēng)險治理體系的重構(gòu)

人工智能與風(fēng)險治理體系的重構(gòu)

人工智能的“替代”:大數(shù)據(jù)和算法的“創(chuàng)造性破壞”在農(nóng)業(yè)社會，人們通過植物和動物了解世界。在工業(yè)社會，人們通過蒸汽機(jī)征服世界。在互聯(lián)網(wǎng)時代，人們通過路由器連接世界。在人工智能時代，人們改變了世界。就像望遠(yuǎn)鏡讓我們能夠感受宇宙,顯微鏡讓我們能夠觀測微生物一樣,人工智能但脫胎于現(xiàn)代性的人工智能風(fēng)險也如影隨形般發(fā)生了,數(shù)據(jù)涉及的隱私權(quán)問題頻發(fā),年初支付寶年度賬單默認(rèn)勾選《芝麻服務(wù)協(xié)議》被質(zhì)疑侵犯隱私權(quán),百度涉嫌侵害消費(fèi)者個人信息安全被江蘇省消保委提起公益民事訴訟。而算法涉及的政治倫理問題也開始顯現(xiàn),特朗普團(tuán)隊(duì)利用數(shù)以千萬的Facebook數(shù)據(jù),通過挖掘算法使總統(tǒng)大選獲勝;世界上首起UBER自動駕駛汽車公共道路致死案也在美國亞利桑那州發(fā)生。隨著平臺企業(yè)將人工智能的商業(yè)邏輯推向極致,大數(shù)據(jù)和算法潛在的風(fēng)險和“創(chuàng)造性破壞”也必將隨之爆發(fā),國家主權(quán)、生產(chǎn)關(guān)系、社會結(jié)構(gòu)及法律秩序等關(guān)鍵議題都面臨著“顛覆式重構(gòu)”。這集中體現(xiàn)為隱私與數(shù)據(jù)權(quán)、數(shù)據(jù)歧視、倫理與人格尊嚴(yán)、生態(tài)、就業(yè)、貧富兩極化、國家能力及國家安全等系列問題。正如馬斯克所說:“人類下一個生存威脅恐怕就是人工智能。對于人工智能應(yīng)該在國際或者國家層面上有相應(yīng)的監(jiān)管措施,以防人類做出不可挽回的傻事來?！被诖?筆者主要討論的是人工智能的風(fēng)險以及人類的法律應(yīng)對。一方面,以費(fèi)雪的“行政憲制主義理論”一、心翼翼在汽車中的駕駛與駕駛生活在人工智能時代,不像是處在一輛被小心翼翼控制并熟練地駕駛著的汽車之中,更像是坐在朝向四方疾馳狂奔的不可駕馭的野馬身上,膽戰(zhàn)心驚,更不知道未來會發(fā)生什么。(一)人工智能實(shí)踐中的問題在一個到處充斥著數(shù)據(jù)的“人工智能時代”,人類社會正在從“原子世界”向“比特世界”演進(jìn),不斷演繹著“人是生而平等的,卻無往不在枷鎖之中”的事情,人工智能賦予了人類很大的自由,人類實(shí)踐著空間維度的自由,甚至開始追求時間維度的自由,但過于泛濫的大數(shù)據(jù)卻給予了人類太多的選擇,能力有限的人類變得如同遇到洪水猛獸般不知所措。這就是未來社會的不可預(yù)測性,“被動自由”問題變得日益突出。這主要由以下原因?qū)е?第一,大數(shù)據(jù)的“全體性”“混雜性”及“相關(guān)性”必然帶來的是風(fēng)險的不確定性。在小數(shù)據(jù)時代,人們受限于技術(shù),只能選擇分析隨機(jī)樣本;但在大數(shù)據(jù)時代,收集與分析全樣本是現(xiàn)實(shí)可行的。大數(shù)據(jù)中的“大”非絕對意義的大,而是指全數(shù)據(jù);第二,算法的不可預(yù)見性也直接導(dǎo)致了風(fēng)險的不確定性。擁有強(qiáng)大算法能力的人工智能決策系統(tǒng)則不同,它能夠在短時間精確計(jì)算所有可能性的基礎(chǔ)上,選擇機(jī)器認(rèn)為的最佳方案。而人工智能決策系統(tǒng)并不受預(yù)置的價值觀念、經(jīng)驗(yàn)法則、道德法制等因素的制約,它們很有可能做出人類根本不可能考慮的實(shí)施方案。這就是算法帶來的不可預(yù)見性。由此,盡管人類制造了人工智能,但我們卻無法預(yù)見到人工智能最終的決策選擇。隨著深度學(xué)習(xí)技術(shù)的進(jìn)步,人工智能行為的不可預(yù)見性問題更加凸顯,而且程度不斷加深。一個具有自主學(xué)習(xí)能力的人工智能系統(tǒng),實(shí)踐中大數(shù)據(jù)的喂養(yǎng)使其愈發(fā)進(jìn)化,使得最細(xì)心的制造者都沒有辦法控制或預(yù)測指數(shù)級升級的人工智能的決策過程及決策結(jié)果,這就是一個黑箱。第三,架構(gòu)的封閉性更加劇了風(fēng)險的不確定性。網(wǎng)絡(luò)“性質(zhì)”并非由上帝的旨意來決定,而僅僅是由它的架構(gòu)設(shè)計(jì)來決定。(二)人工智能與人的關(guān)系“自然存在度在世界流變體系中呈現(xiàn)為逐層遞減的分布趨勢”,“愈進(jìn)化的存在物其存在度愈低……它可以顯示某種相對活躍或較為主動的存在‘能力’,卻不得不借助于日益精巧的求存能力來為日益衰落的‘自在’自負(fù)其責(zé)?！钡谝?強(qiáng)自主性帶來了失控性問題。與人類早期科技不同,人工智能的本質(zhì)特征是以行為自動化為基礎(chǔ)的機(jī)器決策自主化。這種自主化有強(qiáng)弱之分。以自動駕駛為例,人類對于3級以上的具有自主性決策能力的人工智能系統(tǒng)的監(jiān)管將是非常困難的。第二,人工智能研發(fā)的隱秘性和分散性加劇了失控性。與核能、轉(zhuǎn)基因等傳統(tǒng)風(fēng)險源不同,人工智能的研發(fā)不需要建造大量的基礎(chǔ)設(shè)施,不需要雇傭大量的員工,甚至不需要購置生產(chǎn)設(shè)備,只需一臺電腦或一部智能手機(jī)即可。因此,大量初創(chuàng)科技公司或個人都從事于人工智能行業(yè),他們甚至可以在全球的每一個角落隨時隨地進(jìn)行研發(fā)。這種物理上的隱秘性和分散性使得監(jiān)管機(jī)關(guān)很難確定是誰以及在何處制造潛在的威脅,社會風(fēng)險由此不斷集聚。(三)人工智能風(fēng)險在“制度”層面的重構(gòu)與財(cái)富一樣,前現(xiàn)代社會的風(fēng)險分配是附著在階級模式上,只不過是以顛倒的方式進(jìn)行:財(cái)富在上層聚集,而風(fēng)險在下層聚集。由此,為了防范人工智能帶來的諸多風(fēng)險,在不阻礙創(chuàng)新的前提下重構(gòu)法律治理體系顯得尤為重要。從這個意義上說,我們理應(yīng)觀察科技風(fēng)險治理對國家和社會、政府和市場的關(guān)系演變以及法律體系歷史變遷的影響,這也是行政法學(xué)的重要任務(wù)。二、人工智能能否成為治理風(fēng)險的最佳手段“這是以往的哥白尼革命、達(dá)爾文革命及神經(jīng)科學(xué)革命中不存在的,人類在宇宙中的特殊地位受到威脅,人類已不再是信息圈毋容置疑的主宰,機(jī)器開始替代我們執(zhí)行越來越多的原本需要人的思想來解決的任務(wù)。”那么,人工智能的風(fēng)險到底能不能被治理?“某只看不見的手正在建造一種與網(wǎng)絡(luò)空間誕生時完全相反的架構(gòu),這只看不見的手,由政府和商務(wù)共同推動,正在構(gòu)筑一種能夠?qū)崿F(xiàn)最佳控制并使高效規(guī)制成為可能的架構(gòu)?！倍凹夹g(shù)風(fēng)險爭論并不單單是一個個不相關(guān)聯(lián)的技術(shù)或倫理上的不同意見,它關(guān)系到政府機(jī)構(gòu)應(yīng)當(dāng)如何認(rèn)定和理解技術(shù)風(fēng)險并采取相應(yīng)的措施”,(一)決策能力:決方案是促進(jìn)科學(xué)決策或?qū)＜覜Q策該進(jìn)路主張科學(xué)和專業(yè)知識是人工智能風(fēng)險決策的主要依據(jù)?！凹夹g(shù)問題的解決方案就是推動和促進(jìn)科學(xué)決策或?qū)＜覜Q策……據(jù)此,國家須要保證風(fēng)險決策盡可能地客觀,保證決策者是其專業(yè)領(lǐng)域的專家……科學(xué)需要被帶入政治過程、帶入規(guī)制過程、帶入法庭,這樣,技術(shù)風(fēng)險才能得到恰當(dāng)?shù)睦斫??！?二)“科學(xué)的‘客觀”該進(jìn)路主張民主和倫理等價值作為人工智能風(fēng)險決策的主要依據(jù)?！翱茖W(xué)的‘客觀性’實(shí)際上是給意識形態(tài)披上偽裝斗篷,而且風(fēng)險決策關(guān)系到共同體民眾整體上意愿怎樣生活。因此,科學(xué)只是一個有限的決策工具……國家應(yīng)當(dāng)采取更為民主的應(yīng)對風(fēng)險的進(jìn)路?！?三)人工智能風(fēng)險治理的目標(biāo)無論是科學(xué)進(jìn)路,還是民主進(jìn)路,法律在人工智能風(fēng)險治理中的作用都被描述成簡單工具性的、無關(guān)緊要的或者會起妨礙作用的。事實(shí)上,人工智能風(fēng)險治理的主要目標(biāo)如下:保護(hù)個人數(shù)據(jù)隱私、安全及相關(guān)權(quán)益;抵御可能的集體風(fēng)險,維護(hù)國家安全、公共安全及社會穩(wěn)定;在個人數(shù)據(jù)權(quán)益保護(hù)和社會自主創(chuàng)新之間實(shí)現(xiàn)平衡。為了實(shí)現(xiàn)上述目標(biāo),我們需要重構(gòu)一個風(fēng)險治理體系,而核心問題是政府和法律的作用。該體系的特征如下:(一)組織社會的自治。在現(xiàn)代社會,我國由于網(wǎng)絡(luò)的非開放性架構(gòu)導(dǎo)致了人工智能風(fēng)險治理結(jié)構(gòu)的封閉性,具體表現(xiàn)為“行政主體—行政相對人”的固定規(guī)制結(jié)構(gòu),這種封閉性治理結(jié)構(gòu)極大地增加公眾的存在性焦慮及風(fēng)險的社會可接受性。在抽象體系的交匯口,連接公眾與信任關(guān)系的當(dāng)面承諾,通常表現(xiàn)出明白無誤的可信任性與誠實(shí)性,并伴隨著一種“習(xí)以為常”或“鎮(zhèn)定自若”的態(tài)度。(二)政府與社會的問題面對著以復(fù)雜、不確定性和失控性為特征的人工智能風(fēng)險,我們需要一種整體性的風(fēng)險治理體系,即應(yīng)當(dāng)從中央與地方、政府與市場、立法與行政、國家與社會四個面向,以開放和多維度的方式來重構(gòu)治理結(jié)構(gòu),意在實(shí)現(xiàn)政府、市場、社會及公眾之間的一個新型社會,一個更開放的社會,一個權(quán)力分享的社會,一個網(wǎng)狀的社會。具體來說,對于人工智能的風(fēng)險治理,我們要實(shí)現(xiàn)從單維度到多維度的轉(zhuǎn)變,我們不僅需要政府的規(guī)制,也需要市場的自發(fā)秩序;我們不僅需要全國人大的立法規(guī)制,也需要國務(wù)院的行政規(guī)制;我們不僅需要中央政府高屋建瓴式的領(lǐng)導(dǎo)性規(guī)制,也需要地方政府對癥下藥式的自主性規(guī)制;我們不僅需要國家的外在強(qiáng)制性規(guī)制,也需要包括平臺公司在內(nèi)的社會自我規(guī)制。(三)從向權(quán)的角度限定行政法學(xué)模型傳統(tǒng)的風(fēng)險治理結(jié)構(gòu)的特征往往是政府向市場、行政向立法、中央向地方、國家向社會的單向權(quán)力運(yùn)動或放權(quán),但對于人工智能的治理,我們需要一種雙向的權(quán)力(利)運(yùn)動模式,即承認(rèn)上述單向運(yùn)動的合理性和有效性的同時,還需要一種反向的權(quán)力(利)運(yùn)動形式,即市場向政府、立法向行政、地方向中央、社會向國家的鱘魚回歸式的權(quán)力(權(quán)利)運(yùn)行,這一點(diǎn)從某種意義上更為重要。由此,現(xiàn)有的以追求秩序行政為目標(biāo),以法律保留原則、法律安定性原則和法律明確性原則為基石的封閉式行政法學(xué)理論顯然不足以抑制人工智能帶來的風(fēng)險。我們無法再以絕對性、確定性、統(tǒng)一性、可計(jì)算性為前提的法學(xué)理論來構(gòu)建前人工智能時代的法律秩序,我們需要一種以“開放與分享”為基本特征的整體性四維雙向風(fēng)險治理體系。三、治理的模式分類根據(jù)政府參與的深度和廣度,對于人工智能風(fēng)險的治理大致可以分為私法模式和公法模式,私法模式以市場為基石,公法模式則以政府為基石。而政府與市場的關(guān)系則是四重雙向風(fēng)險治理體系的第一維度。(一)人工智能賦能政府建設(shè)正向運(yùn)動的產(chǎn)生原因是什么呢?由于包括技術(shù)和效率等國家能力的欠缺,以及基于經(jīng)濟(jì)便利和政治因素的考量,政府在很多情況下會考慮通過企業(yè)力量和市場機(jī)制來實(shí)現(xiàn)人工智能行業(yè)的發(fā)展以及對其風(fēng)險的防范。但“未來社會的生產(chǎn)部門主要由少數(shù)的從業(yè)者、機(jī)器人以及人工智能共同完成,而憤怒的失業(yè)者則構(gòu)成了社會中的不安定因素”。在政府放任的“野蠻生長”階段,“非法興起”使得市場和平臺公司等商業(yè)力量迅速成為人工智能發(fā)展的主要推動機(jī)制。以此為契機(jī),我國在自動駕駛、語音及人臉識別、智能投顧、機(jī)器人等人工智能領(lǐng)域都取得了長足進(jìn)步;以深度學(xué)習(xí)為代表的機(jī)器技術(shù)開始進(jìn)入政府的智慧城市建設(shè);206工程強(qiáng)勢進(jìn)入上海法院,人工智能開始成為司法機(jī)關(guān)重要的輔助決策系統(tǒng),甚至被認(rèn)為是法院的未來圖景。以“政府?dāng)?shù)據(jù)開放”為例,政府與企業(yè)力量、市場機(jī)制實(shí)現(xiàn)深度融合的方式如下:第一,政府和企業(yè)的全方位戰(zhàn)略合作。如上海市政府與騰訊公司簽訂了戰(zhàn)略合作框架協(xié)議,共建智慧城市。雙方通過云計(jì)算和大數(shù)據(jù)能力,推動信息化服務(wù)產(chǎn)業(yè)鏈條的完形,以及在社會信用管理等領(lǐng)域進(jìn)行大數(shù)據(jù)技術(shù)的探索。(二)人工智能時代的隱私保護(hù)作為人工智能風(fēng)險治理維度之一的政府和市場關(guān)系,往往會經(jīng)歷雙向運(yùn)動?！艾F(xiàn)代社會的原動力是由一雙重傾向支配著:一方面是市場不斷的擴(kuò)張,另一方面是這個傾向遭到一個相反的傾向———把市場之?dāng)U張局限在一個特定的方向———的對抗。這一對抗自律性市場危害性的社會保護(hù)傾向非常重要?！蹦敲?這種反向運(yùn)動的產(chǎn)生原因是什么呢?自生自發(fā)的市場秩序從來都是烏托邦,人工智能帶來的巨大風(fēng)險自然也不能由市場機(jī)制本身所能化解,而市場機(jī)制自身所帶來的外部性卻日益顯現(xiàn),具體表現(xiàn)在:第一,隱私權(quán)。身處后隱私時代的我們,人人都變成了“透明人”,并深陷于一個巨大的“黑箱社會”之中。“社會個體不知道自己有多少信息被記錄了,這些信息會傳播到什么地方,也不知道哪些人會使用它,使用這些信息的目的何在,更無從知道這些信息的泄露會產(chǎn)生怎樣的后果,依據(jù)這些信息所作的判斷是否準(zhǔn)確,是否存在偏見或破壞性?”就人類而言,時間是最好的療傷劑,遺忘是常態(tài),記憶才是例外。但隨著人工智能時代的到來,這種平衡被打破了。往事像炫目的刺青一樣永遠(yuǎn)刻在我們的數(shù)字皮膚上,洗也洗不掉!隨著海量數(shù)據(jù)存在越來越廉價的云存儲器上,平臺企業(yè)對數(shù)據(jù)的獲取成本遠(yuǎn)遠(yuǎn)比選擇性刪除某些需要被遺忘數(shù)據(jù)的時間成本要低得多。于是,“在信息權(quán)力與時間的交會處,永遠(yuǎn)的記憶創(chuàng)造了空間和實(shí)踐圓形監(jiān)獄的幽靈。完整的數(shù)字化記憶摧毀了歷史,損害了我們的判斷和我們及時行動的能力”。隱私的傳統(tǒng)保護(hù)模式主要是一種私法機(jī)制,采取的是目前仍舊在世界廣泛流行的嚴(yán)格的“告知-許可-例外”權(quán)利模式。雖然隱私保護(hù)的對象大致經(jīng)歷了從住宅到人、到信息再到數(shù)據(jù)的轉(zhuǎn)變,但不變的是在這個過程中市場始終起到了基礎(chǔ)性的配置作用。但在人工智能時代,這種私法保護(hù)模式將面臨著越來越多的局限性:其一,不管是告知與許可、模糊化還是匿名化,這三大傳統(tǒng)的隱私保護(hù)策略都將失效。第二,倫理問題。不管我們是否承認(rèn),“一切被記錄,一切被監(jiān)管”的人工智能時代已經(jīng)來臨,數(shù)據(jù)開放帶來的倫理問題若隱若現(xiàn),具體表現(xiàn)在:1.大數(shù)據(jù)和高級算法可能會使所有人喪失了未來的自由選擇權(quán)。當(dāng)醫(yī)療數(shù)據(jù)集比醫(yī)生更了解病人身體狀況、醫(yī)療病例和醫(yī)療方法時,絕大多數(shù)病人的選擇很可能是拋棄醫(yī)生,而選擇相信精確算法基礎(chǔ)上的人工智能;當(dāng)基于高級算法的數(shù)據(jù)集能夠準(zhǔn)確預(yù)測員工未來幾年的能力值、忠誠度、經(jīng)濟(jì)貢獻(xiàn)值以及生育計(jì)劃的話,公司會選擇據(jù)此提前解雇某些可能成為負(fù)資產(chǎn)的員工;當(dāng)基于高級算法的健康數(shù)據(jù)集能夠預(yù)測某人未來的健康狀況時,那么沒有保險公司愿意接受他的人壽保險申請;更為恐怖的是,當(dāng)基于算法的信用數(shù)據(jù)集可以預(yù)測某人未來犯罪的可能性時,公安部門可能會以“預(yù)防犯罪”為名提前干預(yù)他的自由權(quán)利。大數(shù)據(jù)的高速流動和再利用也許可以“打造一個更安全、更高效的社會,但是卻否定了我們之所以為人的重要組成部分———自由選擇的能力和行為責(zé)任自負(fù)。大數(shù)據(jù)成為了集體選擇的工具,但也放棄了我們的自由意志”。2.大數(shù)據(jù)和高級算法可能會帶來數(shù)據(jù)歧視問題。數(shù)據(jù)表面上看是中立的,似乎并不涉及價值判斷,但在數(shù)據(jù)商業(yè)化過程中,一旦冷冰冰的政府?dāng)?shù)據(jù)加上高深理性的算法,數(shù)據(jù)歧視的產(chǎn)生可能就不可避免了。當(dāng)健康大數(shù)據(jù)可以基本準(zhǔn)確預(yù)測某位孕婦可能懷的是女孩,該孕婦可能會據(jù)此選擇墮胎,這是典型的性別歧視;當(dāng)司法大數(shù)據(jù)推測黑人的犯罪率較高或阿拉伯人成為恐怖分子的可能性較高,那么監(jiān)管部門可能會對他們重點(diǎn)監(jiān)管,甚至提前預(yù)防犯罪,而有些公司也可能會據(jù)此拒絕雇傭他們,這就是典型的種族歧視和職業(yè)歧視;當(dāng)電商平臺根據(jù)消費(fèi)大數(shù)據(jù),用高級算法作一個精確的推薦系統(tǒng),如收入較低的顧客瀏覽此平臺時,非常多的打折信息會不斷跳出來騷擾,又如平臺給“經(jīng)常打好評”和“很少退貨者”寄送假貨,而某旅游網(wǎng)站的“同房不同價”,這是典型的消費(fèi)歧視。這就是人工智能時代“開放的大數(shù)據(jù)”加上“復(fù)雜卻差異化的算法”帶來的歧視,這是商業(yè)領(lǐng)域隱匿的“窮人與狗不得入內(nèi)”。以上市場外部性亟待政府的反向運(yùn)動通過保護(hù)性干預(yù)來解決。具體包括:1.建議政府通過立法方式重塑“公正”“合法推定原則”及“無罪推定原則”等概念。在充斥著“過去決定未來”及“數(shù)據(jù)預(yù)測未來”的人工智能社會,政府需要重新定義公正的概念,“個人動因的保護(hù)”應(yīng)成為公正的新內(nèi)容。人們應(yīng)該只為他們的行為負(fù)責(zé),而不能為未來的趨勢或傾向負(fù)責(zé),應(yīng)當(dāng)堅(jiān)決杜絕政府或企業(yè)依據(jù)大數(shù)據(jù)預(yù)測的行為而非真實(shí)的行為對人們進(jìn)行評級或獎懲。只有這樣,自然人在法律上才是作為真正的“人”來對待,他們有行為選擇自由和通過自主行為被評判的人。這是人工智能時代的“合法推定原則”及“無罪推定原則”的新含義。2.建議政府通過立法的方式積極推動企業(yè)算法的公開、公平和公正等特別保護(hù)措施。對于政府行為的合法性和合理性,法律設(shè)置了非常詳盡的實(shí)體法和程序法的規(guī)定。但對于同樣涉及我們每個人的權(quán)利和自由(甚至我們的未來)等重要利益的企業(yè)決策和評價,法律卻沒有任何限制性規(guī)定,這在法理上是說不通的。因?yàn)樯虡I(yè)算法會直接影響到我們每個人的利益,所以企業(yè)不僅要遵循公開原則,向全社會無條件公布算法的具體內(nèi)容;企業(yè)還要遵循正當(dāng)程序原則,不能既作算法的評分裁判者又作算法的事實(shí)參與者;企業(yè)還要遵循可辯駁原則,企業(yè)在對用戶作出不利的評價之前,必須給用戶辯駁和說明理由的機(jī)會?？傊?市場向政府的反向運(yùn)動在法律上主要體現(xiàn)為公法模式。這種風(fēng)險治理模式是通過政府有意識的保護(hù)性立法和政府干預(yù)手段而實(shí)現(xiàn)。它強(qiáng)調(diào)的是政府的強(qiáng)力介入,通過詳盡規(guī)則的出臺,政府的人為設(shè)計(jì)甚至是政府的制度性導(dǎo)向來實(shí)現(xiàn)人工智能風(fēng)險的治理。這種模式中起主要作用的公法機(jī)制,往往是顯性的。以歐盟為例,對于人工智能涉及的個人隱私等權(quán)利保護(hù),成員國并非依賴私法權(quán)利體系及個人司法救濟(jì)來實(shí)現(xiàn),而主要通過公法機(jī)制來實(shí)現(xiàn)?！皬摹稊?shù)據(jù)保護(hù)指令》到《統(tǒng)一數(shù)據(jù)保護(hù)條例》,歐盟一直致力于建立‘行業(yè)行為準(zhǔn)則+法律強(qiáng)制性規(guī)范’的雙重規(guī)范體系和‘?dāng)?shù)據(jù)控制者自律+政府?dāng)?shù)據(jù)監(jiān)管機(jī)構(gòu)的監(jiān)督管理’的雙重管理體系,尤其是新的條例要求歐盟各成員國均要建立獨(dú)立的數(shù)據(jù)監(jiān)管機(jī)構(gòu),建立數(shù)據(jù)主體向監(jiān)管機(jī)構(gòu)投訴、受理及處理的一整套完備的行政救濟(jì)制度框架。”四、國家:培育人工智能風(fēng)險預(yù)防能力人工智能的風(fēng)險治理應(yīng)當(dāng)以公民基本權(quán)利的保護(hù)為根本出發(fā)點(diǎn),基于人工智能風(fēng)險預(yù)防特征,考察不同國家權(quán)力在手段與功能上的配置,實(shí)現(xiàn)治理責(zé)任的轉(zhuǎn)移和優(yōu)化。(一)人工智能風(fēng)險標(biāo)準(zhǔn)制定中行政權(quán)的復(fù)雜性在人工智能風(fēng)險治理的職能分工中,行政機(jī)關(guān)因其權(quán)力的獨(dú)特性承擔(dān)了越來越多的責(zé)任。由此,立法向行政放權(quán)的正向運(yùn)動開始啟動,具體有三種方式:通過《立法法》及其他法律的明文授權(quán),授予行政機(jī)關(guān)廣泛的行政立法權(quán);通過法律文本中的不確定概念賦予行政機(jī)關(guān)更多的自由裁量權(quán);通過設(shè)置“風(fēng)險預(yù)防原則”賦予行政機(jī)關(guān)更多的事實(shí)上的風(fēng)險決策權(quán)。而這個正向運(yùn)動主要是由行政的以下特性決定:第一,主動性及調(diào)動資源的能力?！靶姓淖饔迷谟谛纬缮鐣睢?shí)現(xiàn)國家目的,特別是在福利國家或社會國家中,國家的任務(wù)更為龐雜而繁重,行政往往必須積極介入社會、經(jīng)濟(jì)、文化、教育、交通等各種關(guān)系人民生活的領(lǐng)域,成為一只處處看得見的手,如此方能滿足人民和社會的需要。”人工智能風(fēng)險標(biāo)準(zhǔn)的制定、評估及反饋需要查閱和收集大量相關(guān)的風(fēng)險信息。這類相關(guān)信息往往涉及人工智能風(fēng)險的法律性質(zhì)、影響的范圍以及政府治理的法律后果,甚至可能直接關(guān)系到人工智能項(xiàng)目的生與死。第二,專業(yè)性。在時間和空間分離的巨大跨距之中,脫域機(jī)制通過將社會關(guān)系從它們所處的特色的地域“情境”中提取出來,使得這種時空延伸成為可能。第三,靈活性。與立法機(jī)關(guān)、司法機(jī)關(guān)相比,行政機(jī)關(guān)在機(jī)構(gòu)組織形式、行政負(fù)責(zé)人的挑選與任期、行使職權(quán)的方式等各方面具有更大的自由裁量空間和更多靈活性。事實(shí)上,行政機(jī)關(guān)依據(jù)《立法法》擁有了廣泛的立法性權(quán)力,依據(jù)《行政復(fù)議法》擁有了處理法律糾紛的司法性權(quán)力,而且還能發(fā)揮其實(shí)施法律的傳統(tǒng)國家作用。這種“三位一體”的行政權(quán)所體現(xiàn)的靈活性對人工智能的風(fēng)險治理意義重大。風(fēng)險標(biāo)準(zhǔn)制定中的核心問題是風(fēng)險的可接受性,這不僅需要考慮特定的科學(xué)評估及客觀事實(shí),而且也要關(guān)注不同社會階層的社會利益和政治關(guān)懷。事實(shí)上,立法機(jī)關(guān)雖然是最民主的,但其不具備處置具體風(fēng)險的專家系統(tǒng)、機(jī)構(gòu)能力和時間;同樣法院也不具備專家系統(tǒng),不具備可用來收集風(fēng)險信息和商談的手段,更缺乏主動對特定風(fēng)險的持續(xù)監(jiān)管與及時反應(yīng)的能力。(二)人工智能風(fēng)險治理中行政自由裁量權(quán)的法理構(gòu)造由于行政缺乏民主正當(dāng)性,“行政立法”“行政司法”及廣泛的“行政自由裁量權(quán)”存在合憲性上的先天性缺陷,行政這個過度膨脹的當(dāng)代憲制國家“尷尬傳家寶”面臨著“鳩占鵲巢”的嫌疑,這樣一種強(qiáng)大的利維坦式國家作用令人感到不安且充滿了法律爭議。于是,一場保護(hù)性的反向運(yùn)動應(yīng)運(yùn)而生,核心問題是如何控制人工智能風(fēng)險治理中的行政自由裁量權(quán),而這正是法律的主要功能。這種法律的作用本質(zhì)上是一種行政憲制主義的形式,重點(diǎn)是如何把治理人工智能風(fēng)險的問題融入公共行政的合法性、合理性及有效性的法律爭論之中。第一,理性—工具范式。該范式下行政的人工智能風(fēng)險評估及決策行為,可看作是對立法授權(quán)所完成的“傳送帶”動作,包括確認(rèn)特定的技術(shù)風(fēng)險,評估可能采取的規(guī)制手段的法律后果及用“利益代表制”確認(rèn)社會的價值偏好。第二,商談—建構(gòu)范式。該范式主張授予行政機(jī)關(guān)行使實(shí)質(zhì)性、強(qiáng)自由的裁量權(quán),立法并非是一套精確的命令,而只是為行政裁量權(quán)設(shè)定一般性原則和考慮的相關(guān)因素。行政不再只是立法的代理人,而是實(shí)施其自由意志的機(jī)構(gòu)。事實(shí)上,從“行政憲制主義”重新描述人工智能的風(fēng)險治理,也許并不能直接產(chǎn)生具體的技術(shù)解決方案,但卻打開了一扇理論建構(gòu)之窗,這有利于我們重新定位法律和政府在人工智能風(fēng)險決策中的重要作用,并促使行政法學(xué)者開始試圖重構(gòu)人工智能風(fēng)險的整體法律治理系統(tǒng)。五、三維風(fēng)險管理體系的第三個維度：中央和地方上文提到了市場與政府、立法與行政之間的雙向運(yùn)動,而縱向的央地關(guān)系也是難以回避的維度。(一)重構(gòu)人工智能風(fēng)險的治理體系地方政府一方面基于“GDP錦標(biāo)賽”的需求,積極推動本地經(jīng)濟(jì)試驗(yàn)與人工智能產(chǎn)業(yè)發(fā)展深度融合,人工智能產(chǎn)業(yè)的實(shí)踐推手主要是地方政府而非中央政府;另一方面,對于隨之而來的人工智能風(fēng)險,地方政府也是身先士卒地積極探索法律治理模式,并不斷積累經(jīng)驗(yàn)。我國是一個民主集中制原則下的單一制國家,其特征是中央的領(lǐng)導(dǎo)權(quán)和地方的自主權(quán)有機(jī)結(jié)合。而在人工智能的產(chǎn)業(yè)發(fā)展和風(fēng)險治理實(shí)踐中,我國出現(xiàn)了一個明顯的中央向地方不斷授權(quán)以及地方自主權(quán)不斷擴(kuò)大的正向運(yùn)動,這種正向運(yùn)動的產(chǎn)生原因如下:第一,單一制與有效治理的融合。按照憲法的規(guī)定,我國是單一制國家,體現(xiàn)為中央在財(cái)政、人事、自然資源等方面對地方的最高領(lǐng)導(dǎo)權(quán),而有效治理能力的增強(qiáng)是以地方自主權(quán)的擴(kuò)大為基礎(chǔ),法律上表現(xiàn)為中央向地方的自上而下的放權(quán)和授權(quán)。周雪光把這種中國國家治理邏輯歸納為“一統(tǒng)體制和有效治理的關(guān)系”。第二,新時代的特色法治經(jīng)驗(yàn)。重構(gòu)人工智能風(fēng)險的治理體系大致需要以下幾步:第一步,由地方政府就風(fēng)險治理先行先試,積累有效治理的初步經(jīng)驗(yàn);第二步,由地方人大基于已有的“地方性經(jīng)驗(yàn)”制定“地方性立法”,然后進(jìn)一步試錯并積累經(jīng)驗(yàn);第三步,由國務(wù)院在充分總結(jié)地方經(jīng)驗(yàn)教訓(xùn)的基礎(chǔ)上制定行政法規(guī);第四步,如有必要,再考慮上升為法律,適用于全國。這種新時代的特色法治經(jīng)驗(yàn)的形成主要有兩個依據(jù):其一,我國經(jīng)濟(jì)文化情境差異巨大。我國疆域廣闊,人口眾多,多民族多文化,經(jīng)濟(jì)發(fā)展極度不平衡,東部、西部以及南方、北方的地理氣候資源變化多端,這決定了我國需要“差異化”的地方性立法及行政;其二,“民主集中制”原則由此看來,對于人工智能的風(fēng)險治理,地方行使自主權(quán)是法律的常態(tài),而中央行使領(lǐng)導(dǎo)權(quán)則是法律的例外。只有當(dāng)?shù)胤降男袨榭赡芨淖冎醒牒偷胤降恼纹胶鈺r,中央領(lǐng)導(dǎo)權(quán)的介入才有必要。第一,出臺人工智能的地方規(guī)劃及行動方案。據(jù)不完全統(tǒng)計(jì),截至2018年3月,全國31省、自治區(qū)、直轄市中,包括北京、第二,制定實(shí)驗(yàn)性政策及地方立法。地方政府應(yīng)當(dāng)加強(qiáng)人工智能相關(guān)法規(guī)、倫理和社會問題研究,推動建立保障人工智能發(fā)展的法規(guī)和倫理道德框架。根據(jù)新時代的特色法治經(jīng)驗(yàn),在人工智能產(chǎn)業(yè)發(fā)達(dá)的城市,如深圳或杭州就風(fēng)險治理進(jìn)行試點(diǎn),積累有效治理的初步經(jīng)驗(yàn);由地方人大基于已有“地方性經(jīng)驗(yàn)”制定“地方性立法”,然后進(jìn)一步試錯,為國務(wù)院制定行政法規(guī)和未來的全國人大立法提供實(shí)踐基礎(chǔ)和理論支撐。第三,試驗(yàn)性設(shè)立獨(dú)立的人工智能風(fēng)險及安全監(jiān)管機(jī)構(gòu)。地方立法既要保證該監(jiān)管機(jī)構(gòu)組成機(jī)構(gòu)及成員的獨(dú)立性,也要確保監(jiān)管機(jī)構(gòu)行使職權(quán)時程序上的透明度。安全監(jiān)管委員會的主要成員可以從所在地公安局及市場監(jiān)管局選任,該機(jī)構(gòu)應(yīng)當(dāng)具有如下主要職責(zé):人工智能風(fēng)險的評估及風(fēng)險標(biāo)準(zhǔn)的制定、風(fēng)險決策過程正式和非正式的公眾參與制度的出臺、對人工智能平臺企業(yè)行使行政調(diào)查權(quán)及限期整改等矯正性權(quán)力、向上級機(jī)關(guān)或立法機(jī)關(guān)提出建議的權(quán)力以及定期發(fā)布人工智能風(fēng)險預(yù)警和治理的年度報(bào)告等。由此,地方政府主導(dǎo)的人工智能風(fēng)險治理試驗(yàn)從宣示開明的政治姿態(tài)演變?yōu)閯討B(tài)的經(jīng)濟(jì)實(shí)踐,其內(nèi)在的政治與法律意涵開始不斷豐富。(二)完善人工智能數(shù)據(jù)標(biāo)準(zhǔn)化的事先行政許可制度人工智能的風(fēng)險治理應(yīng)當(dāng)是一種制度化體系,這種頂層制度設(shè)計(jì)只能由中央政府來構(gòu)建和提供,其目的在于保護(hù)自然人的數(shù)據(jù)權(quán)益,維護(hù)國家安全、公共安全和社會穩(wěn)定,但卻不能因噎廢食,阻礙數(shù)據(jù)合法的自由流通并完全禁止人工智能的研發(fā)。我們建議,全國人大在充分吸收地方的經(jīng)驗(yàn)和教訓(xùn)的基礎(chǔ)上制定《人工智能發(fā)展法》,具體制度如下:第一,設(shè)立人工智能系統(tǒng)的登記認(rèn)證審查制度。立法的重點(diǎn)是圍繞如何在不阻礙創(chuàng)新的前提下最大限度控制和防范人工智能的潛在風(fēng)險,因此,除了自動駕駛系統(tǒng)這類可能對自然人的人身財(cái)產(chǎn)權(quán)造成巨大威脅以及智能武器這類可能威脅國家安全、公共安全的人工智能系統(tǒng)之外,立法并不能也沒有必要對所有的人工智能系統(tǒng)設(shè)立嚴(yán)格的事前行政許可制度。筆者建議,設(shè)立適用于所有人工智能系統(tǒng)的登記認(rèn)證審查制度,即所有的人工智能系統(tǒng)都應(yīng)當(dāng)按照法律的要求去監(jiān)管部門登記備案,但絕大多數(shù)并不需要事先取得監(jiān)管機(jī)構(gòu)的批準(zhǔn)性許可文書。同時,實(shí)現(xiàn)認(rèn)證程序與侵權(quán)責(zé)任體系深度結(jié)合。企業(yè)可以自愿申請監(jiān)管部門或授權(quán)的專業(yè)機(jī)構(gòu)的認(rèn)證程序,經(jīng)過權(quán)威認(rèn)證的人工智能系統(tǒng)的設(shè)計(jì)者、生產(chǎn)者或銷售者僅需承擔(dān)有限侵權(quán)責(zé)任,而沒有經(jīng)過認(rèn)證的人工智能系統(tǒng)將會承擔(dān)嚴(yán)格的連帶責(zé)任。筆者還建議,設(shè)立抽查式事后的安全審查制度,監(jiān)管機(jī)構(gòu)審查的關(guān)鍵詞是“安全”,即查看人工智能系統(tǒng)“是否落實(shí)網(wǎng)絡(luò)安全等級保護(hù)制度,按照國家標(biāo)準(zhǔn)規(guī)范要求,采取管理和技術(shù)措施,保護(hù)網(wǎng)絡(luò)、信息系統(tǒng)、數(shù)據(jù)資源安全”,立法應(yīng)當(dāng)授予監(jiān)管部門“安全一票否決”的權(quán)力,即涉及“安全”問題,監(jiān)管部門有權(quán)強(qiáng)制啟動嚴(yán)格的事先行政許可制度,即人工智能系統(tǒng)獲得行政許可需要經(jīng)過多重多階段的嚴(yán)格安全測試,在沒有獲得許可前不能上市銷售。第二,設(shè)立人工智能專員制度。當(dāng)實(shí)施政府?dāng)?shù)據(jù)開放和利用的機(jī)構(gòu)是政府部門時,或者當(dāng)其核心業(yè)務(wù)是用算法處理大量數(shù)據(jù)且需要進(jìn)行定期的、系統(tǒng)化的大規(guī)模監(jiān)控時,或者當(dāng)其核心業(yè)務(wù)是用算法去處理就業(yè)、社會保險與社會保障法等領(lǐng)域以及與犯罪和違法行為有關(guān)的大規(guī)模特殊數(shù)據(jù)時,立法應(yīng)當(dāng)明確要求數(shù)據(jù)控制者和處理者指定一名人工智能專員。第三,建設(shè)國家統(tǒng)一的大數(shù)據(jù)平臺。國家統(tǒng)一大數(shù)據(jù)平臺需要有足夠的立法支撐和可操作的實(shí)施方案,同時應(yīng)當(dāng)通過立法設(shè)立首席信息官、首席技術(shù)官及首席數(shù)據(jù)官等專業(yè)機(jī)構(gòu)。這樣的國家大數(shù)據(jù)平臺只能由中央政府來建構(gòu),并且需要一個較長時間的經(jīng)驗(yàn)積累和試錯。從地方分散實(shí)踐到中央統(tǒng)一立法的反向運(yùn)動是可取的,我國地方數(shù)據(jù)平臺從數(shù)據(jù)量、時效性、數(shù)據(jù)集可視化、互動分享等方面與美國存在巨大的差距,其中一個重要原因是各自為政下形成的“低法治”數(shù)據(jù)割據(jù)。由此,一個旨在全面提升數(shù)據(jù)的有用性和易用性以及公眾數(shù)據(jù)利用效果的全國性數(shù)據(jù)開放平臺的建設(shè)必須提上全國人大的議事日程,應(yīng)當(dāng)將中國最為重要的政府?dāng)?shù)據(jù)統(tǒng)一集中到一個網(wǎng)站,為全國所有公眾無差別地提供一站式的、內(nèi)容豐富的、便于再利用的數(shù)據(jù)群,而這個工作只能由《人工智能發(fā)展法》來完成。六、科技風(fēng)險的威脅對于人工智能風(fēng)險的破壞力和臨界點(diǎn),人們也許還有不同的見解,但這種科技風(fēng)險的威脅毫無疑問是巨大的和不確定的。而國家和社會的雙向運(yùn)動是我們重構(gòu)風(fēng)險治理體系必須要考慮的一個維度。(一)國家從國家權(quán)力之間關(guān)系向國家與民眾關(guān)系的轉(zhuǎn)型當(dāng)前中國正處于一個尋求新的合法性基礎(chǔ)的過程中,逐步走向建立法治國家,而國家治理的主線也正從國家權(quán)力之間關(guān)系向國家與民眾之間關(guān)系進(jìn)行轉(zhuǎn)型。在這種背景下,人工智能的風(fēng)險治理也正在經(jīng)歷著國家向社會放權(quán)和擴(kuò)權(quán)的正向運(yùn)動,具體表現(xiàn)為行政機(jī)關(guān)與平臺企業(yè)的合作治理。根據(jù)弗里曼的研究,人工智能風(fēng)險合作治理的規(guī)范模型應(yīng)當(dāng)具有如下特征:(二)對社會的反思由于人工智能平臺企業(yè)的自我治理領(lǐng)域往往沒有清晰的法律邊界,而基于大數(shù)據(jù)的算法產(chǎn)品卻容易波及社會中的每一個人,這種巨大影響力必將最終損害到國家能力;受到人工智能平臺企業(yè)自我治理影響的利害關(guān)系人范圍之廣、數(shù)量之大,是傳統(tǒng)社會所難以見到的,因而很難設(shè)計(jì)一種讓所有利害關(guān)系人參與到人工智能風(fēng)險評估和風(fēng)險決策中來的法律機(jī)制。在“大眾創(chuàng)業(yè)、萬眾創(chuàng)新”時代,政府機(jī)關(guān)有意無意地疏忽于“野蠻生長”階段的監(jiān)管職責(zé),使得人工智能平臺在短時間實(shí)現(xiàn)“非法興起”,其后果是威脅公共安全和社會穩(wěn)定的法律風(fēng)險短時間內(nèi)集中爆發(fā)。在此背景下,國家必須改變“強(qiáng)社會、弱國家”狀況,啟動一場從社會向國家集權(quán)的“反向運(yùn)動