依法推動深度合成技術(shù)向上向善

依法推動深度合成技術(shù)向上向善【資政場】隨著人工智能技術(shù)不斷迭代演進，網(wǎng)絡(luò)治理面臨新課題、新挑戰(zhàn)。習(xí)近平總書記高度關(guān)注人工智能技術(shù)發(fā)展，強調(diào)“要加強人工智能發(fā)展的潛在風(fēng)險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控”，“建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德”。人工智能技術(shù)的廣泛應(yīng)用，在促進數(shù)字經(jīng)濟與數(shù)字社會迅猛發(fā)展的同時，也帶來風(fēng)險與挑戰(zhàn)。如深度合成技術(shù)若遭非法濫用，不僅會侵害公民人身權(quán)益與財產(chǎn)安全，還會污染網(wǎng)絡(luò)生態(tài)環(huán)境、危及國家網(wǎng)絡(luò)安全。因此，需要以法治方式筑牢信息安全屏障，確保人工智能技術(shù)在法治軌道上健康發(fā)展。深度合成技術(shù)安全風(fēng)險急需立法回應(yīng)2022年我國人工智能核心產(chǎn)業(yè)規(guī)模達5080億元，同比增長18%，躋身國際領(lǐng)先行列。深度合成技術(shù)是人工智能領(lǐng)域一項前沿技術(shù)，不僅包含了深度偽造技術(shù)，也泛指所有AI生成算法和涵蓋自動生成圖像、視頻、語音、文本、音樂等內(nèi)容的人工智能合成技術(shù)。其中深度偽造技術(shù)借助人工智能技術(shù)，通過深度學(xué)習(xí)對生物識別信息、音頻或視頻等進行修改和創(chuàng)造，能高度還原一個人的樣貌、聲音、動態(tài)，甚至能以假亂真，有被濫用的風(fēng)險。實際上，目前也已出現(xiàn)通過深度偽造技術(shù)進行詐騙的案例。人工智能的生態(tài)環(huán)境與安全治理，是構(gòu)建網(wǎng)絡(luò)空間命運共同體的重要環(huán)節(jié)。為防范人工智能發(fā)展的潛在風(fēng)險，各國日益重視人工智能深度合成技術(shù)的法律規(guī)制。美國通過平臺審查、技術(shù)對抗、法律監(jiān)督形成自下而上的治理路徑，先后提出了多部與深度偽造有關(guān)的法案。歐盟則將深度偽造視為對生物識別信息的濫用，運用《通用數(shù)據(jù)保護條例》加以規(guī)制，并發(fā)布《反虛假信息行為準則》，通過行業(yè)自律、提升人工智能安全素養(yǎng)、加強人工智能倫理治理等協(xié)調(diào)歐盟各成員國參與治理。對人工智能深度合成技術(shù)安全風(fēng)險進行立法回應(yīng)，已經(jīng)成為包括中國在內(nèi)的許多國家的共識。規(guī)制深度合成技術(shù)應(yīng)用的中國方案黨的十八大以來，我國網(wǎng)絡(luò)安全和信息化事業(yè)取得重大成就。網(wǎng)絡(luò)安全和信息化工作始終堅持黨管互聯(lián)網(wǎng)，堅持網(wǎng)信為民，走中國特色治網(wǎng)之道，統(tǒng)籌發(fā)展和安全，筑牢國家網(wǎng)絡(luò)安全屏障。針對人工智能技術(shù)應(yīng)用潛在風(fēng)險的防范，我國以多部門立法相結(jié)合的方式作出積極回應(yīng)。在法律層面上，民法典第1019條的規(guī)定為深度偽造技術(shù)的圖像和視頻應(yīng)用劃定紅線。在規(guī)章層面，《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等規(guī)范性文件相繼制定，規(guī)定了服務(wù)提供者對深度合成的音頻或視頻的顯著標識義務(wù)。今年年初施行的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》是我國最具系統(tǒng)性、針對性、可操作性的第一部規(guī)制深度合成的專門立法。該法規(guī)定在深度偽造技術(shù)應(yīng)用中，利用生物識別信息編輯的，應(yīng)取得信息主體的單獨同意；提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等生成或者顯著改變信息內(nèi)容功能的服務(wù)的，應(yīng)當進行顯著標識，避免公眾混淆或者誤認。深度合成管理規(guī)定的出臺，開啟了對深度合成技術(shù)全方位立法治理的時代。近日頒布的《生成式人工智能服務(wù)管理暫行辦法》，是我國首部全面監(jiān)管生成式人工智能的立法文件。該法一方面劃定不得生成違法內(nèi)容、防止歧視、尊重知識產(chǎn)權(quán)和他人合法權(quán)益的法律底線；一方面鼓勵創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。這兩部規(guī)章的實施，不僅為我國人工智能深度合成技術(shù)健康發(fā)展提供了重要法制保障，而且所采用的由監(jiān)管機構(gòu)全面監(jiān)管、預(yù)先遏制新技術(shù)潛在安全風(fēng)險的開創(chuàng)性治理路徑，為全球人工智能治理提供了中國方案、貢獻了中國智慧。構(gòu)建規(guī)制深度合成技術(shù)應(yīng)用法律體系加快發(fā)展數(shù)字經(jīng)濟，貫徹落實國家發(fā)展新一代人工智能的決策部署，提升人工智能安全治理能力，應(yīng)堅持以人民為中心的人工智能治理理念，結(jié)合民法、行政法、刑法等多法律部門，構(gòu)建多維度、全方位的法律規(guī)范體系，切實規(guī)制深度合成技術(shù)應(yīng)用，推動科技向善，發(fā)展負責的人工智能。在人工智能立法方面，各地相繼出臺新規(guī)，國家層面的人工智能立法也在提速。筆者認為，對深度合成的規(guī)制應(yīng)納入人工智能治理框架，重視深度合成技術(shù)的算法治理，提升區(qū)塊鏈溯源防偽和反向破解技術(shù)，對人工智能應(yīng)用生物識別信息提出嚴格限制。在個人信息保護方面，在利用生物識別信息深度偽造的場景中，信息處理者應(yīng)取得信息主體的單獨書面同意，切實履行“通知—刪除”義務(wù)、“發(fā)現(xiàn)—刪除”義務(wù)以及“發(fā)現(xiàn)—標記”義務(wù)。在民法保護方面，對生物識別信息應(yīng)采用權(quán)利保護模式，信息主體有證據(jù)證明行為人非法利用生物識別信息進行深度偽造的，有權(quán)立即申請人格權(quán)侵害禁令，責令停止侵害，屏蔽、刪除AI換臉記錄。在行政立法方面，應(yīng)提升深度合成專門立法的法律位階，落實數(shù)字平臺的主體監(jiān)管責任，強化問責機制與懲罰性賠償責任。在刑事立法方面，可考慮對以深度偽造技術(shù)為犯罪工具竊用他人身份的犯罪行為設(shè)定新罪名；適度降低應(yīng)用深度偽造技術(shù)進行侮辱、誹謗或危害