學(xué)習(xí)解讀生成式人工智能服務(wù)管理暫行辦法

這一舉措旨在提供對該法規(guī)的全面解析，包括其中的條款、要求和規(guī)定。通過學(xué)習(xí)和解讀該暫行辦法，相關(guān)機(jī)構(gòu)、組織和個(gè)人可以更好地了解和遵守相關(guān)法規(guī)，確保生成式人工智能服務(wù)的合規(guī)運(yùn)營，同時(shí)促進(jìn)人工智能技術(shù)的可持續(xù)發(fā)展和應(yīng)用。匯報(bào)人：XXX時(shí)間：20XX.X學(xué)習(xí)解讀生成式人工智能服務(wù)管理暫行辦法01《暫行辦法》提出背景02制度與技術(shù)同頻共振03推動生成式人工智能精細(xì)化04適應(yīng)生成式人工智能特點(diǎn)，營造安全有序法治環(huán)境05堅(jiān)持多方共治，為生成式人工智能健康發(fā)展提供制度保障目錄CONTENTS2023抓強(qiáng)機(jī)遇奮起直追力爭超越前言PREFACE面對技術(shù)發(fā)展帶來的機(jī)遇與挑戰(zhàn)，《生成式人工智能服務(wù)管理暫行辦法》既有制度創(chuàng)新，又保持一貫的監(jiān)管體系，既重視信息內(nèi)容安全，也多方推進(jìn)技術(shù)產(chǎn)業(yè)發(fā)展，不僅引領(lǐng)國際人工智能治理實(shí)踐，也為中國人工智能立法做出了有益探索，“暫行”二字更為未來統(tǒng)一的人工智能法留下無限的遐想空間。PART.01暫行辦法提出背景這一舉措旨在提供對該法規(guī)的全面解析，包括其中的條款、要求和規(guī)定。通過學(xué)習(xí)和解讀該暫行辦法，相關(guān)機(jī)構(gòu)、組織和個(gè)人可以更好地了解和遵守相關(guān)法規(guī)，確保生成式人工智能服務(wù)的合規(guī)運(yùn)營，同時(shí)促進(jìn)人工智能技術(shù)的可持續(xù)發(fā)展和應(yīng)用。學(xué)習(xí)解讀生成式人工智能服務(wù)管理暫行辦法二是提出背景01深入貫徹落實(shí)習(xí)近平總書記重要指示精神和黨中央決策部署的重要舉措。習(xí)近平總書記在主持召開中共中央政治局會議時(shí)指出：“要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)?！?3推進(jìn)實(shí)施法律規(guī)定的內(nèi)在要求。制定《辦法》，是落實(shí)《網(wǎng)絡(luò)安全法》、《數(shù)據(jù)安全法》、《個(gè)人信息保護(hù)法》、《科學(xué)技術(shù)進(jìn)步法》有關(guān)規(guī)定的重要要求，進(jìn)一步規(guī)范數(shù)據(jù)處理等活動，維護(hù)國家安全和社會公共利益，保護(hù)公民、法人和其他組織的合法權(quán)益。02促進(jìn)生成式人工智能健康發(fā)展的迫切需求。隨著生成式人工智能技術(shù)的快速發(fā)展，為經(jīng)濟(jì)社會發(fā)展帶來新機(jī)遇的同時(shí)，也產(chǎn)生了傳播虛假信息、侵害個(gè)人信息權(quán)益、數(shù)據(jù)安全和偏見歧視等問題。《辦法》堅(jiān)持目標(biāo)導(dǎo)向和問題導(dǎo)向，明確了促進(jìn)生成式人工智能技術(shù)發(fā)展的具體措施，規(guī)定生成式人工智能服務(wù)的基本規(guī)范。PART.02技術(shù)與制度同頻共振這一舉措旨在提供對該法規(guī)的全面解析，包括其中的條款、要求和規(guī)定。通過學(xué)習(xí)和解讀該暫行辦法，相關(guān)機(jī)構(gòu)、組織和個(gè)人可以更好地了解和遵守相關(guān)法規(guī)，確保生成式人工智能服務(wù)的合規(guī)運(yùn)營，同時(shí)促進(jìn)人工智能技術(shù)的可持續(xù)發(fā)展和應(yīng)用。學(xué)習(xí)解讀生成式人工智能服務(wù)管理暫行辦法鼓勵(lì)創(chuàng)新與規(guī)范發(fā)展的原則理念01《辦法》第一條開宗明義將“促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用”作為首位目標(biāo)，第三條進(jìn)一步闡明：“國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，02采取有效措施鼓勵(lì)生成式人工智能創(chuàng)新發(fā)展，對生成式人工智能服務(wù)實(shí)行包容審慎和分類分級監(jiān)管”，凸顯出《辦法》將生成式人工智能的創(chuàng)新與發(fā)展置于重要地位，03與歐盟《人工智能責(zé)任指令》（AILiabilityDirective）、《人工智能法（草案）》（draftAIAct）等以風(fēng)險(xiǎn)預(yù)防和責(zé)任追究為中心的立法存在差異。2023年6月，歐盟針對通用人工智能增設(shè)相應(yīng)的監(jiān)管標(biāo)準(zhǔn)。04但實(shí)踐早已經(jīng)證明，對人工智能這一不斷發(fā)展且具有不確定性的新技術(shù)需要采取更加科學(xué)和包容審慎的治理方式。鼓勵(lì)創(chuàng)新與規(guī)范發(fā)展的原則理念人工智能發(fā)展中的問題要靠發(fā)展解決，在風(fēng)高浪急的大變局時(shí)代，不發(fā)展是最大的不安全，發(fā)展是解決我國一切問題的基礎(chǔ)和關(guān)鍵。作為關(guān)鍵通用目的技術(shù)，生成式人工智能對人民福祉、經(jīng)濟(jì)發(fā)展、國家安全和戰(zhàn)略競爭均具有重要意義。然而，我國在相關(guān)基礎(chǔ)研究、技術(shù)生態(tài)、產(chǎn)業(yè)發(fā)展、頂尖人才等方面與先進(jìn)國家仍存在差距。2023年4月，中共中央政治局會議特別指出，要重視通用人工智能發(fā)展，營造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)。《辦法》秉持這一精神，一方面針對生成式人工智能技術(shù)特點(diǎn)，要求管理部門完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，實(shí)現(xiàn)技術(shù)創(chuàng)新與監(jiān)管創(chuàng)新的同步演化、協(xié)同共振（第十六條）。例如，第七條即充分考慮到訓(xùn)練數(shù)據(jù)的海量性和異質(zhì)性，將“數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性”作為優(yōu)化目標(biāo)，從而契合了大模型的技術(shù)特征；另一方面，鼓勵(lì)產(chǎn)業(yè)界在各行業(yè)、各領(lǐng)域中探索優(yōu)化生成式人工智能應(yīng)用場景，支持行業(yè)組織、企業(yè)、科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、專業(yè)機(jī)構(gòu)等多元主體開發(fā)與協(xié)同創(chuàng)新（第五條），推動芯片、軟件、框架、算力、算法、數(shù)據(jù)資源等全鏈路、全生態(tài)的共享與發(fā)展（第六條）。包容審慎和分類分級的規(guī)制范圍《辦法》第二條從正反兩面將《辦法》的適用范圍明確錨定在“面向境內(nèi)公眾提供生成式人工智能服務(wù)”之上，其言簡而意深，是本法法眼之所在。1234作為貫穿《辦法》全篇的理念與原則，“鼓勵(lì)創(chuàng)新與規(guī)范發(fā)展”不僅集中體現(xiàn)在第二章“技術(shù)發(fā)展和治理”中，還反映在第三章“服務(wù)規(guī)范”、第四章“監(jiān)督檢查和法律責(zé)任”中，而鮮明體現(xiàn)這一理念的，還在于《辦法》對其規(guī)制范圍的審慎限定。詳言之，這首先意味著《辦法》區(qū)分了“服務(wù)”與“技術(shù)”。這一區(qū)分不但與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》以“服務(wù)”為基礎(chǔ)的規(guī)制相銜接，而且為技術(shù)研發(fā)、應(yīng)用容留了試錯(cuò)空間，避免過分進(jìn)入技術(shù)自身迭代領(lǐng)域而影響技術(shù)創(chuàng)新。放寬視野看，強(qiáng)調(diào)“服務(wù)”而非“技術(shù)”的規(guī)制，恰恰有助于從技術(shù)中立論還是建構(gòu)論的理論紛爭中跳脫出來，從系統(tǒng)論出發(fā)，將人工智能所棲身的演化體系、組織形態(tài)、應(yīng)用場景一并納入規(guī)制，實(shí)現(xiàn)場景化和整體性兼?zhèn)涞闹卫?。包容審慎和分類分級的?guī)制范圍01020304其次，《辦法》區(qū)分了“面向公眾”和“面向非公眾”。從風(fēng)險(xiǎn)防范的角度看，“面向公眾”可能引發(fā)風(fēng)險(xiǎn)擴(kuò)展和積聚，特別是虛假有害信息的蔓延將擾亂網(wǎng)絡(luò)空間傳播秩序、市場秩序和社會秩序，因此成為監(jiān)管重心所在；生成式人工智能不但是與普通用戶信息交互的工具，也是企業(yè)內(nèi)部提高效率、增強(qiáng)競爭優(yōu)勢的有力助手。根據(jù)咨詢公司埃森哲的調(diào)研，近六成的企業(yè)打算將ChatGPT用于學(xué)習(xí)目的，超過40%的企業(yè)愿意為此傾力投入。通過定制模式和數(shù)據(jù)微調(diào)，生成式人工智能將顛覆傳統(tǒng)的工作模式，并支持各行業(yè)、各項(xiàng)業(yè)務(wù)發(fā)展。因而，為企業(yè)內(nèi)部以及垂直領(lǐng)域內(nèi)“面向非公眾的服務(wù)”留有余地，將有助于加速生成式人工智能技術(shù)在企業(yè)端的大規(guī)模落地和廣泛應(yīng)用，幫助企業(yè)顯著提高生產(chǎn)效率，釋放創(chuàng)新潛力?！掇k法》統(tǒng)籌了“境內(nèi)”和“境外”，對境外企業(yè)提供生成式人工智能服務(wù)的需求作出回應(yīng)，要求在遵守本法的前提下合規(guī)經(jīng)營，對外商投資生成式人工智能服務(wù)做出銜接規(guī)定，體現(xiàn)出包容開放的政策導(dǎo)向。PART.03推動生成式人工智能精細(xì)化這一舉措旨在提供對該法規(guī)的全面解析，包括其中的條款、要求和規(guī)定。通過學(xué)習(xí)和解讀該暫行辦法，相關(guān)機(jī)構(gòu)、組織和個(gè)人可以更好地了解和遵守相關(guān)法規(guī)，確保生成式人工智能服務(wù)的合規(guī)運(yùn)營，同時(shí)促進(jìn)人工智能技術(shù)的可持續(xù)發(fā)展和應(yīng)用。學(xué)習(xí)解讀生成式人工智能服務(wù)管理暫行辦法《辦法》立足于促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，在總則中明確了國家堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，并在技術(shù)發(fā)展與治理一章中提出了一系列鼓勵(lì)措施。一、促進(jìn)發(fā)展，鼓勵(lì)生成式人工智能研發(fā)創(chuàng)新推動生成式人工智能精細(xì)化鼓勵(lì)創(chuàng)新應(yīng)用。生成式人工智能應(yīng)用場景豐富，可以與各行業(yè)深度結(jié)合，助力實(shí)現(xiàn)各行業(yè)智能化變革?！掇k法》明確提出鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，有助于生成式人工智能賦能千行百業(yè)。鼓勵(lì)多方協(xié)作。生成式人工智能在技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面涉及多方主體，為此，《辦法》鼓勵(lì)行業(yè)組織、企業(yè)以及各個(gè)相關(guān)機(jī)構(gòu)之間開展協(xié)作。鼓勵(lì)自主創(chuàng)新與國際合作。生成式人工智能尚處于發(fā)展階段，而我國在生成式人工智能相關(guān)算法、芯片等技術(shù)研發(fā)方面起步相對較晚?！掇k法》一方面鼓勵(lì)生成式人工智能相關(guān)基礎(chǔ)技術(shù)的自主創(chuàng)新，另一方面鼓勵(lì)平等互利開展國際交流與合作，從而促進(jìn)我國人工智能技術(shù)發(fā)展。四是鼓勵(lì)資源共享。算力是支撐數(shù)字經(jīng)濟(jì)蓬勃發(fā)展的重要“底座”，數(shù)據(jù)是生成式人工智能的重要資源。為此，《辦法》提出推動生成式人工智能基礎(chǔ)設(shè)施和公共訓(xùn)練數(shù)據(jù)資源平臺建設(shè)的措施，促進(jìn)算力資源協(xié)同共享，提升算力資源利用效能。以ChatGPT為代表的生成式人工智能在社會變革中的具有重要作用，但其可能存在的數(shù)據(jù)違法收集、知識產(chǎn)權(quán)侵權(quán)、生成虛假信息等問題同樣不容忽視。《辦法》積極回應(yīng)生成式人工智能帶來的社會問題，明確提供和使用生成式人工智能服務(wù)的法律底線。劃定底線，推動生成式人工智能向上向善不得生成違法內(nèi)容。《辦法》落實(shí)《網(wǎng)絡(luò)安全法》等法律的規(guī)定，強(qiáng)調(diào)提供和使用生成式人工智能服務(wù)應(yīng)當(dāng)堅(jiān)持社會主義核心價(jià)值觀，不得生成法律、行政法規(guī)禁止的內(nèi)容。防止歧視。訓(xùn)練數(shù)據(jù)本身存在歧視內(nèi)容、算法更傾向于某些特征值、標(biāo)注人員的主觀判斷等因素可能導(dǎo)致歧視問題，給社會帶來不良后果，如邊緣化弱勢人群或者煽動仇恨與暴力。為減少歧視現(xiàn)象發(fā)生，《辦法》要求在算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止歧視。尊重知識產(chǎn)權(quán)和他人合法權(quán)益。生成式人工智能在個(gè)人信息的處理過程中，可能存在違法收集、使用個(gè)人信息等風(fēng)險(xiǎn)；生成式人工智能的訓(xùn)練數(shù)據(jù)中如包括他人已發(fā)表并享有著作權(quán)的作品，也可能給知識產(chǎn)權(quán)造成侵害。為減少侵權(quán)事件的發(fā)生，《辦法》強(qiáng)調(diào)尊重知識產(chǎn)權(quán)、商業(yè)道德；尊重他人合法權(quán)益，不得危害他人身心健康，不得侵害他人肖像權(quán)、名譽(yù)權(quán)、榮譽(yù)權(quán)、隱私權(quán)和個(gè)人信息權(quán)益。提高生成內(nèi)容準(zhǔn)確性和可靠性。自生成式人工智能面世之初，其存在的“一本正經(jīng)地胡說八道”現(xiàn)象便引起了人們的警惕。這種虛假信息的產(chǎn)生很可能會誤導(dǎo)用戶，加劇社會對共享信息的不信任。如何保障生成內(nèi)容的真實(shí)性，既是產(chǎn)業(yè)界為進(jìn)一步擴(kuò)大生成式人工智能商用范圍需要克服的技術(shù)難題，也是監(jiān)管部門需要重點(diǎn)考量的問題?！掇k法》要求生成式人工智能服務(wù)提供者（以下簡稱“提供者”）基于服務(wù)類型特點(diǎn)，采取有效措施，提升生成式人工智能服務(wù)的透明度，提高生成內(nèi)容的準(zhǔn)確性和可靠性。這一要求充分體現(xiàn)了發(fā)展與安全并重的原則，符合生成式人工智能的技術(shù)原理與產(chǎn)業(yè)需要。三、細(xì)化責(zé)任，構(gòu)建生成式人工智能治理體系生成式人工智能從研發(fā)到落地需要經(jīng)歷多個(gè)環(huán)節(jié)，包括訓(xùn)練數(shù)據(jù)處理、數(shù)據(jù)標(biāo)注、提供服務(wù)等。清晰界定不同環(huán)節(jié)的要求更有利于降低生成式人工智能的安全風(fēng)險(xiǎn)，增強(qiáng)制度的可落地性?！掇k法》明確提供者的義務(wù)與責(zé)任，提供者是利用生成式人工智能技術(shù)提供生成式人工智能服務(wù)的組織、個(gè)人，包括通過提供可編程接口等方式提供生成式人工智能服務(wù)的組織、個(gè)人。在訓(xùn)練數(shù)據(jù)處理環(huán)節(jié)提供者應(yīng)當(dāng)使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，并采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性。在數(shù)據(jù)標(biāo)注環(huán)節(jié)提供者應(yīng)當(dāng)制定標(biāo)注規(guī)則，開展數(shù)據(jù)標(biāo)注質(zhì)量評估，并對標(biāo)注人員進(jìn)行培訓(xùn)。在提供服務(wù)環(huán)節(jié)提供者應(yīng)依法承擔(dān)網(wǎng)絡(luò)信息內(nèi)容生產(chǎn)者責(zé)任，按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對圖片、視頻等生成內(nèi)容進(jìn)行標(biāo)識；發(fā)現(xiàn)違法內(nèi)容的，應(yīng)當(dāng)及時(shí)采取處置措施、進(jìn)行整改并向有關(guān)主管部門報(bào)告；應(yīng)依法承擔(dān)個(gè)人信息處理者責(zé)任，對生成式人工智能服務(wù)使用者的輸入信息和使用記錄依法履行保護(hù)義務(wù)，及時(shí)受理和處理個(gè)人關(guān)于查閱、復(fù)制、更正、補(bǔ)充、刪除其個(gè)人信息等的請求；應(yīng)履行用戶管理義務(wù)，明確并公開服務(wù)適用情況，指導(dǎo)使用者科學(xué)理性認(rèn)識和依法使用技術(shù)，采取未成年人防沉迷措施，依法處置從事違法活動的使用者，建立健全投訴、舉報(bào)機(jī)制；應(yīng)提供安全、穩(wěn)定、持續(xù)的服務(wù)。人工智能算法具有“黑箱”特性，表現(xiàn)為行為不可控、決策機(jī)制難以解釋，給人工智能監(jiān)管帶來了一定困難。為此，《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》等規(guī)范已經(jīng)明確了算法備案、安全評估等監(jiān)管手段，提高算法的透明度與可問責(zé)性?！掇k法》與現(xiàn)有規(guī)范一脈相承，延續(xù)了此前監(jiān)管手段，同時(shí)明確了分類分級監(jiān)管的原則，健全了我國人工智能治理體系。強(qiáng)化披露，明確生成式人工智能監(jiān)管手段01明確了安全評估與算法備案要求。為有效應(yīng)對算法“黑箱”問題，《辦法》對提供具有輿論屬性或者社會動員能力的生成式人工智能服務(wù)的，提出了安全評估與算法備案要求。02明確了信息披露要求?！掇k法》明確了提供者應(yīng)配合主管部門的監(jiān)督檢查，按要求對訓(xùn)練數(shù)據(jù)來源、規(guī)模、類型、標(biāo)注規(guī)則、算法機(jī)制機(jī)理等予以說明。PART.04適應(yīng)生成式人工智能特點(diǎn)，營造安全有序法治環(huán)境這一舉措旨在提供對該法規(guī)的全面解析，包括其中的條款、要求和規(guī)定。通過學(xué)習(xí)和解讀該暫行辦法，相關(guān)機(jī)構(gòu)、組織和個(gè)人可以更好地了解和遵守相關(guān)法規(guī)，確保生成式人工智能服務(wù)的合規(guī)運(yùn)營，同時(shí)促進(jìn)人工智能技術(shù)的可持續(xù)發(fā)展和應(yīng)用。學(xué)習(xí)解讀生成式人工智能服務(wù)管理暫行辦法契合新技術(shù)新特性，有針對性地進(jìn)行制度設(shè)計(jì)與《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》相比，《辦法》更加關(guān)注生成式人工智能技術(shù)本身，主要與生成式人工智能技術(shù)自身特性有關(guān)：01生成式人工智能應(yīng)用場景具有通用性。傳統(tǒng)算法應(yīng)用的處理模式與應(yīng)用場景相對固定，有較為明確的服務(wù)邊界，但生成式人工智能應(yīng)用場景更為豐富，如ChatGPT產(chǎn)品幾乎可以處理自然語言領(lǐng)域的所有任務(wù)，如果延續(xù)針對固定用途信息服務(wù)的管理思路，將難以充分切合實(shí)際監(jiān)管需求。02生成式人工智能具有價(jià)值觀屬性。生成式人工智能模型經(jīng)過訓(xùn)練后，對一些概念具備了較為穩(wěn)定的“認(rèn)知”，圍繞相關(guān)概念的生成內(nèi)容往往表現(xiàn)出驚人的一致性。一旦模型在訓(xùn)練過程中引入偏見歧視等有害信息，在模型實(shí)際應(yīng)用中很可能呈現(xiàn)放大化輸出。03生成式人工智能具備可引導(dǎo)性。生成式人工智能模型在原有的人工智能“預(yù)訓(xùn)練—微調(diào)”范式上，增加了“對齊”的訓(xùn)練環(huán)節(jié)。在提升模型能力方面，通過在生成式人工智能模型訓(xùn)練過程中調(diào)整模型輸出概率分布不斷趨近人類偏好，但同時(shí)也存在被不法分子惡意利用的風(fēng)險(xiǎn)。契合新技術(shù)新特性，有針對性地進(jìn)行制度設(shè)計(jì)《辦法》充分結(jié)合生成式人工智能特性，提出相應(yīng)管理要求：01在生成內(nèi)容上，《辦法》要求利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)“堅(jiān)持社會主義核心價(jià)值觀，不得生成煽動顛覆國家政權(quán)、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統(tǒng)一和社會穩(wěn)定，宣揚(yáng)恐怖主義、極端主義，宣揚(yáng)民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規(guī)禁止的內(nèi)容”。02在算法設(shè)計(jì)等過程上，《辦法》要求提供者在“算法設(shè)計(jì)、訓(xùn)練數(shù)據(jù)選擇、模型生成和優(yōu)化、提供服務(wù)等過程中，采取有效措施防止出現(xiàn)民族、信仰、國別、地域、性別、年齡、職業(yè)、健康等歧視”，以及對尊重知識產(chǎn)權(quán)、商業(yè)道德和他人合法權(quán)益等方面提出了保護(hù)原則。從這些要求看，《辦法》基本涵蓋了生成式人工智能服務(wù)在應(yīng)用過程中可能暴露出來的安全及倫理問題。03在監(jiān)管方式上，除了安全評估、算法備案、標(biāo)識等制度外，還提出國家有關(guān)主管部門針對生成式人工智能技術(shù)特點(diǎn)及其在有關(guān)行業(yè)和領(lǐng)域的服務(wù)應(yīng)用，完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，制定相應(yīng)的分類分級監(jiān)管規(guī)則或者指引。聚焦關(guān)鍵環(huán)節(jié)，高度重視性能與安全的平衡《辦法》在技術(shù)監(jiān)管方面更為聚焦和深入，以生成式人工智能模型訓(xùn)練生產(chǎn)中的“對齊”這一關(guān)鍵技術(shù)環(huán)節(jié)為例，在傳統(tǒng)人工智能模型“預(yù)訓(xùn)練—微調(diào)”生成范式中，預(yù)訓(xùn)練環(huán)節(jié)是利用海量無標(biāo)注數(shù)據(jù)讓模型學(xué)習(xí)豐富的知識信息，形成模型的底層知識來源。微調(diào)階段是根據(jù)應(yīng)用領(lǐng)域，通過針對性定制的標(biāo)注數(shù)據(jù)集，引導(dǎo)模型形成回答問題的思路。當(dāng)前，生成式人工智能模型在原有訓(xùn)練范式基礎(chǔ)上，應(yīng)用人工智能模型“對齊”技術(shù)，能夠幫助生成式人工智能與人類偏好保持對齊并遵循人類意圖，實(shí)現(xiàn)模型輸出內(nèi)容符合“有幫助的”、“誠實(shí)的”和“無害的”準(zhǔn)則。在追求生成式人工智能的性能與安全的平衡方面，“對齊”技術(shù)的適當(dāng)使用將發(fā)揮關(guān)鍵作用。聚焦關(guān)鍵環(huán)節(jié)，高度重視性能與安全的平衡《辦法》圍繞相關(guān)關(guān)鍵技術(shù)環(huán)節(jié)提出多項(xiàng)條款：01明確了模型訓(xùn)練及優(yōu)化的安全性要求，要求模型訓(xùn)練要使用具有合法來源的數(shù)據(jù)和基礎(chǔ)模型，明確“涉及知識產(chǎn)權(quán)的，不得侵害他人依法享有的知識產(chǎn)權(quán)”“涉及個(gè)人信息的，應(yīng)當(dāng)取得個(gè)人同意或者符合法律、行政法規(guī)規(guī)定的其他情形”及采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量等，在提升訓(xùn)練數(shù)據(jù)質(zhì)量等生成式人工智能模型重要基礎(chǔ)方面作出了詳細(xì)監(jiān)管說明。02明確在數(shù)據(jù)標(biāo)注過程中，應(yīng)制定清晰、具體、可操作的標(biāo)注規(guī)則，以及開展數(shù)據(jù)標(biāo)注質(zhì)量評估、抽樣核驗(yàn)標(biāo)注內(nèi)容的準(zhǔn)確性等要求，在提供符合“對齊”要求的高質(zhì)量數(shù)據(jù)方面也提出明確要求。三是在模型輸出信息出現(xiàn)違法內(nèi)容時(shí)，要求提供者采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，體現(xiàn)了《辦法》與生成式人工智能技術(shù)特點(diǎn)及關(guān)鍵環(huán)節(jié)的高度適應(yīng)。強(qiáng)調(diào)促進(jìn)創(chuàng)新與規(guī)范引導(dǎo)并重，有力推動生成式人工智能技術(shù)健康發(fā)展辦法》的制定和出臺，是我國推進(jìn)生成式人工智能服務(wù)領(lǐng)域治理、促進(jìn)產(chǎn)業(yè)規(guī)范健康發(fā)展、引導(dǎo)技術(shù)向善的重要舉措?！掇k法》第三條指出，生成式人工智能服務(wù)，堅(jiān)持發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則；01明確鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，支持行業(yè)組織、企業(yè)、教育和科研機(jī)構(gòu)、公共文化機(jī)構(gòu)、有關(guān)專業(yè)機(jī)構(gòu)在生成式人工智能多個(gè)方面開展協(xié)作；02提出鼓勵(lì)生成式人工智能算法、框架、芯片及配套軟件平臺等基礎(chǔ)技術(shù)的自主創(chuàng)新及平等互利開展國際交流與合作，參與生成式人工智能相關(guān)國際規(guī)則制定。以上內(nèi)容均體現(xiàn)出我國高度重視生成式人工智能健康發(fā)展，科學(xué)合理規(guī)范引導(dǎo)生成式人工智能應(yīng)用的管理原則。PART.05堅(jiān)持多方共治，為生成式人工智能發(fā)展提供制度保障這一舉措旨在提供對該法規(guī)的全面解析，包括其中的條款、要求和規(guī)定。通過學(xué)習(xí)和解讀該暫行辦法，相關(guān)機(jī)構(gòu)、組織和個(gè)人可以更好地了解和遵守相關(guān)法規(guī)，確保生成式人工智能服務(wù)的合規(guī)運(yùn)營，同時(shí)促進(jìn)人工智能技術(shù)的可持續(xù)發(fā)展和應(yīng)用。學(xué)習(xí)解讀生成式人工智能服務(wù)管理暫行辦法生成式人工智能服務(wù)已成為用戶在網(wǎng)絡(luò)獲取知識的重要途徑之一，服務(wù)所提供的內(nèi)容將直接影響用戶對事物的認(rèn)知，《辦法》明確堅(jiān)持社會主義核心價(jià)值觀，要求服務(wù)提供者不得生成違法信息，并明確提出防歧視等要求。生成式人工智能服務(wù)所產(chǎn)生內(nèi)容的質(zhì)量高低、安全與否主要取決于訓(xùn)練數(shù)據(jù)，《辦法》要求服務(wù)提供者采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性，并指導(dǎo)服務(wù)提供者做好數(shù)據(jù)處理、數(shù)據(jù)標(biāo)注等方面的安全管理工作。（一）聚焦生成內(nèi)容安全，引導(dǎo)服務(wù)向上向善《辦法》明確生成式人工智能服務(wù)安全要求生成式人工智能服務(wù)帶來新的安全問題、安全風(fēng)險(xiǎn)，為保護(hù)用戶權(quán)益，服務(wù)的過程和形式需要正確的引導(dǎo)，《辦法》提出服務(wù)提供者需明確并公開服務(wù)的適用人群、場合、用途，防范未成年人用戶過度依賴或者沉迷。生成式人工智能服務(wù)因其技術(shù)特點(diǎn)，易涉及用戶敏感數(shù)據(jù)，需進(jìn)行重點(diǎn)保護(hù)，《辦法》圍繞商業(yè)秘密、用戶個(gè)人信息保護(hù)提出要求，并明確了服務(wù)提供者對用戶輸入信息和使用記錄的保護(hù)義務(wù)，為用戶安全使用服務(wù)提供保障。（二）聚焦用戶權(quán)益保護(hù)，保障服務(wù)合法合規(guī)生成式人工智能服務(wù)涉及的用戶數(shù)量多、業(yè)務(wù)跨度大，用戶的服務(wù)使用情況需受到合理監(jiān)督，《辦法》明確了服務(wù)提供者發(fā)現(xiàn)使用者利用生成式人工智能服務(wù)從事違法活動的，應(yīng)當(dāng)依法依約采取警示、限制功能、暫?；蛘呓K止向其提供服務(wù)等處置措施，保存有關(guān)記錄，并向有關(guān)主管部門報(bào)告。生成式人工智能服務(wù)產(chǎn)生的內(nèi)容逼真度高、迷惑性強(qiáng)，極易誤導(dǎo)用戶，《辦法》提出針對圖片、視頻等生成內(nèi)容進(jìn)行明顯標(biāo)識的要求，防止用戶誤用生成內(nèi)容。（三）聚焦使用模式管理，防范服務(wù)濫用誤用《辦法》引導(dǎo)構(gòu)建生成式人工智能安全治理環(huán)境01當(dāng)前，我國生成式人工智能處于關(guān)鍵發(fā)展時(shí)期，需以安全保發(fā)展、以發(fā)展促安全，推動生成式人工智能穩(wěn)步快速發(fā)展。《辦法》一是進(jìn)一步明確了發(fā)展和安全并重、促進(jìn)創(chuàng)新和依法治理相結(jié)合的原則，對生成式人工智能實(shí)行包容審慎的監(jiān)管；02鼓勵(lì)生成式人工智能在各行業(yè)領(lǐng)域創(chuàng)新應(yīng)用，探索優(yōu)化應(yīng)用場景，支持專業(yè)機(jī)構(gòu)在技術(shù)創(chuàng)新、數(shù)據(jù)資源建設(shè)、轉(zhuǎn)化應(yīng)用、風(fēng)險(xiǎn)防范等方面開展跨行業(yè)領(lǐng)域協(xié)作，構(gòu)建應(yīng)用生態(tài)體系；03鼓勵(lì)算法、框架、芯片、配套軟件等基礎(chǔ)技術(shù)自主創(chuàng)新，推動全產(chǎn)業(yè)鏈持續(xù)發(fā)展。一）鼓勵(lì)創(chuàng)新應(yīng)用，統(tǒng)籌發(fā)展和安全生成式人工智能服務(wù)產(chǎn)業(yè)鏈條正在逐步形成，需要進(jìn)一步強(qiáng)化主體責(zé)任，促進(jìn)各環(huán)節(jié)安全水平提升?！掇k法》引導(dǎo)構(gòu)建生成式人工智能安全治理環(huán)境三）推動標(biāo)準(zhǔn)工作，支撐《辦法》細(xì)化落地與《辦法》相關(guān)工作同步，配套支撐《辦法》