77.生成式人工智能分類分級應(yīng)用指南

生成式人工智能分類分級應(yīng)用指南標(biāo)準(zhǔn)名稱：生成式人工智能分類分級應(yīng)用指南二、項目提出單位：上海市經(jīng)濟和信息化委員會起草單位：上海計算機軟件技術(shù)開發(fā)中心、騰訊科技（上海）有限公司、上海市人工智能行業(yè)協(xié)會、上海人工智能創(chuàng)新中心(上海人工智能實驗室)、信通院華東分院、上海交通大學(xué)、上海人工智能研究院有限公司、華東師范大學(xué)等。四、立項理由：中央網(wǎng)信辦聯(lián)合七部委2023年7月10日發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，明確提出對生成式人工智能服務(wù)實行包容審慎和分類分級監(jiān)管。當(dāng)前，生成式人工智能在社會生產(chǎn)和生活的方方面面開始發(fā)揮重要的作用，但存在著諸如虛假內(nèi)容傳播、侵犯隱私等倫理、安全方面的風(fēng)險。目前政府、社會、相關(guān)企業(yè)對規(guī)范AIGC技術(shù)應(yīng)用的重要性和必要性已達成基本共識。國內(nèi)外還沒有生成式人工智能分類分級相關(guān)的標(biāo)準(zhǔn)。國際標(biāo)準(zhǔn)方面，目前沒有專門針對生成式人工智能相關(guān)的標(biāo)準(zhǔn)，只有一些相關(guān)的技術(shù)報告。國內(nèi)標(biāo)準(zhǔn)方面，目前生成式人工智能相關(guān)的標(biāo)準(zhǔn)研制也剛剛起步，主要集中在深度合成相關(guān)的標(biāo)準(zhǔn)方面。因此，制定生成式人工智能分類分級應(yīng)用指南，提出AIGC應(yīng)用的“上海方案”，有利于AIGC技術(shù)更加安全可信的應(yīng)用于社會的各項生產(chǎn)活動中，指導(dǎo)人工智能企業(yè)構(gòu)建AIGC系統(tǒng)的實施與自我評估，加強前瞻預(yù)防與約束引導(dǎo)，降低AIGC應(yīng)用風(fēng)險。指導(dǎo)第三方測評機構(gòu)通過標(biāo)準(zhǔn)對AIGC系統(tǒng)的應(yīng)用風(fēng)險進行評估，為政府對AIGC系統(tǒng)應(yīng)用的監(jiān)管提供規(guī)范。五、主要內(nèi)容：該標(biāo)準(zhǔn)規(guī)定了生成式人工智能分類分級應(yīng)用的基本原則、生成式人工智能分類方法、分級分類應(yīng)用要求及評估方法。生成式人工智能分類分級的基本原則包括：合理性原則、安全性原則、良性發(fā)展原則、權(quán)責(zé)一致原則、未成年人保護原則。生成式人工智能分類按照常見應(yīng)用場景分類：按照內(nèi)容模態(tài)、內(nèi)容細分、應(yīng)用領(lǐng)域進行了三級劃分；內(nèi)容模態(tài)分為文本、音頻、圖像、3D模型四大類，內(nèi)容細分是在內(nèi)容模態(tài)之下對于內(nèi)容類型的進一步詳細分類，應(yīng)用領(lǐng)域是各內(nèi)容細分依照行業(yè)進行進一步劃分。生成式人工智能風(fēng)險等級考慮：應(yīng)用目的風(fēng)險、內(nèi)容侵權(quán)風(fēng)險、數(shù)據(jù)泄漏風(fēng)險、內(nèi)容越界風(fēng)險、覆蓋廣度風(fēng)險、管理水平風(fēng)險、網(wǎng)絡(luò)環(huán)境風(fēng)險等要素，從低到高劃分為低風(fēng)險、中低風(fēng)險、中風(fēng)險、中高風(fēng)險、高風(fēng)險五個風(fēng)險等級。該標(biāo)準(zhǔn)進一步明確了生成式人工智能分級分類的應(yīng)用要求和評估方法，按照公平性、透明性、嚴(yán)謹(jǐn)性的評估原則和特定的評估流程對AIGC的風(fēng)險等級進行評估。六、適用范圍標(biāo)準(zhǔn)適用于上海市企業(yè)內(nèi)部在研發(fā)生成式人工智能系統(tǒng)時對風(fēng)險進行自我評估，以及第三方機構(gòu)對企業(yè)生成式人工智能系統(tǒng)的風(fēng)險進行評價。適用的產(chǎn)品