信息安全技術(shù) 生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全規(guī)范-標(biāo)準(zhǔn)文本

中華人民共和國(guó)國(guó)家標(biāo)準(zhǔn)Cybersecuritytechnology——Securityspecificationforgenerativeintelligencepre-trainingandfine-t在提交反饋意見時(shí)，請(qǐng)將您知道的相關(guān)專利連同支持性文件一并附上。I III 1 1 1 24.1安全風(fēng)險(xiǎn) 24.2安全框架 2 2 36.1數(shù)據(jù)收集 36.2數(shù)據(jù)預(yù)處理 36.3數(shù)據(jù)使用 3 47.1數(shù)據(jù)收集 47.2數(shù)據(jù)預(yù)處理 47.3數(shù)據(jù)使用 4 48.1通用安全評(píng)價(jià)方法 4 5 5 5 6 6 6 6 7 8A.1包含違反社會(huì)主義核心價(jià)值觀的內(nèi)容 8A.2包含歧視性內(nèi)容 8A.3商業(yè)違法違規(guī) 8A.4侵犯他人合法權(quán)益 8 10 10 10 11本文件由全國(guó)網(wǎng)絡(luò)安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)（SAC/TC260）提本文件起草單位名單根據(jù)實(shí)際情況決定）：（1網(wǎng)絡(luò)安全技術(shù)生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全規(guī)范本文件規(guī)定了生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)及其處理活動(dòng)的安全要求，描述了對(duì)應(yīng)的評(píng)本文件適用于指導(dǎo)生成式人工智能服務(wù)提供者開展預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)處理活動(dòng)以及開展與訓(xùn)GB/TAAAAA網(wǎng)絡(luò)安全技術(shù)生成式人工智能數(shù)據(jù)安全標(biāo)注3.1生成式人工智能generativeartificialintelligence3.2具有文本、圖片、音頻、視頻等內(nèi)容生成能力的人工智能系統(tǒng)。生成式人工智能服務(wù)generativeartificialintelligence3.33.4服務(wù)使用者serviceuser3.623.7預(yù)訓(xùn)練數(shù)據(jù)pre-trainingdata3.8所有用于生成式人工智能預(yù)訓(xùn)練4概述生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的安全性涉及數(shù)據(jù)自身的安全性以及生成式人工智能服務(wù)4.2安全框架生成式人工智能預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)安全框架包括數(shù)據(jù)通用安全以及數(shù)據(jù)處理活動(dòng)安全。數(shù)據(jù)括數(shù)據(jù)收集、數(shù)據(jù)預(yù)處理、數(shù)據(jù)使用等活動(dòng)數(shù)據(jù)收集數(shù)據(jù)預(yù)處理數(shù)據(jù)收集數(shù)據(jù)預(yù)處理數(shù)據(jù)使用安全監(jiān)測(cè)分類分級(jí)應(yīng)急響應(yīng)安全監(jiān)測(cè)分類分級(jí)應(yīng)急響應(yīng)安全防護(hù)審計(jì)追溯b)應(yīng)采取技術(shù)措施對(duì)預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)進(jìn)行安全監(jiān)測(cè)，發(fā)現(xiàn)數(shù)據(jù)安全缺陷、漏洞3e)應(yīng)對(duì)預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的數(shù)據(jù)收集、數(shù)據(jù)預(yù)處理、數(shù)據(jù)使用等的數(shù)據(jù)處理活動(dòng)進(jìn)行記錄，6.1數(shù)據(jù)收集c)通過互聯(lián)網(wǎng)網(wǎng)站收集數(shù)據(jù)時(shí)，應(yīng)記錄所收集數(shù)據(jù)或數(shù)據(jù)所在網(wǎng)頁(yè)的6.2數(shù)據(jù)預(yù)處理6.3數(shù)據(jù)使用b)使用包含敏感個(gè)人信息的數(shù)據(jù)前，應(yīng)取得對(duì)應(yīng)個(gè)人單獨(dú)同意或符合法律、行政法規(guī)d)應(yīng)采取措施降低生成式人工智能被誘導(dǎo)生成安全風(fēng)險(xiǎn)內(nèi)容的可能性47.2數(shù)據(jù)預(yù)處理b)生成式人工智能生成內(nèi)容構(gòu)成的數(shù)據(jù)樣本，應(yīng)添加所使用生成式人工智能模型或服務(wù)的版本、c)優(yōu)化訓(xùn)練數(shù)據(jù)的數(shù)據(jù)標(biāo)注活動(dòng)應(yīng)符合GB/TAA7.3數(shù)據(jù)使用1)檢查服務(wù)提供者對(duì)預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的操作過3)檢查服務(wù)提供者預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的安全防護(hù)技術(shù)措施；5)檢查服務(wù)提供者是否具有記錄預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)的數(shù)據(jù)收集及準(zhǔn)備階段處理活動(dòng)的1)服務(wù)提供者對(duì)預(yù)訓(xùn)練和優(yōu)化訓(xùn)練數(shù)據(jù)進(jìn)行了分58.2預(yù)訓(xùn)練數(shù)據(jù)處理活動(dòng)評(píng)價(jià)方法2)檢查服務(wù)提供者數(shù)據(jù)來源記錄中同類型數(shù)據(jù)所使用數(shù)據(jù)來源的數(shù)量；4)檢查服務(wù)提供者是否通過交易或合作等方式從其他組織或個(gè)人收集數(shù)據(jù)；抽樣檢查服務(wù)2)服務(wù)提供者同種類型數(shù)據(jù)的具有多個(gè)來源數(shù)量；3)服務(wù)提供者未從互聯(lián)網(wǎng)網(wǎng)站收集預(yù)訓(xùn)練數(shù)據(jù)預(yù)處理安全要求的評(píng)價(jià)方法、預(yù)期結(jié)果和結(jié)果2)隨機(jī)抽樣服務(wù)提供者預(yù)處理1)抽樣樣本全部具有元數(shù)據(jù)內(nèi)容；樣本涉及其他組織或個(gè)人數(shù)據(jù)集來源的，具有數(shù)據(jù)集名2)抽樣樣本全部具有安全風(fēng)險(xiǎn)內(nèi)容情況記錄；61)檢查服務(wù)提供者是否使用包含個(gè)人3)抽樣樣本不涉及知識(shí)產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)，或抽樣樣本無知識(shí)產(chǎn)權(quán)風(fēng)險(xiǎn)并與知識(shí)產(chǎn)權(quán)侵權(quán)風(fēng)險(xiǎn)4)人工抽檢的抽樣數(shù)據(jù)樣本中不含安技術(shù)抽檢的抽樣數(shù)據(jù)樣本中不含安全風(fēng)險(xiǎn)內(nèi)容樣本數(shù)量占總抽樣數(shù)量的比值不低于988.3優(yōu)化訓(xùn)練數(shù)據(jù)處理活動(dòng)評(píng)價(jià)方法優(yōu)化訓(xùn)練數(shù)據(jù)收集安全要求的評(píng)價(jià)方法、預(yù)期結(jié)果和結(jié)果判定如1)按照8.2.1a)規(guī)定的評(píng)價(jià)方法評(píng)2)檢查服務(wù)提供者是否收集生成式人工智能的生成內(nèi)容；檢查服務(wù)提供者收集的生成式人工智能生成內(nèi)容是否具有所使用生成式人工智能模型或服務(wù)的版本、獲取時(shí)間等信息記2)服務(wù)提供者沒有收集生成式人工智能的生成內(nèi)容，或具有所使用生成式人工智能模型或1)按照8.2.2a)規(guī)定的評(píng)價(jià)方法評(píng)價(jià)服73)檢查優(yōu)化訓(xùn)練的標(biāo)注數(shù)據(jù)是否符合GB/TAAAAA的安全2)抽樣樣本涉及生成式人工智能生成內(nèi)容的，樣本的元數(shù)據(jù)內(nèi)容包括生成式人工智能模型3)優(yōu)化訓(xùn)練標(biāo)注數(shù)據(jù)符合GB/TAAAAA的安4)抽樣樣本為生成式人工智能生成內(nèi)容的，具有生成式人工智能生成數(shù)據(jù)的安全風(fēng)險(xiǎn)內(nèi)容優(yōu)化訓(xùn)練數(shù)據(jù)使用安全要求的評(píng)價(jià)方法、預(yù)期結(jié)果和結(jié)果判定如1)按照8.2.3a)規(guī)定的評(píng)價(jià)方法評(píng)價(jià)2)采用人工抽檢方式從全部數(shù)據(jù)中隨機(jī)抽取不少于4000個(gè)樣本，核查服務(wù)提供者使用數(shù)據(jù)8A.1包含違反社會(huì)主義核心價(jià)值觀的內(nèi)容b）危害國(guó)家安全和利益、損