2024APP算法用戶權(quán)益保護(hù)技術(shù)要求及測(cè)評(píng)規(guī)范

APPAPP評(píng)規(guī)范目次前言 錯(cuò)誤目次前言 錯(cuò)誤!未定義書(shū)簽。1范圍 12規(guī)性用件 13術(shù)和14縮語(yǔ) 錯(cuò)誤!未定義書(shū)簽?！阑瓌t 16個(gè)信保要求 2F推算技安要求 2F.1全標(biāo)述 2F.2法型全 2F.3法全控 3F.4法用全 38用主權(quán)保要求 ±8.1般戶體益護(hù) ±8.2殊體益護(hù) 69推算安管要求 69.1全營(yíng) 62全估 F急置 F規(guī)責(zé) F10試法 F附錄A（料）常推薦法用 錯(cuò)誤!未定義書(shū)簽。參考獻(xiàn) 錯(cuò)誤!未定義書(shū)簽。IAPP1 范圍本文件規(guī)定了App推薦算法在用戶權(quán)益保護(hù)方面應(yīng)滿足的基本原則、個(gè)人信息保護(hù)要求、推薦算法技術(shù)安全要求、用戶主體權(quán)益保護(hù)要求、推薦算法安全管理要求及測(cè)評(píng)方法。本文件適用于App推薦算法服務(wù)提供者規(guī)范其個(gè)人信息處理活動(dòng)、算法建模及使用行為，也適用于監(jiān)管部門(mén)、第三方評(píng)估機(jī)構(gòu)等組織對(duì)App推薦算法服務(wù)進(jìn)行監(jiān)督、管理和評(píng)估。2 （APP1 范圍本文件規(guī)定了App推薦算法在用戶權(quán)益保護(hù)方面應(yīng)滿足的基本原則、個(gè)人信息保護(hù)要求、推薦算法技術(shù)安全要求、用戶主體權(quán)益保護(hù)要求、推薦算法安全管理要求及測(cè)評(píng)方法。本文件適用于App推薦算法服務(wù)提供者規(guī)范其個(gè)人信息處理活動(dòng)、算法建模及使用行為，也適用于監(jiān)管部門(mén)、第三方評(píng)估機(jī)構(gòu)等組織對(duì)App推薦算法服務(wù)進(jìn)行監(jiān)督、管理和評(píng)估。2 （GB/T3±2F3–2020信息安全技術(shù)個(gè)人信息安全規(guī)范3 GB/T3±2F3－2020界定的以及下列術(shù)語(yǔ)和定義適用于本文件。3.1 re×ommendationalgorithm注：常見(jiàn)的推薦算法應(yīng)用見(jiàn)附錄A。3.2 個(gè)性化推送per?onali?edpu?h于推薦、列表頁(yè)面、彈窗等。3.3 u?ertag通過(guò)高度概括、容易理解的特征來(lái)描述用戶在進(jìn)行信息服務(wù)交互過(guò)程中形成的標(biāo)識(shí)。4 縮略語(yǔ)下列縮略語(yǔ)適用于本文件。AP移應(yīng)軟（WoleApligtio‘ 1App推薦算法服務(wù)提供者應(yīng)滿足以下原則。a)公平公正：利用個(gè)人信息進(jìn)行推薦算法服務(wù)的結(jié)果公平、公正，不得實(shí)行不合理的差別待遇。不得利用推薦算法服務(wù)開(kāi)展不正當(dāng)競(jìng)爭(zhēng)；策規(guī)則。b)g)d)6 AppGB/T3±2F3App推薦算法服務(wù)提供者應(yīng)滿足以下原則。a)公平公正：利用個(gè)人信息進(jìn)行推薦算法服務(wù)的結(jié)果公平、公正，不得實(shí)行不合理的差別待遇。不得利用推薦算法服務(wù)開(kāi)展不正當(dāng)競(jìng)爭(zhēng)；策規(guī)則。b)g)d)6 AppGB/T3±2F3除為達(dá)到個(gè)人信息主體授權(quán)同意的使用目的所必需外，使用個(gè)人信息時(shí)應(yīng)消除明確身份指向注：根據(jù)GB/T3±2F3，直接使用特定自然人的個(gè)人信息，形成該自然人的特征模型，稱為直接用戶畫(huà)像。使用來(lái)源于特定自然人以外的個(gè)人信息，如其所在群體的數(shù)據(jù)，形成該自然人的特征模型，稱為間接用戶畫(huà)像。g) 利用人息行薦法服事開(kāi)個(gè)信息護(hù)響估留相關(guān)不于3年），評(píng)估內(nèi)容包括但不限于：1)2)3)個(gè)人信息的處理目的、處理方式等是否合法、正當(dāng)、必要；對(duì)個(gè)人權(quán)益的影響及安全風(fēng)險(xiǎn)；所采取的保護(hù)措施是否合法、有效并與風(fēng)險(xiǎn)程度相適應(yīng)。7 7.1 法安全可控、算法應(yīng)用安全。7.2 7.2.1 App推薦算法服務(wù)提供者應(yīng)滿足以下要求：（）；1)2)宜對(duì)訓(xùn)練數(shù)據(jù)進(jìn)行預(yù)處理，包括數(shù)據(jù)清洗、數(shù)據(jù)脫敏、數(shù)據(jù)標(biāo)注等；的多樣性和公平性。3)27.2.2 App推薦算法服務(wù)提供者應(yīng)滿足以下要求：a)b)用戶標(biāo)簽涉及指向特定個(gè)人的敏感個(gè)人信息的，應(yīng)建立個(gè)人信息的脫敏處理機(jī)制；用戶標(biāo)簽不應(yīng)包含淫穢、色情、賭博、迷信、恐怖、暴力的內(nèi)容或表達(dá)對(duì)民族、種族、宗教、殘疾、疾病歧視的內(nèi)容；應(yīng)建立用戶標(biāo)簽審核細(xì)則，不得將違法和不良信息關(guān)鍵詞作為用戶標(biāo)簽并據(jù)以推送信息。g)7.2.3模型應(yīng)用App推薦算法服務(wù)提供者應(yīng)滿足以下要求：a)b)宜采取加密、混淆等技術(shù)手段，提供對(duì)模型參數(shù)的安全保護(hù)手段；規(guī)或者違背倫理道德的算法模型。g)7.3 7.3.1 App推薦算法服務(wù)提供者提供網(wǎng)絡(luò)信息內(nèi)容服務(wù)的，應(yīng)滿足以下要求：a)7.2.2 App推薦算法服務(wù)提供者應(yīng)滿足以下要求：a)b)用戶標(biāo)簽涉及指向特定個(gè)人的敏感個(gè)人信息的，應(yīng)建立個(gè)人信息的脫敏處理機(jī)制；用戶標(biāo)簽不應(yīng)包含淫穢、色情、賭博、迷信、恐怖、暴力的內(nèi)容或表達(dá)對(duì)民族、種族、宗教、殘疾、疾病歧視的內(nèi)容；應(yīng)建立用戶標(biāo)簽審核細(xì)則，不得將違法和不良信息關(guān)鍵詞作為用戶標(biāo)簽并據(jù)以推送信息。g)7.2.3模型應(yīng)用App推薦算法服務(wù)提供者應(yīng)滿足以下要求：a)b)宜采取加密、混淆等技術(shù)手段，提供對(duì)模型參數(shù)的安全保護(hù)手段；規(guī)或者違背倫理道德的算法模型。g)7.3 7.3.1 App推薦算法服務(wù)提供者提供網(wǎng)絡(luò)信息內(nèi)容服務(wù)的，應(yīng)滿足以下要求：a)宜建立支撐審核人員高效審核的技術(shù)體系，包括審核平臺(tái)、判研知識(shí)庫(kù)、審核標(biāo)準(zhǔn)等；宜建立不良信息特征庫(kù)管理規(guī)范，包括入庫(kù)標(biāo)準(zhǔn)、出庫(kù)規(guī)則等。b)g)7.3.2干預(yù)控制App推薦算法服務(wù)提供者應(yīng)滿足以下要求：a)b)g)7.3.3風(fēng)險(xiǎn)監(jiān)測(cè)進(jìn)行監(jiān)測(cè)，并對(duì)結(jié)果進(jìn)行多維研判和精準(zhǔn)處置。7.3.4 App推薦算法服務(wù)提供者應(yīng)滿足以下要求：a)訓(xùn)練數(shù)據(jù)記錄應(yīng)包括訓(xùn)練數(shù)據(jù)獲取時(shí)間、數(shù)據(jù)來(lái)源、數(shù)據(jù)量統(tǒng)計(jì)等內(nèi)容；算法部署應(yīng)記錄部署操作者、時(shí)間及相關(guān)結(jié)果、部署過(guò)程腳本、軟硬件配置信息等內(nèi)容。b)g)7.4 7.4.1 37.4.1.1 App推薦算法服務(wù)提供者應(yīng)滿足以下要求：a)對(duì)個(gè)人有法律效力或其他重大影響力的算法服務(wù)及用戶畫(huà)像不得僅基于個(gè)人基因或健康數(shù)據(jù)等特定數(shù)據(jù)。b)7.4.1.2算法導(dǎo)向網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理行為。7.4.1.3 釋性，避免對(duì)用戶產(chǎn)生不良影響，預(yù)防和減少爭(zhēng)議糾紛。7.4.2 7.4.2.1 7.4.1.1 App推薦算法服務(wù)提供者應(yīng)滿足以下要求：a)對(duì)個(gè)人有法律效力或其他重大影響力的算法服務(wù)及用戶畫(huà)像不得僅基于個(gè)人基因或健康數(shù)據(jù)等特定數(shù)據(jù)。b)7.4.1.2算法導(dǎo)向網(wǎng)絡(luò)輿論或者規(guī)避監(jiān)督管理行為。7.4.1.3 釋性，避免對(duì)用戶產(chǎn)生不良影響，預(yù)防和減少爭(zhēng)議糾紛。7.4.2 7.4.2.1 App推薦算法服務(wù)提供者應(yīng)滿足以下要求：a)止出現(xiàn)“一處失信，處處受限”的情形。b)g)7.4.2.2勞動(dòng)雇傭提供企業(yè)崗位查詢與聯(lián)系等就業(yè)機(jī)會(huì)服務(wù)的App應(yīng)滿足以下要求：a)同實(shí)施人力資源管理所必需。b)7.4.2.3網(wǎng)絡(luò)交易App推薦算法服務(wù)提供者應(yīng)滿足以下要求：42)3)4)±)6)基于針對(duì)新用戶在合理期限內(nèi)開(kāi)展的優(yōu)惠活動(dòng)；其他正當(dāng)性行為。g) 宜充考用體，學(xué)規(guī)推頻，2)3)4)±)6)基于針對(duì)新用戶在合理期限內(nèi)開(kāi)展的優(yōu)惠活動(dòng)；其他正當(dāng)性行為。g) 宜充考用體，學(xué)規(guī)推頻，得意對(duì)同戶行別次推7.4.2.4 App推薦算法服務(wù)提供者提供網(wǎng)絡(luò)信息內(nèi)容服務(wù)的，應(yīng)滿足以下要求：a)宜根據(jù)正能量?jī)?nèi)容的類別設(shè)置不同的推薦策略，根據(jù)級(jí)別賦予不同的推薦權(quán)重；應(yīng)建立內(nèi)容過(guò)濾的標(biāo)簽體系和研判標(biāo)準(zhǔn)，對(duì)違法有害信息進(jìn)行有效過(guò)濾。b)g)8 8.1 8.1.1 知情權(quán)App推薦算法服務(wù)提供者應(yīng)滿足以下要求：a)本原理、目的意圖和主要運(yùn)行機(jī)制。b)8.1.2決定權(quán)App推薦算法服務(wù)提供者應(yīng)滿足以下要求：a)宜向用戶提供選擇或者刪除用于推薦算法服務(wù)服務(wù)的針對(duì)其個(gè)人特征的用戶標(biāo)簽的功能；個(gè)人有權(quán)拒絕個(gè)人信息處理者僅通過(guò)推薦算法服務(wù)的方式作出的對(duì)個(gè)人權(quán)益有重大影響的決定，但下列情形除外：b)g)1)2)3)推薦算法服務(wù)對(duì)于締結(jié)和履行合同是必要的；個(gè)人明確、單獨(dú)同意推薦算法服務(wù)的運(yùn)用；法律、行政法規(guī)規(guī)定的其他情形。8.1.3解釋權(quán)（、（注：情況下，可能導(dǎo)致對(duì)個(gè)人的排除或歧視”的決定，如自動(dòng)決定個(gè)人征信及貸款額度、面試人員的自動(dòng)化篩選、±行政司法決策等。8.1.4 申訴權(quán)用的投訴及反饋處理結(jié)果。8.2 8.2.1 概述除保障一般用戶主體權(quán)益，還應(yīng)滿足對(duì)應(yīng)群體的要求。8.2.2 主要面向未成年人提供服務(wù)的App推薦算法服務(wù)提供者，應(yīng)滿足以下要求：a)應(yīng)行政司法決策等。8.1.4 申訴權(quán)用的投訴及反饋處理結(jié)果。8.2 8.2.1 概述除保障一般用戶主體權(quán)益，還應(yīng)滿足對(duì)應(yīng)群體的要求。8.2.2 主要面向未成年人提供服務(wù)的App推薦算法服務(wù)提供者，應(yīng)滿足以下要求：a)應(yīng)與教學(xué)無(wú)關(guān)的信息。b)g)d)e)8.2.3老年人面向老年人提供服務(wù)的App推薦算法服務(wù)提供者應(yīng)滿足以下要求：a)內(nèi)容分發(fā)、廣告推廣、引流推廣、搜索引擎等網(wǎng)絡(luò)推廣服務(wù)。b)8.2.4勞動(dòng)者App會(huì)或勞動(dòng)者代表的意見(jiàn)建議，將結(jié)果公示，保障勞動(dòng)者對(duì)涉及切身利益重要事項(xiàng)的知情權(quán)。9 全事件應(yīng)急預(yù)案、違規(guī)處置等內(nèi)容。9.1 App推薦算法服務(wù)提供者應(yīng)滿足以下要求：6a)估報(bào)告、運(yùn)行日志留存情況、推薦算法安全風(fēng)險(xiǎn)復(fù)核等。b)g)d)9.2a)估報(bào)告、運(yùn)行日志留存情況、推薦算法安全風(fēng)險(xiǎn)復(fù)核等。b)g)d)9.2 App推薦算法服務(wù)提供者應(yīng)滿足以下要求：a) （31)2)3)4)對(duì)可預(yù)期的處理操作和處理目的進(jìn)行系統(tǒng)性描述；b)具有輿論屬性或者社會(huì)動(dòng)員能力的推薦算法服務(wù)應(yīng)當(dāng)按照國(guó)家有關(guān)規(guī)定開(kāi)展安全評(píng)估。注：達(dá)渠道或者具有發(fā)動(dòng)社會(huì)公眾從事特定活動(dòng)能力的其他互聯(lián)網(wǎng)信息服務(wù)。g)應(yīng)定開(kāi)推算服的算輸、計(jì)實(shí)的自估記并饋估結(jié)9.3 GB/T35273中10.1求。9.4 級(jí)，統(tǒng)籌相關(guān)職能部門(mén)，追究相應(yīng)部門(mén)和人員責(zé)任。10 AppAppApp談等測(cè)評(píng)方式，以測(cè)評(píng)App推薦算法服務(wù)安全性，具體見(jiàn)表1。F表1測(cè)評(píng)項(xiàng)目與測(cè)評(píng)方式對(duì)應(yīng)關(guān)系表8要求條款測(cè)評(píng)項(xiàng)目文檔審查功能核驗(yàn)人員訪談±個(gè)人信息保護(hù)要求√√√6.2.1數(shù)據(jù)處理——√6.2.2標(biāo)簽管理√——6.2.3模型應(yīng)用———6.3.1安全審核√—√6.3.2干預(yù)控制———6.3.3風(fēng)險(xiǎn)監(jiān)測(cè)———6.3.4追溯機(jī)制√——6.4算法應(yīng)用安全要求——√F.1一般用戶主體權(quán)利—√—F.2特殊群體權(quán)益—√√8算法安全管理要求√—√表1測(cè)評(píng)項(xiàng)目與測(cè)評(píng)方式對(duì)應(yīng)關(guān)系表8要求條款測(cè)評(píng)項(xiàng)目文檔審查功能核驗(yàn)人員訪談±個(gè)人信息保護(hù)要求√√√6.2.1數(shù)據(jù)處理——√6.2.2標(biāo)簽管理√——6.2.3模型應(yīng)用———6.3.1安全審核√—√6.3.2干預(yù)控制———6.3.3風(fēng)險(xiǎn)監(jiān)測(cè)———6.3.4追溯機(jī)制√——6.4算法應(yīng)用安全要求——√F.1一般用戶主體權(quán)利—√—F.2特殊群體權(quán)益—√√8算法安全管理要求√—√附 錄 A（）常見(jiàn)的推薦算法應(yīng)用包括但不限于表A.1。表A.1常見(jiàn)推薦算法應(yīng)用9算法技術(shù)應(yīng)用場(chǎng)景示例生成合成類利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等技術(shù)，制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息，被廣泛應(yīng)用于內(nèi)容聚合、內(nèi)容自動(dòng)化生成及內(nèi)容合成服務(wù)。寫(xiě)稿機(jī)器人、聊天機(jī)器人AI換臉、圖像修復(fù)語(yǔ)音合成、自動(dòng)編曲視頻自動(dòng)剪輯、合成游戲、TR、虛擬主播、元宇宙?zhèn)€性化推送基于用戶畫(huà)像，以用戶標(biāo)簽作為算法的核心變量，針對(duì)不同用戶需求分發(fā)不同內(nèi)容或提供決策支持，被廣泛運(yùn)用于內(nèi)容、商品或服務(wù)的個(gè)性化推送服務(wù)。信息內(nèi)容自動(dòng)推送（如新聞、音樂(lè)）廣告自動(dòng)推送（如朋友圈廣告）電商平臺(tái)的商品推薦排序精選類根據(jù)指定標(biāo)準(zhǔn)對(duì)序列里的數(shù)據(jù)進(jìn)行排序，被廣泛應(yīng)用于內(nèi)容服務(wù)提供者的版面頁(yè)面管理，諸如首屏、熱搜、精附 錄 A（）常見(jiàn)的推薦算法應(yīng)用包括但不限于表A.1。表A.1常見(jiàn)推薦算法應(yīng)用9算法技術(shù)應(yīng)用場(chǎng)景示例生成合成類利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等技術(shù)，制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息，被廣泛應(yīng)用于內(nèi)容聚合、內(nèi)容自動(dòng)化生成及內(nèi)容合成服務(wù)。寫(xiě)稿機(jī)器人、聊天機(jī)器人AI換臉、圖像修復(fù)語(yǔ)音合成、自動(dòng)編曲視頻自動(dòng)剪輯、合成游戲、TR、虛擬主播、元宇宙?zhèn)€性化推送基于用戶畫(huà)像，以用戶標(biāo)簽作為算法的核心變量，針對(duì)不同用戶需求分發(fā)不同內(nèi)容或提供決策支持，被廣泛運(yùn)用于內(nèi)容、商品或服務(wù)的個(gè)性化推送服務(wù)。信息內(nèi)容自動(dòng)推送（如新聞、音樂(lè)）廣告自動(dòng)推送（如朋友圈廣告）電商平臺(tái)的商品推薦