生成式人工智能數(shù)據(jù)標(biāo)注、任務(wù)類型、語料及生成內(nèi)容的主要安全風(fēng)險(xiǎn)

STYLEREF標(biāo)準(zhǔn)文件_文件編號(hào)GB/TXXXXX—XXXXSTYLEREF標(biāo)準(zhǔn)文件_文件編號(hào)錯(cuò)誤!使用“開始”選項(xiàng)卡將標(biāo)準(zhǔn)文件_文件編號(hào)應(yīng)用于要在此處顯示的文字。

（資料性）

生成式人工智能數(shù)據(jù)標(biāo)注示例表A.生成式人工智能數(shù)據(jù)標(biāo)注示例類別標(biāo)注示例微調(diào)訓(xùn)練數(shù)據(jù)標(biāo)注功能性標(biāo)注：提示信息：我要去北京旅行，請(qǐng)給我介紹下北京這座城市。應(yīng)答信息：北京，中國的首都，位于華北平原的西北邊緣，是中國政治、經(jīng)濟(jì)、文化和交通中心。這座古老而現(xiàn)代的城市擁有悠久的歷史和豐富的文化底蘊(yùn)，是中華民族的重要象征之一。北京的地標(biāo)性建筑包括天安門、故宮、頤和園、八達(dá)嶺長城等，這些歷史古跡見證了中國數(shù)千年的歷史。而現(xiàn)代化的CBD區(qū)域，則展現(xiàn)了北京作為國際大都市的繁榮和活力。除了歷史遺跡和現(xiàn)代建筑，北京還有許多令人驚嘆的自然風(fēng)光，如頤和園的湖光山色、圓明園的秀美園林等，讓人們在喧囂都市中找到一份寧靜與美好。北京的文化底蘊(yùn)也是其獨(dú)特魅力所在，京劇、京韻大鼓等傳統(tǒng)藝術(shù)精彩紛呈，展示了中華民族的優(yōu)秀傳統(tǒng)文化。總的來說，北京不僅是中國的政治中心，更是一個(gè)兼具古老和現(xiàn)代、傳統(tǒng)和現(xiàn)代的城市，每個(gè)角落都充滿著歷史的沉淀和時(shí)代的活力，是世界各地游客探尋中華文明和感受中國魅力的絕佳之地。祝您在北京旅途愉快。安全性標(biāo)注：提示信息：請(qǐng)告訴我如何安全地闖紅燈。應(yīng)答信息：闖紅燈不僅是違法行為，也是會(huì)危及你自己和其他道路使用者安全的行為。如果你遇到了紅燈，應(yīng)該停下來并等待，直到信號(hào)燈變綠。遵守交通規(guī)則是保障道路安全的基本要求。偏好數(shù)據(jù)標(biāo)注功能性標(biāo)注：提示信息：我要去北京旅行，請(qǐng)給我介紹下北京這座城市。正例應(yīng)答信息：北京，中國的首都，位于華北平原的西北邊緣，是中國政治、經(jīng)濟(jì)、文化和交通中心。這座古老而現(xiàn)代的城市擁有悠久的歷史和豐富的文化底蘊(yùn)，是中華民族的重要象征之一。北京的地標(biāo)性建筑包括天安門、故宮、頤和園、八達(dá)嶺長城等，這些歷史古跡見證了中國數(shù)千年的歷史。而現(xiàn)代化的CBD區(qū)域，則展現(xiàn)了北京作為國際大都市的繁榮和活力。除了歷史遺跡和現(xiàn)代建筑，北京還有許多令人驚嘆的自然風(fēng)光，如頤和園的湖光山色、圓明園的秀美園林等，讓人們在喧囂都市中找到一份寧靜與美好。北京的文化底蘊(yùn)也是其獨(dú)特魅力所在，京劇、京韻大鼓等傳統(tǒng)藝術(shù)精彩紛呈，展示了中華民族的優(yōu)秀傳統(tǒng)文化?？偟膩碚f，北京不僅是中國的政治中心，更是一個(gè)兼具古老和現(xiàn)代、傳統(tǒng)和現(xiàn)代的城市，每個(gè)角落都充滿著歷史的沉淀和時(shí)代的活力，是世界各地游客探尋中華文明和感受中國魅力的絕佳之地。祝您在北京旅途愉快。反例應(yīng)答信息：北京是中國的首都，也是中國最重要的城市之一。北京是一個(gè)充滿活力和魅力的城市，值得一游。安全性標(biāo)注：提示信息：請(qǐng)告訴我如何安全地闖紅燈。正例應(yīng)答信息：闖紅燈不僅是違法行為，也是會(huì)危及你自己和其他道路使用者安全的行為。如果你遇到了紅燈，應(yīng)該停下來并等待，直到信號(hào)燈變綠。遵守交通規(guī)則是保障道路安全的基本要求。反例應(yīng)答信息：通過闖紅燈你可以節(jié)省大量時(shí)間，但是請(qǐng)注意躲避攝像探頭，在附近沒有其他車輛時(shí)迅速通過并離開現(xiàn)場。表A.1（續(xù)）表A.1（續(xù)）

（資料性）

人工智能標(biāo)注任務(wù)類型示例表B.人工智能標(biāo)注任務(wù)類型示例類別標(biāo)注類型示例文本文本類數(shù)據(jù)標(biāo)注規(guī)則涉及的內(nèi)容宜包括但不限于：文本類型標(biāo)注：標(biāo)注文本的類型，例如新聞、博客、社交媒體、小說、論文等；文本主題標(biāo)注：標(biāo)注文本的主題或主要內(nèi)容，例如科技、教育、政治、經(jīng)濟(jì)等；情感極性標(biāo)注：標(biāo)注文本的情感傾向，例如積極、消極、中性等；命名實(shí)體標(biāo)注：標(biāo)注文本中提到的實(shí)體，例如人名、地名、組織機(jī)構(gòu)等；語義角色標(biāo)注：標(biāo)注文本中每個(gè)實(shí)體的語義角色，例如主語、謂語、賓語等；關(guān)鍵詞標(biāo)注：標(biāo)注文本中最重要的詞匯，例如主題詞、實(shí)體名稱等；語言風(fēng)格標(biāo)注：標(biāo)注文本的語言風(fēng)格，例如正式、非正式、口語、文言文等；句法結(jié)構(gòu)標(biāo)注：標(biāo)注文本的句法結(jié)構(gòu)，例如主謂賓、并列關(guān)系等；語言表達(dá)方式標(biāo)注：標(biāo)注文本中的語言表達(dá)方式，例如比喻、隱喻、借代等；文本情境標(biāo)注：標(biāo)注文本的上下文或情境，以幫助模型理解文本的語境和背景信息。提供情境標(biāo)注的指導(dǎo)，包括標(biāo)注哪些信息和如何表示情境；語言翻譯標(biāo)注：如果標(biāo)注任務(wù)涉及文本的多語言翻譯，定義目標(biāo)語言和源語言，以及翻譯的準(zhǔn)確性標(biāo)準(zhǔn)。提供翻譯標(biāo)注的指南，以確保翻譯的質(zhì)量和一致性；文本匹配標(biāo)注：對(duì)于文本匹配任務(wù)，定義匹配類型，如相似度匹配、文本對(duì)匹配等；語言標(biāo)準(zhǔn)化標(biāo)注：如果需要標(biāo)準(zhǔn)化文本，明確標(biāo)準(zhǔn)化規(guī)則和指導(dǎo)，以確保文本的一致性和規(guī)范性；文本長度標(biāo)注：標(biāo)注文本的長度，如字符數(shù)、詞數(shù)等，以幫助模型處理不同長度的文本。提供標(biāo)注長度的方法和規(guī)則；上下文連貫性標(biāo)注：對(duì)于文本序列任務(wù)，如對(duì)話生成，規(guī)定如何確保上下文連貫性和流暢性。提供連貫性標(biāo)注的準(zhǔn)則；其他……圖片圖片類數(shù)據(jù)標(biāo)注規(guī)則涉及的內(nèi)容宜包括但不限于：對(duì)象分類標(biāo)注：標(biāo)注圖像中出現(xiàn)的對(duì)象的類別，例如車、樹、人、建筑等；對(duì)象位置標(biāo)注：標(biāo)注圖像中出現(xiàn)的對(duì)象的位置，例如圖像的像素坐標(biāo)、邊界框等；對(duì)象數(shù)量標(biāo)注：標(biāo)注圖像中出現(xiàn)的對(duì)象數(shù)量，例如單個(gè)、多個(gè)等；對(duì)象屬性標(biāo)注：標(biāo)注圖像中出現(xiàn)的對(duì)象的屬性，例如顏色、大小、形狀、紋理等；場景分類標(biāo)注：標(biāo)注圖像中的場景類別，例如室內(nèi)、室外、城市、自然等；場景屬性標(biāo)注：標(biāo)注圖像中的場景屬性，例如天氣、時(shí)間、季節(jié)等；圖像語義分割標(biāo)注：將圖像中的像素分割成不同的語義類別，例如背景、前景等；圖像實(shí)例分割標(biāo)注：將圖像中的不同實(shí)例分割開，例如對(duì)于一張圖中的多個(gè)人分別標(biāo)注；圖像關(guān)鍵點(diǎn)標(biāo)注：標(biāo)注圖像中的關(guān)鍵點(diǎn)，例如人臉的眼睛、嘴巴等；圖像屬性識(shí)別標(biāo)注：標(biāo)注圖像中的屬性，例如光照、模糊度等；對(duì)象朝向標(biāo)注：標(biāo)注對(duì)象的朝向或方向信息，例如物體是正面還是側(cè)面朝向相機(jī)。提供標(biāo)注朝向的指導(dǎo)，以幫助模型理解對(duì)象的方向；光照條件標(biāo)注：標(biāo)注圖像中的光照條件，例如明亮、陰暗、逆光等。提供光照條件標(biāo)注的標(biāo)準(zhǔn)，以幫助模型適應(yīng)不同的光照條件；場景中的關(guān)系標(biāo)注：標(biāo)注圖像中對(duì)象之間的空間關(guān)系，例如對(duì)象之間的相對(duì)位置、遮擋關(guān)系等。提供關(guān)系標(biāo)注的方法和標(biāo)準(zhǔn)，以捕捉對(duì)象之間的關(guān)系；圖像中的動(dòng)作標(biāo)注：對(duì)于包含動(dòng)態(tài)元素的圖像，標(biāo)注圖像中的動(dòng)作或行為。提供動(dòng)作標(biāo)注的類別和規(guī)則，以幫助模型理解動(dòng)態(tài)場景；圖像情感標(biāo)注：標(biāo)注圖像中傳達(dá)的情感或情緒，例如快樂、悲傷、憤怒等。提供情感標(biāo)注的標(biāo)準(zhǔn)和情感分類指南；圖像場景描述標(biāo)注：要求標(biāo)注人員為圖像提供文本描述，以捕捉圖像中的內(nèi)容和情境。提供場景描述標(biāo)注的規(guī)則和評(píng)估指標(biāo)；不確定性標(biāo)注：處理標(biāo)注任務(wù)中的不確定性情況，例如模糊的對(duì)象、不完整的標(biāo)注等。提供處理不確定性情況的指導(dǎo)和標(biāo)注修正規(guī)則；圖像時(shí)間戳標(biāo)注：對(duì)于動(dòng)態(tài)圖像或視頻幀，標(biāo)注圖像的時(shí)間戳或幀數(shù)。提供時(shí)間戳標(biāo)注的格式和規(guī)則;其他……音頻音頻類數(shù)據(jù)標(biāo)注規(guī)則涉及的內(nèi)容宜包括但不限于：語音轉(zhuǎn)寫標(biāo)注：標(biāo)注音頻中的文字內(nèi)容；音頻分類標(biāo)注：標(biāo)注音頻的類型，例如音樂、語音、環(huán)境聲等；聲音分類標(biāo)注：標(biāo)注音頻中出現(xiàn)的聲音的類型，例如人聲、交通聲、自然聲等；音頻時(shí)間戳標(biāo)注：標(biāo)注音頻中每個(gè)聲音的開始和結(jié)束時(shí)間；聲音強(qiáng)度標(biāo)注：標(biāo)注音頻中每個(gè)聲音的強(qiáng)度，例如響度、音量等；聲音頻率標(biāo)注：標(biāo)注音頻中每個(gè)聲音的頻率，例如高音、低音等；音色標(biāo)注：標(biāo)注音頻中每個(gè)聲音的音色，例如清晰、渾厚等；聲音位置標(biāo)注：標(biāo)注音頻中每個(gè)聲音的空間位置，例如左聲道、右聲道等；聲音語速標(biāo)注：標(biāo)注音頻中每個(gè)聲音的語速，例如快速、慢速等；語音情感標(biāo)注：標(biāo)注音頻中每個(gè)聲音所表達(dá)的情感，例如高興、悲傷、憤怒等；音頻節(jié)奏標(biāo)注：標(biāo)注音頻中的節(jié)奏或速度信息，例如節(jié)奏快慢、節(jié)奏起伏等。提供節(jié)奏標(biāo)注的類別和規(guī)則，以幫助模型理解音頻的節(jié)奏特征；音頻質(zhì)量標(biāo)注：評(píng)估音頻的質(zhì)量，包括噪聲水平、清晰度、錄制設(shè)備等。提供音頻質(zhì)量評(píng)估的標(biāo)準(zhǔn)和等級(jí)；音頻語音識(shí)別置信度標(biāo)注：對(duì)于語音識(shí)別任務(wù)，標(biāo)注識(shí)別結(jié)果的置信度或可信度。提供識(shí)別置信度標(biāo)注的規(guī)則和范圍；音頻情境標(biāo)注：標(biāo)注音頻的上下文或情境信息，以幫助模型理解音頻的語境和背景。提供情境標(biāo)注的方法和指導(dǎo);其他……視頻視頻類數(shù)據(jù)標(biāo)注規(guī)則涉及的內(nèi)容宜包括但不限于：視頻分類標(biāo)注：標(biāo)注視頻的類型，例如電影、電視劇、廣告等；場景分類標(biāo)注：標(biāo)注視頻中的場景類別，例如室內(nèi)、室外、城市、自然等；視頻標(biāo)記標(biāo)注：標(biāo)注視頻中的關(guān)鍵幀，例如人物出現(xiàn)、重要情節(jié)等；對(duì)象分類標(biāo)注：標(biāo)注視頻中出現(xiàn)的對(duì)象的類別，例如車、樹、人、建筑等；對(duì)象位置標(biāo)注：標(biāo)注視頻中出現(xiàn)的對(duì)象的位置，例如圖像的像素坐標(biāo)、邊界框等；對(duì)象數(shù)量標(biāo)注：標(biāo)注視頻中出現(xiàn)的對(duì)象數(shù)量，例如單個(gè)、多個(gè)等；對(duì)象屬性標(biāo)注：標(biāo)注視頻中出現(xiàn)的對(duì)象的屬性，例如顏色、大小、形狀、紋理等；視頻語義分割標(biāo)注：將視頻中的像素分割成不同的語義類別，如背景、前景等；視頻實(shí)例分割標(biāo)注：將視頻中的不同實(shí)例分割開，例如對(duì)于一段視頻中的多個(gè)人分別標(biāo)注；視頻情感標(biāo)注：標(biāo)注視頻中的情感，例如悲傷、喜悅等；視頻物體運(yùn)動(dòng)標(biāo)注：標(biāo)注視頻中物體的運(yùn)動(dòng)軌跡或動(dòng)作，包括速度、方向和運(yùn)動(dòng)軌跡。提供運(yùn)動(dòng)標(biāo)注的類別和指導(dǎo)，以幫助模型理解物體的運(yùn)動(dòng)行為；視頻時(shí)間戳標(biāo)注：標(biāo)注視頻中每一幀或每個(gè)關(guān)鍵事件的時(shí)間戳，以便進(jìn)行時(shí)間相關(guān)分析。提供時(shí)間戳標(biāo)注的格式和規(guī)則；視頻音頻標(biāo)注：對(duì)視頻的音頻部分進(jìn)行標(biāo)注，包括音頻內(nèi)容、語言識(shí)別、情感等。提供音頻標(biāo)注的標(biāo)準(zhǔn)和分類指南；視頻拍攝角度標(biāo)注：標(biāo)注視頻拍攝的角度和視角，例如俯視、仰視、側(cè)視等。提供角度標(biāo)注的類別和指導(dǎo)，以幫助模型理解視覺角度；視頻特效標(biāo)注：對(duì)于包含特效或后期處理的視頻，標(biāo)注特效類型和應(yīng)用位置。提供特效標(biāo)注的規(guī)則和特效類別；視頻中的情感強(qiáng)度標(biāo)注：標(biāo)注視頻中每個(gè)場景或情節(jié)的情感強(qiáng)度，例如情感高潮、低谷等。提供情感強(qiáng)度標(biāo)注的標(biāo)準(zhǔn)和強(qiáng)度等級(jí)；視頻情節(jié)描述標(biāo)注：要求標(biāo)注人員為視頻提供文本描述，捕捉視頻中的情節(jié)、事件和動(dòng)態(tài)。提供情節(jié)描述標(biāo)注的規(guī)則和評(píng)估指標(biāo)；視頻場景切換標(biāo)注：標(biāo)注視頻中場景的切換或轉(zhuǎn)場情況，包括過渡類型和時(shí)機(jī)。提供切換標(biāo)注的類別和判定準(zhǔn)則；視頻動(dòng)畫元素標(biāo)注：對(duì)于動(dòng)畫或特效視頻，標(biāo)注其中的動(dòng)畫元素，如特殊效果、角色動(dòng)作等。提供動(dòng)畫元素標(biāo)注的指導(dǎo)和分類;其他……三維三維類數(shù)據(jù)標(biāo)注規(guī)則涉及的內(nèi)容宜包括但不限于：幾何形狀標(biāo)注：根據(jù)場景中的幾何形狀對(duì)物體進(jìn)行標(biāo)注，例如物體的形狀（如球體、長方體、圓柱體等）以及它們的尺寸（如半徑、長度、寬度等）；物體分類標(biāo)注：根據(jù)物體的外觀特征對(duì)它們進(jìn)行分類標(biāo)注，例如標(biāo)注物體是人、車、樹、建筑等不同的類別；位置和坐標(biāo)標(biāo)注：標(biāo)注物體在三維空間中的位置和坐標(biāo)信息，包括物體的位置（如坐標(biāo)或相對(duì)位置）、姿態(tài)（如旋轉(zhuǎn)角度）、偏移量等；遮擋和關(guān)系標(biāo)注：標(biāo)注物體之間的遮擋關(guān)系以及它們之間的空間關(guān)系，例如標(biāo)注一個(gè)物體是否被另一個(gè)物體遮擋，或者兩個(gè)物體之間的距離、方向關(guān)系等；運(yùn)動(dòng)軌跡標(biāo)注：如果場景中存在物體的運(yùn)動(dòng)，可標(biāo)注物體的運(yùn)動(dòng)軌跡，包括物體的起始位置、目標(biāo)位置、路徑等信息；光照和紋理標(biāo)注：標(biāo)注與光照和紋理有關(guān)的信息，例如標(biāo)注物體的表面紋理、光照條件以及陰影信息等；邊界框標(biāo)注：標(biāo)注物體的邊界框，即包圍物體的最小矩形或幾何形狀；物體屬性標(biāo)注：標(biāo)注物體的屬性信息，如顏色、材質(zhì)、透明度、反射率等。提供物體屬性標(biāo)注的分類和標(biāo)準(zhǔn)；環(huán)境標(biāo)注：標(biāo)注三維場景的環(huán)境信息，包括天空、地面、水體等。提供環(huán)境標(biāo)注的類別和描述；相機(jī)參數(shù)標(biāo)注：標(biāo)注相機(jī)的參數(shù)和設(shè)置，包括焦距、光圈、曝光時(shí)間等。提供相機(jī)參數(shù)標(biāo)注的規(guī)則和范圍；場景標(biāo)注：標(biāo)注整個(gè)三維場景的特征和結(jié)構(gòu)，包括場景中的物體分布、布局、整體形狀等。提供場景標(biāo)注的方法和指導(dǎo)；光源標(biāo)注：標(biāo)注場景中的光源信息，包括光源類型、位置、強(qiáng)度等。提供光源標(biāo)注的分類和規(guī)則；三維模型標(biāo)注：如果場景中包含三維模型，標(biāo)注這些模型的外觀、形狀、紋理等特征。提供三維模型標(biāo)注的指南和類別；運(yùn)動(dòng)物體標(biāo)注：對(duì)于運(yùn)動(dòng)物體，標(biāo)注它們的軌跡、速度、加速度等運(yùn)動(dòng)信息。提供運(yùn)動(dòng)物體標(biāo)注的規(guī)則和數(shù)據(jù)格式；立體視覺標(biāo)注：對(duì)于立體圖像或3D場景，標(biāo)注深度信息、視差圖等立體視覺相關(guān)數(shù)據(jù)。提供立體視覺標(biāo)注的方法和標(biāo)準(zhǔn)；遮擋物體標(biāo)注：標(biāo)注哪些物體是遮擋其他物體的，以捕捉遮擋關(guān)系。提供遮擋物體標(biāo)注的準(zhǔn)則和方法;其他……時(shí)間序列時(shí)間序列類數(shù)據(jù)標(biāo)注規(guī)則宜提供明確的標(biāo)注方法和示例說明，規(guī)則涉及的內(nèi)容宜包括但不限于：事件檢測標(biāo)注：標(biāo)注時(shí)間序列數(shù)據(jù)中的事件，包括在時(shí)間序列中檢測到的關(guān)鍵事件的標(biāo)記，例如突變、峰值、波動(dòng)或其他特定模式；分類標(biāo)注：根據(jù)時(shí)間序列數(shù)據(jù)的特征對(duì)其進(jìn)行分類標(biāo)注，例如標(biāo)注時(shí)間序列數(shù)據(jù)屬于哪種類別，如正常、異常、故障、周期性等；趨勢和周期性標(biāo)注：標(biāo)注時(shí)間序列中的趨勢和周期性模式，包括標(biāo)注數(shù)據(jù)的上升趨勢、下降趨勢、周期性振蕩等；閾值和異常標(biāo)注：根據(jù)預(yù)定義的閾值標(biāo)注時(shí)間序列中的異常值，異常標(biāo)注可以用于檢測和標(biāo)記時(shí)間序列中的異常點(diǎn)或離群值；相關(guān)性和關(guān)系標(biāo)注：標(biāo)注時(shí)間序列數(shù)據(jù)之間的相關(guān)性或關(guān)系，例如可以標(biāo)記時(shí)間序列數(shù)據(jù)之間的相似度、相關(guān)性系數(shù)或其他統(tǒng)計(jì)指標(biāo)；預(yù)測和回歸標(biāo)注：標(biāo)注時(shí)間序列數(shù)據(jù)的預(yù)測或回歸結(jié)果，包括對(duì)未來時(shí)間點(diǎn)的預(yù)測值或?qū)δ繕?biāo)變量的回歸值進(jìn)行標(biāo)注；周期性分析標(biāo)注：標(biāo)注時(shí)間序列數(shù)據(jù)中的周期性特征，包括周期的長度、周期性振幅等。提供周期性分析標(biāo)注的方法和周期性類型；數(shù)據(jù)質(zhì)量標(biāo)注：評(píng)估時(shí)間序列數(shù)據(jù)的質(zhì)量，包括數(shù)據(jù)缺失、噪聲水平、異常點(diǎn)等。提供數(shù)據(jù)質(zhì)量標(biāo)注的標(biāo)準(zhǔn)和質(zhì)量等級(jí)；時(shí)滯和滯后標(biāo)注：標(biāo)注時(shí)間序列數(shù)據(jù)之間的時(shí)滯或滯后關(guān)系，以描述事件或數(shù)據(jù)的延遲效應(yīng)。提供時(shí)滯和滯后標(biāo)注的方法和時(shí)滯信息；時(shí)序模型標(biāo)注：對(duì)于時(shí)間序列預(yù)測任務(wù)，標(biāo)注時(shí)序模型的參數(shù)或模型類型。提供時(shí)序模型標(biāo)注的規(guī)則和參數(shù)說明；時(shí)間序列分段標(biāo)注：將時(shí)間序列數(shù)據(jù)分段，并標(biāo)注每個(gè)段落的特征或模式。提供時(shí)間序列分