YDT 4573-2023移動(dòng)互聯(lián)網(wǎng)不良信息管控系統(tǒng)開放平臺(tái)總體技術(shù)要求_第1頁
YDT 4573-2023移動(dòng)互聯(lián)網(wǎng)不良信息管控系統(tǒng)開放平臺(tái)總體技術(shù)要求_第2頁
YDT 4573-2023移動(dòng)互聯(lián)網(wǎng)不良信息管控系統(tǒng)開放平臺(tái)總體技術(shù)要求_第3頁
YDT 4573-2023移動(dòng)互聯(lián)網(wǎng)不良信息管控系統(tǒng)開放平臺(tái)總體技術(shù)要求_第4頁
YDT 4573-2023移動(dòng)互聯(lián)網(wǎng)不良信息管控系統(tǒng)開放平臺(tái)總體技術(shù)要求_第5頁
已閱讀5頁,還剩11頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請(qǐng)進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡(jiǎn)介

ICS35.240

CCSL67

YD

中華人民共和國(guó)通信行業(yè)標(biāo)準(zhǔn)

YD/T[×××××]—[××××]

[代替YD/T]

移動(dòng)互聯(lián)網(wǎng)不良信息管控系統(tǒng)開放平臺(tái)

總體技術(shù)要求

TotaltechnicalrequirementsforopenplatformofInternet-orientedharmful

informationcontrolsystems

[點(diǎn)擊此處添加與國(guó)際標(biāo)準(zhǔn)一致性程度的標(biāo)識(shí)]

(報(bào)批稿)

[點(diǎn)擊此處添加本稿完成日期]

[××××]-[××]-[××]發(fā)布[××××]-[××]-[××]實(shí)施

中華人民共和國(guó)工業(yè)和信息化部發(fā)布

YD/T×××××—××××

前言

本文件按照GB/T1.1—2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1部分:標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》的規(guī)定起

草。

請(qǐng)注意本文件的某些內(nèi)容可能涉及專利。本文件的發(fā)布機(jī)構(gòu)不承擔(dān)識(shí)別這些專利的責(zé)任。

本文件由中國(guó)通信標(biāo)準(zhǔn)化協(xié)會(huì)提出并歸口。

本文件起草單位:中國(guó)移動(dòng)通信集團(tuán)公司,中國(guó)電信集團(tuán)公司,中國(guó)聯(lián)合網(wǎng)絡(luò)通信集團(tuán)有限公司。

本文件主要起草人:程寶平雷珺謝小燕張彪余紅芳盛博文崔魯光黃敏峰張華費(fèi)碩成吳

楠王煜煒。

2

YD/T×××××—××××

移動(dòng)互聯(lián)網(wǎng)不良信息管控系統(tǒng)開放平臺(tái)總體技術(shù)要求

1范圍

本文件規(guī)定了互聯(lián)網(wǎng)不良信息的定義和分類,不良信息管控系統(tǒng)的架構(gòu)要求、功能要求、技術(shù)要求

和信息處理流程要求等。

本文件適用于接入不良信息管控系統(tǒng)開放平臺(tái)的研發(fā)、設(shè)計(jì)、運(yùn)維等使用場(chǎng)景。

2規(guī)范性引用文件

本文件無規(guī)范性引用文件。

3術(shù)語和定義

本文件沒有需要界定的術(shù)語和定義。

4縮略語

URL統(tǒng)一資源定位符,也被稱為網(wǎng)頁地址(UniformResourceLocator)

OCR光學(xué)字符識(shí)別(OpticalCharacterRecognition)

5互聯(lián)網(wǎng)不良信息類型分類

5.1概述

不良信息的形式多種多樣,有多種傳輸渠道,廣泛存在于即時(shí)通信、企業(yè)OA、郵箱系統(tǒng)、微博、論

壇等應(yīng)用中,依據(jù)涉及方面有涉政、涉黃、暴恐、廣告四大類,根據(jù)內(nèi)容類型來分有文本、圖片、音頻、

視頻、文件和URL六大類。

5.2不良信息涉及話題

5.2.1涉政類信息

涉政類信息包括但不限于如下內(nèi)容:

?反對(duì)憲法所確定的基本原則的;

?危害國(guó)家安全,泄露國(guó)家秘密,顛覆國(guó)家政權(quán),破壞國(guó)家統(tǒng)一的;

?損害國(guó)家榮譽(yù)和利益的;

?煽動(dòng)民族仇恨、民族歧視,破壞民族團(tuán)結(jié)的;

3

YD/T×××××—××××

?破壞國(guó)家宗教政策,宣揚(yáng)邪教和封建迷信的;

?散布謠言,擾亂社會(huì)秩序,破壞社會(huì)穩(wěn)定的。

5.2.2涉黃類信息

涉黃類信息指直接表現(xiàn)性器官、性行為的互聯(lián)網(wǎng)內(nèi)容,包括但不限于以下幾類:

?直接暴露人體性器官;

?表現(xiàn)性行為的動(dòng)作、姿態(tài)等;

?暴露低俗、帶有性暗示、性挑逗或者隱諱展現(xiàn)性行為、性過程的內(nèi)容。

5.2.3暴恐類信息

暴恐類信息包括但不限于如下內(nèi)容:

a)展現(xiàn)血腥、驚悚、殘忍等致人身心不適的;

b)出現(xiàn)持有管制刀具、槍支、火箭炮等槍械人員;

c)出現(xiàn)參與作戰(zhàn)危險(xiǎn)車輛皮卡改裝車(車上安裝槍支)、坦克、飛機(jī)(戰(zhàn)斗機(jī));

d)以暴力手段危害公共財(cái)產(chǎn)的人員;

e)宣揚(yáng)恐怖主義、極端主義或者煽動(dòng)實(shí)施恐怖活動(dòng)、極端主義活動(dòng)的,包括但不限于:

?出現(xiàn)恐怖分子頭目、政治敏感人物;

?出現(xiàn)大量人員游行、斗毆、焚燒車輛及建筑物等;

?出現(xiàn)恐怖分子標(biāo)志、犯罪分子電視臺(tái)臺(tái)標(biāo)、以及國(guó)旗等;

?含有煽動(dòng)“圣戰(zhàn)”“伊吉拉特”等宗教極端;

5.2.4廣告類信息

廣告類信息包括但不限于如下內(nèi)容:

?房地產(chǎn)類廣告信息,包含對(duì)樓盤、商鋪、個(gè)人住房進(jìn)行銷售、租賃、求租、求購、招商、介紹

宣傳的;

?金融類廣告信息,包含銀行、證券、保險(xiǎn)、貸款或者相關(guān)金融產(chǎn)品的關(guān)鍵字,有經(jīng)營(yíng)范圍(含

產(chǎn)品介紹、產(chǎn)品名稱、公司名稱、推廣活動(dòng)等),兼?zhèn)渚哂袃?yōu)惠介紹、聯(lián)系方式、地址、促銷

宣傳意圖其中任一項(xiàng)的信息;

?促銷推銷類廣告信息,包含商場(chǎng)促銷、商品推銷、教育培訓(xùn)宣傳、企業(yè)咨詢的信息,如:買賣

商品、商戶開業(yè)、教育培訓(xùn)、招生招聘、各類講座等。

5.3不良信息內(nèi)容類型

5.3.1文本類

文本類信息是指在數(shù)據(jù)交互過程中以文本形式傳輸?shù)男畔ⅰ?/p>

文本是最常用的數(shù)據(jù)交互類型,可以有效快速地傳播不良信息,具有占用空間小、傳輸速度快、傳

播成本低、應(yīng)用場(chǎng)景多等特點(diǎn),是不良信息管控的重點(diǎn)。

5.3.2圖片類

圖片類信息是指在數(shù)據(jù)交互過程中以圖片形式傳輸?shù)男畔ⅰ?/p>

圖片類信息提供可視化內(nèi)容,在極大提高了互聯(lián)網(wǎng)用戶體驗(yàn)的同時(shí),也成了涉政、涉黃、暴恐等不

良信息的有效載體。

5.3.3音頻類

音頻類信息是指在數(shù)據(jù)交互過程中以音頻或語音形式傳輸?shù)男畔ⅰ?/p>

4

YD/T×××××—××××

隨著網(wǎng)絡(luò)的高速發(fā)展,音頻的數(shù)據(jù)交互越來越多地應(yīng)用到了各個(gè)領(lǐng)域,即時(shí)聊天應(yīng)用使用最為廣泛,

使用門檻低,面向人群豐富,不良信息擴(kuò)散快速便捷。

5.3.4視頻類

視頻類信息是指在數(shù)據(jù)交互過程中以視頻形式傳輸?shù)男畔ⅰ?/p>

視頻類是信息內(nèi)容豐富的數(shù)據(jù)交互形式,應(yīng)用場(chǎng)景廣泛,傳播不良信息量級(jí)大,多媒體終端設(shè)備的

普及使得視頻傳播途徑豐富,同時(shí)加劇了視頻內(nèi)容監(jiān)控的難度。

5.3.5文件類

文件類信息是指在數(shù)據(jù)交互過程中以文件形式傳輸?shù)男畔?,包括但不限于office、wps文件、html、

xml、chm、txt文件,及rar、zip、tar.gz等壓縮類型的文件。

文件類一般應(yīng)用于網(wǎng)盤等網(wǎng)絡(luò)存儲(chǔ)領(lǐng)域,占用空間比較大,掃描識(shí)別判定難度較大、時(shí)間較長(zhǎng),存

儲(chǔ)并傳播不良信息的數(shù)量級(jí)較大。

5.3.6URL類

URL類信息是指在數(shù)據(jù)交互過程中包含了URL信息,通過解析URL可獲得網(wǎng)址中的文本、圖片和視

頻等內(nèi)容。

6移動(dòng)互聯(lián)網(wǎng)不良信息管控系統(tǒng)構(gòu)建原則及架構(gòu)要求

6.1構(gòu)建原則

為節(jié)約人力審核成本并考慮到人工智能技術(shù)在圖像、視頻和語音領(lǐng)域的應(yīng)用已較為成熟,移動(dòng)互聯(lián)

網(wǎng)不良信息管控系統(tǒng)建議采取以“算法審核為主、人工審核為輔”的原則,依托人工智能算法實(shí)現(xiàn)不良

信息的分類、過濾和處理,針對(duì)算法無法判斷的消息內(nèi)容,交由人工進(jìn)行進(jìn)一步多輪審核判斷。

6.2系統(tǒng)架構(gòu)

移動(dòng)互聯(lián)網(wǎng)不良信息管控流程圖如圖1所示,不良信息管控系統(tǒng)架構(gòu)如圖2所示。業(yè)務(wù)消息進(jìn)入不

良信息管控系統(tǒng)后,首先進(jìn)入算法審核模塊進(jìn)行審核。對(duì)于算法審核模塊可判斷的消息,將判斷為違規(guī)

或者合規(guī)的結(jié)果返回給業(yè)務(wù)系統(tǒng)。對(duì)于算法審核模塊無法判斷的消息,送往人工審核模塊,由人工判斷

審核結(jié)果,再返回給業(yè)務(wù)系統(tǒng)。

對(duì)于所有通過線上審核系統(tǒng)的消息數(shù)據(jù)進(jìn)行存儲(chǔ),用于線下的算法模型優(yōu)化和數(shù)據(jù)分析優(yōu)化。優(yōu)

化后的算法可提高線上場(chǎng)景的審核準(zhǔn)確率。

5

YD/T×××××—××××

APP/任意終端業(yè)務(wù)平臺(tái)APP/任意終端

業(yè)務(wù)消息審核反饋

不良信息管控系統(tǒng)

圖1移動(dòng)互聯(lián)網(wǎng)不良信息管控流程圖

圖2不良信息管控系統(tǒng)架構(gòu)圖

不良信息管控系統(tǒng)架構(gòu)的邏輯應(yīng)為,讓算法承擔(dān)盡量多的審核工作,減少人工工作量。因此消息先

過算法審核,只有在算法不能判斷的情況下,才送往人工審核。此外,還應(yīng)建立線上-線下的循環(huán)反饋

機(jī)制,通過收集線上數(shù)據(jù)進(jìn)行算法優(yōu)化,不斷完善算法,達(dá)到算法可承擔(dān)越來越多審核工作的目的。

6

YD/T×××××—××××

6.3不良信息管控系統(tǒng)的主要功能劃分

不良信息管控系統(tǒng)應(yīng)具備基本的不良信息治理能力,包括對(duì)文本、圖片、音頻、視頻、文件和URL

等信息內(nèi)容進(jìn)行鑒別,通過算法識(shí)別其中涉黃、涉政、暴恐和廣告等內(nèi)容,在算法審核的預(yù)處理子模塊

中,可結(jié)合規(guī)則策略匹配等輔助算法進(jìn)行綜合的內(nèi)容管控。對(duì)于算法無法直接確定的內(nèi)容,送往人工審

核進(jìn)行判斷。其具體功能劃分如圖2所示,可分為四層:消息接入層、算法審核層、人工審核層和大數(shù)

據(jù)分析訓(xùn)練層。

6.3.1消息接入層

消息接入層接收來自業(yè)務(wù)系統(tǒng)的信息,通過數(shù)據(jù)解析將信息中的數(shù)據(jù)內(nèi)容提取出來,供算法審核過

濾。其主要功能應(yīng)包括消息的解析與轉(zhuǎn)發(fā)控制。其中消息的解析應(yīng)包含對(duì)協(xié)議的解析、富媒體文件下載

和網(wǎng)址類消息的爬取解析,以保證各類消息的數(shù)據(jù)內(nèi)容都能被提取出來。此后,應(yīng)有消息轉(zhuǎn)發(fā)控制機(jī)制

將解析后的消息內(nèi)容轉(zhuǎn)發(fā)到算法服務(wù)器上,且保證各服務(wù)器負(fù)載均衡。該層的結(jié)構(gòu)如圖3所示。

消息接入層

不協(xié)議解析

富媒體文件下載網(wǎng)頁爬取解析

消息轉(zhuǎn)發(fā)控制

統(tǒng)

圖3消息接入層結(jié)構(gòu)圖

消息接入中,應(yīng)包含下列信息:

?消息ID;

?業(yè)務(wù)類型;

?內(nèi)容類型,表明該消息是圖片、視頻、音頻、文本、文件或URL中的哪一種;

?內(nèi)容,及需要審核的富媒體消息內(nèi)容;

?業(yè)務(wù)時(shí)間;

?是否送人工審核。

6.3.2算法審核層

算法審核層是不良信息管控系統(tǒng)的核心模塊,從消息接入層獲得待處理的信息數(shù)據(jù),經(jīng)過算法識(shí)別,

初步判斷出消息的危險(xiǎn)程度,以及是否有可傳播度。算法審核層應(yīng)包含預(yù)處理和人工智能算法兩個(gè)基本

子模塊。

其中預(yù)處理子模塊應(yīng)包含功能:1)可將復(fù)雜消息按需拆分為多個(gè)單位消息(以圖片、視頻、文本

或音頻消息為單位);2)可根據(jù)5.3中提到的輔助算法,配置簡(jiǎn)單的策略對(duì)該消息進(jìn)行初步審核過濾。

人工智能算法是算法的核心部分,實(shí)現(xiàn)對(duì)圖片、視頻、音頻和文本等進(jìn)行違規(guī)內(nèi)容識(shí)別。所采用的

人工智能算法應(yīng)達(dá)到一定的識(shí)別精度,能對(duì)消息內(nèi)容進(jìn)行準(zhǔn)確分類。該層的結(jié)構(gòu)如圖4所示。

7

YD/T×××××—××××

算法審核層

預(yù)處理

人工智能算法

統(tǒng)

圖4算法審核層結(jié)構(gòu)圖

6.3.3人工審核層

人工審核層針對(duì)算法審核未能得出確切結(jié)論的消息數(shù)據(jù),通過人工校驗(yàn)判別的方法來進(jìn)一步鑒權(quán)

消息。人工審核人員應(yīng)具備不良信息的審核經(jīng)驗(yàn),對(duì)于不良信息的判定有較專業(yè)的認(rèn)識(shí)。一般建議人工

審核層包含多輪的人工審核流程,如人工初審、人工復(fù)核和人工處置等,其中人工復(fù)核為經(jīng)過人工初審

之后,由另外一批審核人員校驗(yàn)初審的結(jié)果。人工處置對(duì)消息作出最終的判斷,輸出審核結(jié)果。該層的

結(jié)構(gòu)如圖5所示。

人工審核層

算法未識(shí)別消息算法誤判投訴

人工初審

控人工復(fù)核

統(tǒng)

人工處置

圖5人工審核層結(jié)構(gòu)圖

6.3.4大數(shù)據(jù)分析訓(xùn)練層

大數(shù)據(jù)分析訓(xùn)練層根據(jù)線上不良信息管控系統(tǒng)不斷過濾累積的消息數(shù)據(jù),來優(yōu)化算法模型。通過這

一層可以針對(duì)線上問題進(jìn)行算法優(yōu)化,提高不良信息管控系統(tǒng)的管控能力。該層的結(jié)構(gòu)如圖6所示。:

8

YD/T×××××—××××

大數(shù)據(jù)分析訓(xùn)練層

不數(shù)據(jù)存儲(chǔ)

大數(shù)據(jù)訓(xùn)練分析

算法模型優(yōu)化大數(shù)據(jù)分析優(yōu)化

統(tǒng)

圖6大數(shù)據(jù)分析訓(xùn)練層結(jié)構(gòu)圖

7移動(dòng)互聯(lián)網(wǎng)不良信息管控系統(tǒng)信息處理流程要求

7.1審核算法處理流程的要求

不良信息管控系統(tǒng)審核算法包括但不限于涉政識(shí)別、涉黃識(shí)別、暴恐識(shí)別和廣告識(shí)別等,實(shí)際中

根據(jù)業(yè)務(wù)需求及硬件資源條件可對(duì)這些識(shí)別算法進(jìn)行排列組合。

各識(shí)別單元并行處理邏輯簡(jiǎn)單,響應(yīng)速度快,但會(huì)占用較多硬件資源;串行處理則需要考慮各識(shí)

別單元的優(yōu)先級(jí)及前后銜接邏輯。按審核需求優(yōu)先級(jí)由高到低串聯(lián),如對(duì)涉政要求較高的業(yè)務(wù),一般最

先過涉政識(shí)別,其次過涉黃、暴恐和廣告等其他識(shí)別算法,這種處理方式響應(yīng)速度比并行處理慢,但硬

件資源占用較少;此外,還可根據(jù)實(shí)際需要并行與串行混合使用。

圖7和圖8分別是識(shí)別單元并行處理與串行處理的流程圖。

在并行處理流程中,消息內(nèi)容同時(shí)送入各個(gè)識(shí)別單元,各單元同時(shí)進(jìn)行算法識(shí)別推斷,只要其中

有一個(gè)單元判斷結(jié)果為違規(guī),則該消息被判為違規(guī),審核結(jié)束。

在串行處理流程中,消息依次過各個(gè)識(shí)別單元,只要在某一個(gè)識(shí)別單元中消息被判為違規(guī),則跳

過后續(xù)識(shí)別單元,輸出審核結(jié)果,審核結(jié)束。

算法審核

預(yù)處理涉政識(shí)別人工審核

涉黃識(shí)別

暴恐識(shí)別

......

圖7識(shí)別單元并行處理流程

9

YD/T×××××—××××

算法審核

違規(guī)

預(yù)處理涉政識(shí)別涉黃識(shí)別涉黃識(shí)別涉黃識(shí)別人工審核

圖8識(shí)別單元串行處理流程

7.2消息處理流程的要求

移動(dòng)互聯(lián)網(wǎng)圖片/視頻/音頻/文本/文件/URL類消息處理流程如圖9所示。

對(duì)于圖片、視頻、音頻、文本、文件和URL類消息,其基本處理流程相同,經(jīng)過預(yù)處理和人工智能

算法之后,根據(jù)需要送往人工審核。

對(duì)于不同類別的消息,具體的預(yù)處理方式應(yīng)有所不同,分為三種。

第一種為通用方式,適用于圖片、視頻、音頻和文本消息。

第二種針對(duì)文件類消息,文件格式包括office、wps文件、html、xml、chm、txt文件,及rar、

zip、tar.gz等壓縮類型的文件。為了提升審核效率和配合下一步的算法審核,要求預(yù)處理子模塊能提

供對(duì)文件格式的判斷、自動(dòng)識(shí)別并解析為圖片、文本、視頻等單位消息的能力。

第三種對(duì)于URL類消息,要求通過網(wǎng)絡(luò)爬蟲提取相關(guān)內(nèi)容,再將內(nèi)容分為文本、圖片、音頻和視頻

等原子消息,對(duì)這些原子消息分別進(jìn)行算法審核,最后再綜合所有原子消息的審核結(jié)果,對(duì)URL類消息

進(jìn)行綜合判斷處置。

移動(dòng)互聯(lián)網(wǎng)業(yè)務(wù)系統(tǒng)

圖片/視頻/音頻/文本/文件/URL

良預(yù)處理反饋

核人工智能算

送審

統(tǒng)

人工審核

圖9消息處理流程

對(duì)于不同種類消息,采取的人工智能算法有所不同。對(duì)于文本類消息,采取文本分類、關(guān)鍵詞匹配

等算法;對(duì)于圖片/視頻,則主要采取圖片/視頻分類、目標(biāo)檢測(cè)等算法;對(duì)于音頻消息,則主要采取語

10

YD/T×××××—××××

音識(shí)別算法,將音頻轉(zhuǎn)為文字,再用文本分類、關(guān)鍵詞匹配等算法進(jìn)行審核。

_________________________________

11

YD/T×××××—××××

目次

目次................................................................................................................................................................I

前言...............................................................................................................................................................2

移動(dòng)互聯(lián)網(wǎng)不良信息管控系統(tǒng)開放平臺(tái)總體技術(shù)要求...................................................................................3

1范圍...................................................................................................................................................................3

2規(guī)范性引用文件...............................................................................................................................................3

3術(shù)語和定義.......................................................................................................................................................3

4縮略語...............................................................................................................................................................3

5互聯(lián)網(wǎng)不良信息類型分類...............................................................................................................................3

5.1概述...........................................................................................................................................................3

5.2不良信息涉及話題...................................................................................................................................3

5.2.1涉政類信息.......................................................................................................................................3

5.2.2涉黃類信息.......................................................................................................................................4

5.2.3暴恐類信息.......................................................................................................................................4

5.2.4廣告類信息.......................................................................................................................................4

5.3不良信息內(nèi)容類型...................................................................................................................................4

5.3.1文本類...............................................................................................................................................4

5.3.2圖片類...............................................................................................................................................4

5.3.3音頻類...............................................................................................................................................4

5.3.4視頻類...............................................................................................................................................5

5.3.5文件類...............................................................................................................................................5

5.3.6URL類...............................................................................................................................................5

6移動(dòng)互聯(lián)網(wǎng)不良信息管控系統(tǒng)構(gòu)建原則及架構(gòu)要求...................................................................................5

6.1構(gòu)建原則...................................................................................................................................................5

6.2系統(tǒng)架構(gòu)...................................................................................................................................................5

6.3不良信息管控系統(tǒng)的主要功能劃分.......................................................................................................7

6.3.1消息接入層.......................................................................................................................................7

6.3.2算法審核層.......................................................................................................................................7

7移動(dòng)互聯(lián)網(wǎng)不良信息管控系統(tǒng)信息處理流程要求.......................................................................................9

7.1審核算法處理流程的要求.......................................................................................................................9

7.2消息處理流程的要求............................................................................................................................10

I

YD/T×××××—××××

移動(dòng)互聯(lián)網(wǎng)不良信息管控系統(tǒng)開放平臺(tái)總體技術(shù)要求

1范圍

本文件規(guī)定了互聯(lián)網(wǎng)不良信息的定義和分類,不良信息管控系統(tǒng)的架構(gòu)要求、功能要求、技術(shù)要求

和信息處理流程要求等。

本文件適用于接入不良信息管控系統(tǒng)開放平臺(tái)的研發(fā)、設(shè)計(jì)、運(yùn)維等使用場(chǎng)景。

2規(guī)范性引用文件

本文件無規(guī)范性引用文件。

3術(shù)語和定義

本文件沒有需要界定的術(shù)語和定義。

4縮略語

URL統(tǒng)一資源定位符,也被稱為網(wǎng)頁地址(UniformResourceLocator)

OCR光學(xué)字符識(shí)別(OpticalCharacterRecognition)

5互聯(lián)網(wǎng)不良信息類型分類

5.1概述

不良信息的形式多種多樣,有多種傳輸渠道,廣泛存在于即時(shí)通信、企業(yè)OA、郵箱系統(tǒng)、微博、論

壇等應(yīng)用中,依據(jù)涉及方面有涉政、涉黃、暴恐、廣告四大類,根據(jù)內(nèi)容類型來分有文本、圖片、音頻、

視頻、文件和URL六大類。

5.2不良信息涉及話題

5.2.1涉政類信息

涉政類信息包括但不限于如下內(nèi)容:

?反對(duì)憲法所確定的基本原則的;

?危害國(guó)家安全,泄露國(guó)家秘密,顛覆國(guó)家政權(quán),破壞國(guó)家統(tǒng)一的;

?損害國(guó)家榮譽(yù)和利益的;

?煽動(dòng)民族仇恨、民族歧視,破壞民族團(tuán)結(jié)的;

3

YD/T×××××—××××

?破壞國(guó)家宗教政策,宣揚(yáng)邪教和封建迷信的;

?散布謠言,擾亂社會(huì)秩序,破壞社會(huì)穩(wěn)定的。

5.2.2涉黃類信息

涉黃類信息指直接表現(xiàn)性器官、性行為的互聯(lián)網(wǎng)內(nèi)容,包括但不限于以下幾類:

?直接暴露人體性器官;

?表現(xiàn)性行為的動(dòng)作、姿態(tài)等;

?暴露低俗、帶有性暗示、性挑逗或者隱諱展現(xiàn)性行為、性過程的內(nèi)容。

5.2.3暴恐類信息

暴恐類信息包括但不限于如下內(nèi)容:

a)展現(xiàn)血腥、驚悚、殘忍等致人身心不適的;

b)出現(xiàn)持有管制刀具、槍支、火箭炮等槍械人員;

c)出現(xiàn)參與作戰(zhàn)危險(xiǎn)車輛皮卡改裝車(車上安裝槍支)、坦克、飛機(jī)(戰(zhàn)斗機(jī));

d)以暴力手段危害公共財(cái)產(chǎn)的人員;

e)宣揚(yáng)恐怖主義、極端主義或者煽動(dòng)實(shí)施恐怖活動(dòng)、極端主義活動(dòng)的,包括但不限于:

?出現(xiàn)恐怖分子頭目、政治敏感人物;

?出現(xiàn)大量人員游行、斗毆、焚燒車輛及建筑物等;

?出現(xiàn)恐怖分子標(biāo)志、犯罪分子電視臺(tái)臺(tái)標(biāo)、以及國(guó)旗等;

?含有煽動(dòng)“圣戰(zhàn)”“伊吉拉特”等宗教極端;

5.2.4廣告類信息

廣告類信息包括但不限于如下內(nèi)容:

?房地產(chǎn)類廣告信息,包含對(duì)樓盤、商鋪、個(gè)人住房進(jìn)行銷售、租賃、求租、求購、招商、介紹

宣傳的;

?金融類廣告信息,包含銀行、證券、保險(xiǎn)、貸款或者相關(guān)金融產(chǎn)品的關(guān)鍵字,有經(jīng)營(yíng)范圍(含

產(chǎn)品介紹、產(chǎn)品名稱、公司名稱、推廣活動(dòng)等),兼?zhèn)渚哂袃?yōu)惠介紹、聯(lián)系方式、地址、促銷

宣傳意圖其中任一項(xiàng)的信息;

?促銷推銷類廣告信息,包含商場(chǎng)促銷、商品推銷、教育培訓(xùn)宣傳、企業(yè)咨詢的信息,如:買賣

商品、商戶開業(yè)、教育培訓(xùn)、招生招聘、各類講座等。

5.3不良信息內(nèi)容類型

5.3.1文本類

文本類信息是指在數(shù)據(jù)交互過程中以文本形式傳輸?shù)男畔ⅰ?/p>

文本是最常用的數(shù)據(jù)交互類型,可以有效快速地傳播不良信息,具有占用空間小、傳輸速度快、傳

播成本低、應(yīng)用場(chǎng)景多等特點(diǎn),是不良信息管控的重點(diǎn)。

5.3.2

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請(qǐng)下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請(qǐng)聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對(duì)用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對(duì)用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對(duì)任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請(qǐng)與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對(duì)自己和他人造成任何形式的傷害或損失。

評(píng)論

0/150

提交評(píng)論