“監(jiān)管+自律”整治直播亂象

1、監(jiān)管+自律整治直播亂象“監(jiān)管+自律”整治直播亂象作為一種新興的商業(yè)模式，近兩年，網(wǎng)絡(luò)直播發(fā)展迅猛、熱鬧非凡?；ń?、 映客、熊貓、微吼、樂嗨等諸多直播平臺如雨后春筍，騰訊、新浪、小米等互聯(lián) 網(wǎng)企業(yè)和電信企業(yè)也紛紛進軍這一領(lǐng)域，網(wǎng)絡(luò)直播已成為20XX年最火熱的“互 聯(lián)網(wǎng)風口”之一。但直播平臺亂象叢生、網(wǎng)絡(luò)直播行業(yè)野蠻發(fā)展也是不爭的事實。文化部7月 12日公布，26個網(wǎng)絡(luò)表演平臺被查處、16881名違規(guī)網(wǎng)絡(luò)表演者被處理。如何 還網(wǎng)絡(luò)直播平臺清朗？本文淺析網(wǎng)絡(luò)直播亂象產(chǎn)生根源及需要管控的對象，并從 監(jiān)管、技術(shù)、自律等層面進行初步探討?！跋U伏”后迎爆發(fā)式增長作為一種全新的信息傳遞手段，網(wǎng)絡(luò)直播顛覆著人們

2、觀察世界、連通世界的 方式，為人們提供了一種看世界的新鮮方式。偌大的直播平臺上，體育、旅游、 游戲、教育等多元的直播內(nèi)容層出不窮，無論什么年齡、什么身份的人，都可以 前腳跟隨主播的鏡頭，身臨其境看車展，體會指哪兒到哪兒的便捷，后腳就可以 轉(zhuǎn)換頻道進入學(xué)習(xí)模式，和“意見領(lǐng)袖”一起探討如何培養(yǎng)孩子的情商豐富 而有張力的網(wǎng)絡(luò)直播內(nèi)容充滿了吸引力，讓越來越多的人尤其是年輕人欲罷不 能，而其本身的即視感和互動性也迎合了年輕用戶的文化消費習(xí)慣。據(jù)行業(yè)報告顯示，20XX年直播行業(yè)市場規(guī)模約為150億元，到20XX年總規(guī) 模將激增至1000億元。當前網(wǎng)絡(luò)直播平臺數(shù)量接近200家，網(wǎng)絡(luò)直播平臺用戶 數(shù)量已經(jīng)達到

3、2億，大型直播平臺每日高峰時段同時在線人數(shù)接近400萬，同時 進行直播的房間數(shù)量超過3000個?？梢哉f，網(wǎng)絡(luò)直播行業(yè)經(jīng)歷兩年“蟄伏”， 正迎來爆發(fā)式增長。但由于收益模式單一、主播進入門檻低，個別直播平臺為獲取利潤，盯住“很 黃很暴力”做文章，鋌而走險。從“直播造人門”“直播脫衣門” “百人試套” 到近期的“雪梨槍淫穢視頻”，表演平臺淫穢色情事件頻發(fā)，更有涉政、涉暴恐、 涉賭毒等違法事件發(fā)生，網(wǎng)絡(luò)直播亂象已經(jīng)嚴重阻礙了該行業(yè)的快速發(fā)展。利益驅(qū)使：導(dǎo)致直播亂象頻發(fā)那么，直播平臺亂象產(chǎn)生的根源是什么？讓我們從網(wǎng)絡(luò)直播的產(chǎn)業(yè)鏈進行分 析。整個網(wǎng)絡(luò)直播行業(yè)的產(chǎn)業(yè)鏈由直播平臺、主播、工會、資本、監(jiān)管機構(gòu)、

4、用 戶、第三方服務(wù)機構(gòu)等環(huán)節(jié)組成。在網(wǎng)絡(luò)直播過程中，直播平臺一般由主播和用 戶自身及互動行為來構(gòu)成，通過文字、視頻、音頻三種渠道傳播各類信息。主播、 用戶是產(chǎn)生網(wǎng)絡(luò)亂象的“供需”根源，而文字、視頻、音頻是傳播網(wǎng)絡(luò)亂象的“載 體”根源。首先是“供需”根源：主播按照播出內(nèi)容分為秀場主播、游戲主播、泛生活 類主播等，由于利益驅(qū)使，部分主播頻頻突破社會公德底線，甚至沖撞法律“紅 線”；隨著直播平臺的用戶持續(xù)增長，一些惡意用戶開始利用直播平臺的高人氣 和影響力發(fā)送不良、違規(guī)信息，直接或間接地促進了亂象的擴散。其次是“載體”根源：網(wǎng)絡(luò)直播業(yè)務(wù)中文字分為UGC類（主播頭像、主播昵 稱、頻道名稱等）和彈幕類（

5、消息等），尤其是彈幕類內(nèi)容具有傳播速度快、范 圍廣、違規(guī)內(nèi)容變化快等特點，依靠傳統(tǒng)“關(guān)鍵字+人工審核”模式不能有效解 決內(nèi)容安全問題；目前視頻審核的模式是對視頻做抽幀截圖處理，然后通過圖片 識別系統(tǒng)過濾，這個方式存在對違規(guī)圖片識別準確率不高、通過抽幀截圖發(fā)現(xiàn)問 題后立即關(guān)閉直播頻道也難以挽回影響的問題；直播業(yè)務(wù)中音頻內(nèi)容監(jiān)管難度 大，目前還沒有直播平臺針對語音內(nèi)容進行識別，語音內(nèi)容違規(guī)現(xiàn)象頻發(fā)。此外，還存在直播企業(yè)缺少回溯技術(shù)手段以及應(yīng)急保障機制、審核團隊能力 欠缺，特別是對涉及意識形態(tài)問題經(jīng)驗欠缺等問題。三對策完善內(nèi)容安全建設(shè)要想維護網(wǎng)絡(luò)直播領(lǐng)域的清朗，需要政企雙方共同合作，在監(jiān)管和自律兩方

6、 面雙管齊下。在北京市網(wǎng)絡(luò)文化協(xié)會的組織下，20XX年4月13日，百度、新浪、搜狐、 愛奇藝等20余家從事網(wǎng)絡(luò)直播的主要企業(yè)負責人，共同發(fā)布北京網(wǎng)絡(luò)直播行 業(yè)自律公約，并逐步建立“黑名單”制度，在自律方面做出了榜樣。而在監(jiān)管方面，從目前直播內(nèi)容依舊頻繁違規(guī)的現(xiàn)象看，依靠單一的文字識 別或者圖片識別是不足以解決內(nèi)容合規(guī)問題的，還需要一套完整的內(nèi)容安全體 系。因此，可以借力“人工智能”和大數(shù)據(jù)技術(shù)，打造以安全運營為核心的內(nèi)容安全體系，從事前、事中、事后三方面進行整體監(jiān)管。首先是事前預(yù)防?！胺阑加谖慈弧笔侵卫怼爸辈y象”的重要基礎(chǔ)，直播平 臺、監(jiān)管機構(gòu)要共同對主播、“網(wǎng)紅”、用戶等參與方加強宣傳引導(dǎo)

7、，樹立互聯(lián) 網(wǎng)良好風氣；在技術(shù)上，直播間增加水印，實行主播實名制、用戶實名制等。其次是事中管控。消息、視頻、音頻、主播信息、用戶信息等渠道都可以傳 播違規(guī)內(nèi)容，因此“事中管控”需要包含文字識別、圖片識別、音頻識別、UGC 內(nèi)容識別以及用戶行為分析等技術(shù)。具體來講包括以下四點。文本識別：傳統(tǒng)文本識別技術(shù)主要包含關(guān)鍵字過濾、語義分析、文本指紋等 技術(shù)以及近期新興起的基于自然語言的“人工智能”技術(shù)。這些技術(shù)各有利弊， 在不同場景產(chǎn)生的效果不盡相同，需要組合應(yīng)用才能降低文本信息的風險。圖片識別：該技術(shù)模擬人腦的神經(jīng)網(wǎng)絡(luò)學(xué)識別圖片，通過大量圖片訓(xùn)練后給 圖片打分。主要應(yīng)用于在圖片中識別文字、識別人臉、識別色情信息等三個場景。 在直播領(lǐng)域通過抽幀截圖的方式把視頻變成圖片，然后通過圖片識別的方式判斷 視頻內(nèi)容是否合規(guī)。語音識別：該技術(shù)就是讓機器通過識別和理解過程把語音信號轉(zhuǎn)變?yōu)橄鄳?yīng)的 文本。在直播業(yè)務(wù)中我們利用該技術(shù)把主播聲音轉(zhuǎn)化成文字內(nèi)容，然后通過文本 識別的方式判斷語音內(nèi)容的合規(guī)性。用戶行為分析：基于大數(shù)據(jù)分析技術(shù)，是文字、圖片、語音識別技術(shù)的有力 補充，也是識別違規(guī)內(nèi)容的重要手段之一。例如當一個直播間出現(xiàn)人流量激增、 打賞禮物激增等行為時，可以采取加大監(jiān)控力度等措施。第三是事后追溯。治理直播亂象僅僅依靠技術(shù)是不夠的，加強法律震懾、提 高違法成本也十分重要。例如近期