數(shù)據(jù)新聞與信息可視化 課件 第5、6章 數(shù)據(jù)分析之基礎(chǔ)統(tǒng)計(jì)、數(shù)據(jù)分析之文本挖掘_第1頁
數(shù)據(jù)新聞與信息可視化 課件 第5、6章 數(shù)據(jù)分析之基礎(chǔ)統(tǒng)計(jì)、數(shù)據(jù)分析之文本挖掘_第2頁
數(shù)據(jù)新聞與信息可視化 課件 第5、6章 數(shù)據(jù)分析之基礎(chǔ)統(tǒng)計(jì)、數(shù)據(jù)分析之文本挖掘_第3頁
數(shù)據(jù)新聞與信息可視化 課件 第5、6章 數(shù)據(jù)分析之基礎(chǔ)統(tǒng)計(jì)、數(shù)據(jù)分析之文本挖掘_第4頁
數(shù)據(jù)新聞與信息可視化 課件 第5、6章 數(shù)據(jù)分析之基礎(chǔ)統(tǒng)計(jì)、數(shù)據(jù)分析之文本挖掘_第5頁
已閱讀5頁,還剩47頁未讀, 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報(bào)或認(rèn)領(lǐng)

文檔簡介

數(shù)據(jù)新聞與信息可視化數(shù)據(jù)分析之基礎(chǔ)統(tǒng)計(jì)第五章目錄CONTENT01.

新聞中的數(shù)據(jù)應(yīng)用與統(tǒng)計(jì)邏輯02.數(shù)據(jù)分析軟件的種類與設(shè)置03.單變量描述04.多變量分析新聞中的數(shù)據(jù)應(yīng)用與統(tǒng)計(jì)邏輯1.1新聞報(bào)道為何需要數(shù)據(jù)分析1.2數(shù)據(jù)分析的基本邏輯:統(tǒng)計(jì)推論與假設(shè)檢驗(yàn)1.3數(shù)據(jù)分析的注意事項(xiàng)第一節(jié)當(dāng)今新聞傳播的學(xué)生與從業(yè)者都亟需掌握一定的數(shù)據(jù)分析知識。只有通過系統(tǒng)而科學(xué)的數(shù)據(jù)分析,我們才能夠從海量數(shù)據(jù)中發(fā)掘獨(dú)特的意義與全新的敘事角度,揭示數(shù)據(jù)中隱含的社會(huì)現(xiàn)實(shí),最終形成兼具數(shù)據(jù)邏輯與新聞價(jià)值的報(bào)道。

1.1新聞報(bào)道為何需要數(shù)據(jù)分析數(shù)據(jù)反映了網(wǎng)絡(luò)社會(huì)中普遍的聯(lián)系狀態(tài),通過分析數(shù)據(jù)記者得以理解更復(fù)雜的因果機(jī)制。數(shù)據(jù)可以幫助新聞?dòng)浾哂萌碌囊暯腔蚴址▉黻U述的復(fù)雜問題或經(jīng)典議題。尤其當(dāng)報(bào)道中涉及的議題含有對普通讀者來說較為抽象的概念時(shí),數(shù)據(jù)可視化呈現(xiàn)可使讀者理解起來更加輕松。數(shù)據(jù)新聞不止于解釋,更可為讀者提供具有現(xiàn)實(shí)意義的幫助和指導(dǎo)。

1.2數(shù)據(jù)分析的基本邏輯:統(tǒng)計(jì)推論與假設(shè)檢驗(yàn)統(tǒng)計(jì)學(xué)的一個(gè)重要目標(biāo),就是通過研究一個(gè)相對較小體量的“局部數(shù)據(jù)”(即樣本),來了解總體的情況。這時(shí)候,我們需要統(tǒng)計(jì)推論(statistical

inference)幫助我們通過有限的樣本信息,來判斷樣本中觀察到的模式在總體中依然成立的可能性。

我們可以通過平均數(shù)這個(gè)基本的統(tǒng)計(jì)模型來理解統(tǒng)計(jì)推論的邏輯。中心極限定律是一個(gè)經(jīng)典的統(tǒng)計(jì)學(xué)理論,其指出任何從任一分布總體中隨機(jī)抽取出n個(gè)樣本,當(dāng)抽取的樣本數(shù)量n足夠多時(shí),樣本的平均數(shù)分布將趨近正態(tài)分布。

正態(tài)分布的曲線

1.2數(shù)據(jù)分析的基本邏輯:統(tǒng)計(jì)推論與假設(shè)檢驗(yàn)推論所得的范圍稱為置信區(qū)間(confidenceinterval),將95%或99%這個(gè)百分比稱為置信水平(levelofconfidence)。置信區(qū)間為我們推測真實(shí)統(tǒng)計(jì)值可能出現(xiàn)的范圍。

在量化社會(huì)科學(xué)研究中,研究者通經(jīng)?!凹僭O(shè)驗(yàn)證”方法進(jìn)行推論。當(dāng)研究者獲得樣本后,會(huì)對其數(shù)據(jù)進(jìn)行分析,得到一些解釋數(shù)據(jù)關(guān)系的統(tǒng)計(jì)值。我們當(dāng)然想知道在樣本中觀察到的關(guān)系在真實(shí)總體中是否成立。這就涉及到假設(shè)驗(yàn)證的方法。

在推論統(tǒng)計(jì)中,我們可以通過比較P值與顯著性水平α,來對統(tǒng)計(jì)顯著性進(jìn)行判斷。1.2數(shù)據(jù)分析的基本邏輯:統(tǒng)計(jì)推論與假設(shè)檢驗(yàn)關(guān)于p值1.

P值反映了一種統(tǒng)計(jì)分析的顯著性程度。P值間接指向零假設(shè)成立的概率。2.

P值越小,我們就越有把握拒絕零假設(shè),接受研究假設(shè)。較小的P值,意味著更高的統(tǒng)計(jì)顯著性。3.

P值需要與事先設(shè)定的α比對。當(dāng)P<α的時(shí)候,意味著具有“統(tǒng)計(jì)上顯著性”的結(jié)果。4.

P值所比照的α值并不是客觀標(biāo)準(zhǔn),而是社會(huì)研究者在長期實(shí)踐中約定俗成的一些標(biāo)準(zhǔn)。

5.

以P值為核心的假設(shè)驗(yàn)證體系存在局限和問題

追問樣本來源明確分析層級數(shù)據(jù)分析的分組與合并(辛普森悖論)排除干擾變量避免太過復(fù)雜的模型1.3

數(shù)據(jù)分析的注意事項(xiàng)數(shù)據(jù)分析軟件的種類與設(shè)置2.1主要數(shù)據(jù)分析軟件2.2R語言的安裝與基本設(shè)置2.3安裝R語言功能包第二節(jié)在社會(huì)科學(xué)領(lǐng)域,最為常見的專業(yè)數(shù)據(jù)分析軟件有SPSS、STATA、SAS、R語言和Python等等

。近年來,R語言和Python語言為代表的編程語言漸漸成為主流的分析工具。以下是二者的特色對比。2.1主要數(shù)據(jù)分析軟件面對多元技術(shù)空間與復(fù)雜的數(shù)據(jù)形態(tài),研究者很難依靠某一種工具或一套固定的技術(shù)方法來應(yīng)對所有的數(shù)據(jù)分析工作。很多時(shí)候我們需要協(xié)同使用多種工具來完成一個(gè)任務(wù)。在長期的實(shí)踐中,我們需要發(fā)展出一個(gè)具有個(gè)人特色的工具箱以及一整套工作流程去應(yīng)對復(fù)雜的數(shù)據(jù)分析任務(wù)。

R語言Python語言運(yùn)行速度較慢較快語法規(guī)則較為簡潔但一致性低簡潔、可讀性與一致性高數(shù)據(jù)抓取能力較差較強(qiáng)社會(huì)統(tǒng)計(jì)更強(qiáng)較弱機(jī)器學(xué)習(xí)各有所長各有所長可視化能力更強(qiáng)較強(qiáng)應(yīng)用行業(yè)學(xué)術(shù)研究、金融互聯(lián)網(wǎng)研發(fā)、商業(yè)部門主流包/庫dplyr/ggplot2/data.tableNumpy/Pandas/Matplotlib/Scikit-learn安裝好R和RStudio首先選擇一個(gè)連接速度良好的CRAN鏡像設(shè)置一個(gè)工作目錄

2.2

R語言的安裝與基本設(shè)置R語言為開源程序,可在官方站免費(fèi)下載。CRAN(TheComprehensiveRArchiveNetwork)網(wǎng)站為各種R相關(guān)資源的官方網(wǎng)站,用戶可以在上面找到相關(guān)的下載資源和教程。R語言界面比較簡單,可以考慮使用IDE。RStudio是一款廣受好評的R語言開發(fā)環(huán)境。

Rstudio的用戶界面使用R語言進(jìn)行數(shù)據(jù)分析時(shí),我們會(huì)用到很多功能包(Packages)。在R語言中,絕大多數(shù)的分析和功能實(shí)現(xiàn)需要通過函數(shù)來實(shí)現(xiàn)。R的功能包就是一系列特定函數(shù)的集合。換言之,R功能包就是一些實(shí)現(xiàn)相關(guān)功能的工具箱。

安裝ggplot2包

install.packages("ggplot2")啟動(dòng)ggplot2包

library(ggplot2)呼出ggplot2包的介紹

help(ggplot2)呼出geom_bar這個(gè)函數(shù)的使用說明

help(geom_bar)2.3

安裝R語言功能包

每次啟動(dòng)RStudio的時(shí)候會(huì)自動(dòng)加載,如base,datasets,graphics,stats包。

在R用戶中非常受歡迎,例如優(yōu)秀的作圖功能包ggplot2,高效的數(shù)據(jù)處理包dplyr,綜合統(tǒng)計(jì)應(yīng)用包Hmsic,文本分析工具tm等等。

單變量描述3.1數(shù)據(jù)描述的基本知識3.2數(shù)據(jù)描述的軟件操作3.3通過圖形描述數(shù)據(jù)第三節(jié)頻數(shù)與百分比集中趨勢:平均數(shù)、中位數(shù)、眾數(shù)平均數(shù)計(jì)算離散趨勢:方差與標(biāo)準(zhǔn)差3.1數(shù)據(jù)描述的基本知識圖

正偏分布(上圖)與負(fù)偏分布(下圖)Excel操作篩選排序利用函數(shù)計(jì)算:頻數(shù)與百分比/集中趨勢/離散趨勢數(shù)據(jù)透視表R語言操作載入數(shù)據(jù):read.csv()檢視數(shù)據(jù)篩選數(shù)據(jù):subset()排序:order()3.2數(shù)據(jù)描述的軟件操作

R語言操作統(tǒng)計(jì)頻數(shù)與百分比:table(),prop.table()平均數(shù):mean()中位數(shù):median()標(biāo)準(zhǔn)差:sd()分組數(shù)據(jù)統(tǒng)計(jì)函數(shù):aggregate()3.2數(shù)據(jù)描述的軟件操作

表R語言中常用的操作符號(operators)ggplot2操作基本語法:ggplot(data=,aes(x=,y=))+geom_xxx()柱狀圖/條形圖:

geom_bar()直方圖:geom_histogram()箱線圖:geom_boxplot()3.3通過圖形描述數(shù)據(jù)圖

樣本來源(城市/農(nóng)村)與擁有小汽車情況的堆積柱狀圖(比例)圖

基于樣本來源和性別進(jìn)行分面的身高直方圖圖

區(qū)分男女性別的身高分布直方圖圖

箱線圖中線條所代表的統(tǒng)計(jì)值多變量分析4.1交叉分析與卡方檢驗(yàn)4.2均值比較:t檢驗(yàn)與方差分析4.3相關(guān)分析4.4回歸分析第四節(jié)交叉分析可用于分析兩個(gè)類別型變量之間的關(guān)系。在數(shù)據(jù)分析時(shí),我們經(jīng)常需要處理類別變量。類別型變量只描述對象的類型分別,類和類之間并不存在算數(shù)關(guān)系,所以計(jì)算類別變量的平均數(shù)或方差是沒有意義的。因而,分析兩個(gè)類別變量仍然要著眼其頻數(shù)。具體而言,我們需要將變量中的類別組合成不同條件,在統(tǒng)計(jì)落入各種條件的個(gè)案頻數(shù),以此來觀察兩個(gè)變量之間的關(guān)系??ǚ接?jì)算公式:創(chuàng)建交叉表格:table()函數(shù)計(jì)算卡方值:chisq.test()函數(shù)4.1交叉分析與卡方檢驗(yàn)

表不同艙位乘客的幸存情況(括號中為理論值)當(dāng)分析一個(gè)類別變量與一個(gè)數(shù)值型變量之間的關(guān)系時(shí),則需要使用均值比較的策略。t檢驗(yàn)只適用于含有兩個(gè)類別的分類變量(如性別或城市/農(nóng)村戶籍人口)的均值比較,而方差分析適用于含有兩個(gè)或以上類別的分類變量的均值比較。R語言操作

T檢驗(yàn):t.test()

方差分析:anova()4.2均值比較:t檢驗(yàn)與方差分析

圖比較男女年收入平均數(shù)的t檢驗(yàn)結(jié)果圖方差分析結(jié)果相關(guān)分析(correlation)用以計(jì)算兩個(gè)數(shù)值型變量關(guān)聯(lián)強(qiáng)度的統(tǒng)計(jì)方法。兩個(gè)數(shù)值型變量都可以在區(qū)間內(nèi)連續(xù)波動(dòng),因而我們可以計(jì)算出一個(gè)統(tǒng)計(jì)值來衡量兩個(gè)變量協(xié)同變化的程度。這里我們介紹一種最常用的相關(guān)分析方法皮爾遜相關(guān)系數(shù)(Pearson’scorrelationcoefficients)。R語言函數(shù):cor.test()4.3相關(guān)分析表皮爾遜相關(guān)系數(shù)表明的相關(guān)性強(qiáng)度回歸是分析若干自變量如何“影響”另一個(gè)因變量的統(tǒng)計(jì)方法?;貧w分析還能夠明確自變量對因變量的解釋力以及自變量間相對影響力的大小。包含很多種類型。這里介紹其最常見的形式:多元線性回歸模型(multiplelinearregressionmodel)。首先,介紹回歸的最簡單形式——簡單線性回歸(simplelinearregression)。簡單線性回歸旨在用一個(gè)數(shù)值型自變量去預(yù)測另一個(gè)數(shù)值型因變量。將一個(gè)變量定為自變量(X),將另一變量定為因變量(Y),自變量X對因變量Y產(chǎn)生影響。回歸分析預(yù)測因變量yY的公式如下:最小二乘法(ordinaryleastsquares)是一種常用的回歸估計(jì)方法,可以找到所產(chǎn)生殘差平方和(sumofsquaredresiduals)最小的一條直線作為回歸線,并計(jì)算出其具體的系數(shù)。R語言函數(shù):lm()4.4

回歸分析

回歸分析結(jié)果返回很多信息:殘差的分布(residuals)回歸系數(shù)(regression

coeffients)回歸系數(shù)對應(yīng)的標(biāo)準(zhǔn)誤差、t檢驗(yàn)和P值模型擬合指標(biāo)(MultipleR-squared/AdjustedR-squared)模型顯著性指標(biāo)(F-statistic)4.4

回歸分析

圖用身高預(yù)測體重的簡單線性回歸結(jié)果多元線性回歸用若干自變量預(yù)測一個(gè)因變量。這些自變量既可以是數(shù)值型變量,也可以是分類變量。

我們將自變量計(jì)作x1,x2,x3,…,xn,將因變量計(jì)作y,則因變量與自變量滿足如下線性關(guān)系:解析多元回歸根據(jù)回歸分析估計(jì)的參數(shù),寫出回歸方程解讀回歸系數(shù)區(qū)分回歸系數(shù)與標(biāo)準(zhǔn)化回歸系數(shù)解讀回歸中的虛擬變量的系數(shù)解讀回歸分析的模型擬合程度指標(biāo)4.4回歸分析

圖身高、出生年份與體重的三維散點(diǎn)圖回歸分析的注意事項(xiàng)對多元線性回歸要求因變量為數(shù)值型變量,自變量要存在充分的變化量。要警惕數(shù)據(jù)中的離群值,它們可能會(huì)對回歸系數(shù)產(chǎn)生較大改變,進(jìn)而影響解讀多元回歸中,各自變量之間不宜有過高的相關(guān)性,否則會(huì)造成多重共線性現(xiàn)象回歸分析對殘差也有一些假設(shè):每個(gè)自變量的殘差呈正態(tài)分布,且回歸預(yù)測產(chǎn)生的殘差之間彼此獨(dú)立,不能具有相關(guān)性;回歸分析還需要滿足同方差性(homoscedasticity)條件:回歸預(yù)測所產(chǎn)生的誤差的方差應(yīng)該在自變量的各個(gè)區(qū)間內(nèi)保持恒定;多元線性回歸假設(shè)自變量與因變量之間為線性關(guān)系。

4.4

回歸分析

THANKS謝謝觀看數(shù)據(jù)新聞與信息可視化數(shù)據(jù)分析之文本挖掘第六章目錄CONTENT01.

文本挖掘在數(shù)據(jù)新聞中的應(yīng)用02.文本預(yù)處理03.

詞頻與關(guān)鍵詞分析04.主題發(fā)現(xiàn)、情感分析與語義網(wǎng)絡(luò)05.

數(shù)據(jù)分析與數(shù)據(jù)新聞敘事文本挖掘在數(shù)據(jù)新聞中的應(yīng)用第一節(jié)1.1文本挖掘在數(shù)據(jù)新聞中的應(yīng)用傳統(tǒng)的社會(huì)科學(xué)研究方法其實(shí)已經(jīng)形成了一系列分析“文本”的策略,如內(nèi)容分析、文本分析、符號分析、對話分析、話語分析等方法去闡釋各種文本的意義隨著數(shù)據(jù)科學(xué)的發(fā)展,使用計(jì)算機(jī)代替人工來分析文本數(shù)據(jù)的技術(shù)應(yīng)運(yùn)而生,例如利用計(jì)算機(jī)識讀、解析人類語言的的自然語言處理(naturallanguageprocessing)技術(shù)。今天的數(shù)據(jù)新聞?dòng)浾咭部梢允褂糜?jì)算機(jī)輔助方法來高效地分析文本數(shù)據(jù)。這類方法被稱為電腦輔助文本分析(computer-assistedtextanalysis)或文本挖掘(textmining)。我們可以通過簡單的編程語言操作或更加直觀的軟件程序來調(diào)用文本挖掘方法。圖

澎湃新聞報(bào)道中呈現(xiàn)的主題分布與關(guān)鍵詞共現(xiàn)網(wǎng)絡(luò)文本預(yù)處理2.1原理與步驟2.2中文分詞2.3文檔—詞項(xiàng)矩陣第二節(jié)處理自然語言最簡便也是最常見的方法是詞袋模型(bagofwords)。詞袋是一個(gè)比喻的說法,該方法將語料中的詞語拆散后,混合在一起進(jìn)行分析,就仿佛將拆開的詞語混裝進(jìn)一個(gè)口袋再來統(tǒng)計(jì)。詞袋模型不考慮詞語之間的先后順序以及語法,僅以詞語在文檔中出現(xiàn)的頻次權(quán)重來考察文本的意義。因此,詞袋模型是一種對文本內(nèi)容極度簡化的方案。詞袋模型的好處就是適用范圍較廣,實(shí)現(xiàn)起來也比較容易。

2.1

原理與步驟

主要步驟分詞(wordsegmentation或wordtokenization)去除停用詞(droppingcommonwords)詞語標(biāo)準(zhǔn)化(normalization)圖

詞袋模型表現(xiàn)文本的方法示意這里介紹中文分詞的工具結(jié)巴中文分詞(jieba)。該分詞器在中文分詞領(lǐng)域較為流行,技術(shù)成熟,使用簡單。R語言操作設(shè)置分詞器:worker()分詞操作:segment()設(shè)置停用詞詞典與用戶詞典2.2

中文分詞左圖為原文右圖為分詞結(jié)果我們所要分析的全部文檔的總和被稱為語料庫(corpus)。文檔-詞項(xiàng)矩陣非常類似我們熟悉的二維數(shù)據(jù)集,其中的行代表文檔,欄代表語料庫(所有文檔的集合)中的每一個(gè)詞項(xiàng),而數(shù)據(jù)項(xiàng)中的數(shù)值則代表某一詞項(xiàng)(縱向)在某一個(gè)文檔(橫向)上出現(xiàn)的頻數(shù)(如下圖)。這樣,文檔-詞項(xiàng)矩陣就將一個(gè)個(gè)文檔轉(zhuǎn)換成數(shù)字表達(dá)的形式,很多挖掘方法都以該矩陣為重要基礎(chǔ)。使用tmcn包創(chuàng)建dtm:createDTM()使用tm包檢視矩陣:inspect()2.3

文檔—詞項(xiàng)矩陣(dtm)詞頻-逆文檔頻率算法(termfrequency-inversedocumentfrequency,簡稱tf-idf):如果一個(gè)詞在某個(gè)文檔中出現(xiàn)頻率很高,同時(shí)這個(gè)詞在所有其它文檔中也是高頻詞,那么這個(gè)詞的相對重要性可能沒有詞頻顯示出來的那么高。換句話說,我們應(yīng)該根據(jù)某個(gè)詞在整個(gè)文本中出現(xiàn)的頻率去調(diào)整這個(gè)詞的詞頻權(quán)重。tf-idf是文本挖掘中最常見的加權(quán)技術(shù),在關(guān)鍵詞提取、文本聚類等方法中應(yīng)用廣泛。詞頻與關(guān)鍵詞分析3.1詞頻統(tǒng)計(jì)3.2詞頻統(tǒng)計(jì)的可視化第三節(jié)詞頻統(tǒng)計(jì)分析文本關(guān)鍵詞的方法。從最基本的思路出發(fā),當(dāng)一個(gè)詞在文本中出現(xiàn)的越多,它的重要性就越高。1.

使用jiebaR進(jìn)行詞頻統(tǒng)計(jì):

統(tǒng)計(jì)詞頻:freq()

對詞語進(jìn)行過濾filter_segment()2.通過tf-idf算法提取前10關(guān)鍵詞keys<-worker("keywords",topn=10)

keywords(XXX,keys)3.根據(jù)文檔-詞項(xiàng)矩陣也可以統(tǒng)計(jì)高頻詞。該矩陣的欄代表語料庫中的詞項(xiàng),那么將矩陣按照每一欄對數(shù)值加總,就求得了每一個(gè)詞的總頻率:

colSums(as.matrix(dtm))3.1詞頻統(tǒng)計(jì)圖

文檔—詞項(xiàng)矩陣示意3.2詞頻統(tǒng)計(jì)的可視化

圖《流浪地球》評論前10名高頻詞的條狀圖圖《流浪地球》評論前30個(gè)關(guān)鍵詞的散點(diǎn)圖(根據(jù)tf-idf值計(jì)算)圖《流浪地球》豆瓣影評高頻詞詞云圖示例之一圖《流浪地球》豆瓣影評高頻詞詞云圖示例之二3.2詞頻統(tǒng)計(jì)的可視化

詞云在數(shù)據(jù)新聞中的應(yīng)用。例如,“復(fù)數(shù)實(shí)驗(yàn)室”的作品《原生家庭之殤:從5243條數(shù)據(jù)看家庭語言暴力》,就使用了詞云呈現(xiàn)原生家庭中針對身材長相的語言暴力(左圖)。澎湃新聞“美數(shù)課”的作品《分析完2萬條數(shù)據(jù),我們發(fā)現(xiàn)海外中餐館重塑了“中餐”的定義》通過爬取點(diǎn)評網(wǎng)站Yelp內(nèi)容呈現(xiàn)海外中餐廳名稱的關(guān)鍵詞(右下圖)。主題發(fā)現(xiàn)、情感分析與語義網(wǎng)絡(luò)4.1主題發(fā)現(xiàn)4.2情感分析4.3語義網(wǎng)絡(luò)第四節(jié)文本分析經(jīng)常需要處理為數(shù)較多的文本。有些文本可能會(huì)涉及同一類議題,因而比較相近。那么一個(gè)簡單的想法是,我們能不能根據(jù)文本的主題將眾多文本歸入若干類別?通過文本主題分類,我們就能形成對所分析文本的整體性理解。

第一種方法:利用聚類分析(clusteranalysis)

首先對語料做預(yù)處理,生成文檔-詞項(xiàng)矩陣使用as.matrix函數(shù)將dtm轉(zhuǎn)換成一般的矩陣使用dist()函數(shù)計(jì)算距離選擇不同的聚類方法進(jìn)行分析4.1主題發(fā)現(xiàn)圖

對文檔進(jìn)行層次聚類分析的樹狀圖圖K-means聚類結(jié)果的可視化呈現(xiàn)方法2:基于非監(jiān)督機(jī)器學(xué)習(xí)算法的隱狄利克雷主題模型(LDA,LatentDirichletallocation)

LDA模型將所有待分析文檔看成是若干主題混合體,同時(shí)將主題看成是一些列詞語的集合。LDA模型將主題看成是一些列詞語的集合。

LDA通過多項(xiàng)分布假設(shè)和

計(jì)算方來同時(shí)估計(jì)文檔-模型組合的情況以及主題-詞項(xiàng)組合的情況。在R語言中我們可以使用topicmodels()函數(shù)進(jìn)行LDA主題分析4.1主題發(fā)現(xiàn)圖

使用LDAvis對主題模型進(jìn)行可視化呈現(xiàn)(上圖λ=1,下圖λ=0.5)情感分析可以幫助研究者量化一個(gè)文本單位所包含的情感特征,可以計(jì)算出一個(gè)文本單位的正面情緒與負(fù)面情緒數(shù)值,并對其進(jìn)行比較,也可以量化地呈現(xiàn)更為細(xì)致的情緒元素,如喜悅、憤怒、焦慮等等。

電腦輔助情感分析通常采取兩種路徑:基于詞典的情緒分析與基于機(jī)器學(xué)習(xí)的情緒分析。4.2情感分析

三類情緒的影評數(shù)量分布餅狀圖圖

影評中若干情緒特征的平均值雷達(dá)圖圖

不同日期影評正負(fù)面情緒分布(比例)圖我們可以借助社會(huì)網(wǎng)絡(luò)分析(socialnetworkanalysis)的基本方法,來對文本中出現(xiàn)的詞對進(jìn)行分析。社會(huì)網(wǎng)絡(luò)分析是一種經(jīng)典的用以描述和理解社會(huì)關(guān)系的數(shù)據(jù)分析技術(shù)。與我們熟悉的屬性數(shù)據(jù)不同,社會(huì)網(wǎng)絡(luò)分析聚焦關(guān)系型數(shù)據(jù),其分析的對象是節(jié)點(diǎn)之間的聯(lián)系。從網(wǎng)絡(luò)分析的視角來審視文本,文本中的詞語可被看成網(wǎng)絡(luò)中的節(jié)點(diǎn)(node或vertex);當(dāng)一個(gè)詞語出現(xiàn)在另一個(gè)詞語附近一定距離范圍內(nèi)時(shí),則認(rèn)為兩個(gè)詞語形成了具有關(guān)系的詞對,二者之間建立了聯(lián)系,在網(wǎng)絡(luò)分析中被稱作邊(tie或edge)。通過統(tǒng)計(jì)文本中的詞頻及詞對的頻率,我們就可以將文本轉(zhuǎn)換為一個(gè)網(wǎng)絡(luò)狀的關(guān)系型數(shù)據(jù),并通過分析這個(gè)由詞對構(gòu)成的網(wǎng)絡(luò)來闡釋文本的語義結(jié)構(gòu)。我們介紹使用WORDij與igrah()包進(jìn)行語義網(wǎng)絡(luò)分析的方法。4.3語義網(wǎng)絡(luò)圖

使用plot函數(shù)對《報(bào)告》進(jìn)行語義網(wǎng)絡(luò)繪圖圖

度中心性與邊權(quán)重的語義網(wǎng)絡(luò)圖形圖

使用標(biāo)簽散播算法發(fā)現(xiàn)社群示意圖數(shù)據(jù)分析與數(shù)據(jù)新聞敘事5.1以數(shù)據(jù)分析呈現(xiàn)新聞事實(shí)5.2以數(shù)據(jù)分析輔助新聞分析與解釋5.3以數(shù)據(jù)分析驅(qū)動(dòng)新聞敘事5.4交代數(shù)據(jù)分析方法提高新聞的透明性5.5整合應(yīng)用數(shù)據(jù)分析與信息可視化第五節(jié)在對事實(shí)的描述與呈現(xiàn)上,數(shù)據(jù)分析有很大優(yōu)勢。數(shù)據(jù)對事實(shí)的刻畫更加精確,也更容易排除主觀性因素。在報(bào)道過程中,對數(shù)據(jù)的總結(jié)與基本描述,本身就是一種非常實(shí)用的事實(shí)報(bào)道策略。例如,在“上觀”數(shù)據(jù)新聞的報(bào)道《史上關(guān)注度最高的一屆冬奧會(huì),到底憑什么?,就利用匯總數(shù)據(jù)與信息圖對奧運(yùn)會(huì)帶動(dòng)中國冰雪產(chǎn)業(yè)、中國冬奧歷史成績等基本事實(shí)進(jìn)行了呈現(xiàn)。5.1以數(shù)據(jù)分析呈現(xiàn)新聞事實(shí)圖

數(shù)據(jù)新聞通過數(shù)據(jù)分析呈現(xiàn)新聞事實(shí)新聞報(bào)道常涉及對新聞背景的調(diào)查或?qū)κ录脑颉⒆邉莸冗M(jìn)行解釋,以幫助讀者更好地理

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會(huì)有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲(chǔ)空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時(shí)也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論