《城市供水監(jiān)管中大數(shù)據(jù)應用技術指南》_第1頁
《城市供水監(jiān)管中大數(shù)據(jù)應用技術指南》_第2頁
《城市供水監(jiān)管中大數(shù)據(jù)應用技術指南》_第3頁
《城市供水監(jiān)管中大數(shù)據(jù)應用技術指南》_第4頁
《城市供水監(jiān)管中大數(shù)據(jù)應用技術指南》_第5頁
已閱讀5頁,還剩42頁未讀, 繼續(xù)免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權,請進行舉報或認領

文檔簡介

CECS×××:20××

中國工程建設標準化協(xié)會標準

城市供水監(jiān)管中大數(shù)據(jù)應用技術指南

Guidelinesforbigdataapplicationtechnologyinsupervisionof

urbanwatersupplysystem

(征求意見稿)

前言

城市供水安全直接關系到廣大人民群眾的切身利益和身體健康,供水安全監(jiān)

管是我國城市供水行業(yè)普遍面臨的壓力。近年來,各地在相關政策法規(guī)的指導下

開展了飲用水水量、水質(zhì)、水壓等監(jiān)測能力的建設,具備了一定的供水安全監(jiān)管

能力。但一方面當前供水監(jiān)管中存在實測指標不全面、監(jiān)測頻率不達標、風險預

警不及時等問題,另一方面大中城市供水企業(yè)每日積累的大量供水數(shù)據(jù)所蘊含的

巨大價值幾乎尚未被挖掘。隨著我國社會經(jīng)濟的快速發(fā)展,公眾對供水安全的要

求越來越高,行業(yè)主管部門面臨著進一步提高供水監(jiān)管能力的需求。因此,保障

飲用水供水安全作為全面建成小康社會的一項重要任務,必須采取有效措施,推

動先進的信息技術在供水行業(yè)的應用,引導城市供水監(jiān)管向更科學、更高效、更

精細的方向發(fā)展

為開拓大數(shù)據(jù)技術在城市供水監(jiān)管領域的應用途徑,完善供水安全監(jiān)管技術

工作體系,進一步提高城市供水的數(shù)字化監(jiān)管水平,編制組編制了《城市供水監(jiān)

管中大數(shù)據(jù)應用技術指南》。

本指南編制依據(jù)國家和行業(yè)相關法律法規(guī)、標準規(guī)范,總結了近年來我國城

市供水行業(yè)監(jiān)管需求、信息化系統(tǒng)建設現(xiàn)狀和大數(shù)據(jù)技術應用的實踐經(jīng)驗,同時

在編制過程中對主要問題開展了專題論證,對具體內(nèi)容進行了反復討論和修改。

本指南的主要內(nèi)容包括:總則、供水大數(shù)據(jù)來源、平臺架構與分析方法、水

源和水廠大數(shù)據(jù)應用、供水管網(wǎng)運營大數(shù)據(jù)應用、公眾反饋信息大數(shù)據(jù)應用。

本指南由中國工程建設標準化協(xié)會建標協(xié)會負責管理,由中國城市規(guī)劃設計

研究院負責具體技術內(nèi)容的解釋。請各單位在使用過程中,總結實踐經(jīng)驗,提出

意見和建議。

I

主編單位:中國城市規(guī)劃設計研究院

參編單位:(以下排名不分先后)

深圳水務(集團)有限公司

濟南水務集團有限公司

北京首創(chuàng)股份有限公司

山東省城市供排水水質(zhì)監(jiān)測中心

中國航天科工三院三零四所

主要起草人:XXX

I

目錄

前言.............................................................................................................................................I

第一章總則.....................................................................................................................1

第一節(jié)編制目的.............................................................................................................1

第二節(jié)適用范圍.............................................................................................................1

第三節(jié)指導思想.............................................................................................................1

第四節(jié)供水大數(shù)據(jù)積累基本原則.................................................................................1

第五節(jié)供水大數(shù)據(jù)應用基本原則.................................................................................1

第六節(jié)術語與定義.........................................................................................................2

第二章供水大數(shù)據(jù)來源.....................................................................................................4

第一節(jié)內(nèi)部來源.............................................................................................................4

第二節(jié)外部來源.............................................................................................................5

第三章平臺架構與分析方法.............................................................................................9

第一節(jié)供水大數(shù)據(jù)分析平臺架構.................................................................................9

第二節(jié)數(shù)據(jù)挖掘方法.....................................................................................................9

第四章水源和水廠大數(shù)據(jù)應用.......................................................................................11

第一節(jié)水源和水廠大數(shù)據(jù)應用目的...........................................................................11

第二節(jié)水源和水廠大數(shù)據(jù)積累要求...........................................................................11

第三節(jié)水源和水廠大數(shù)據(jù)典型應用場景...................................................................12

第四節(jié)水源和水廠大數(shù)據(jù)應用典型案例...................................................................15

第五章供水管網(wǎng)運營大數(shù)據(jù)應用...................................................................................26

第一節(jié)管網(wǎng)運營大數(shù)據(jù)應用目的...............................................................................26

第二節(jié)管網(wǎng)運營大數(shù)據(jù)積累要求...............................................................................26

第三節(jié)管網(wǎng)運營大數(shù)據(jù)典型應用場景.......................................................................27

第四節(jié)供水管網(wǎng)運營風險評估典型案例...................................................................29

第六章公眾反饋信息大數(shù)據(jù)應用...................................................................................33

第一節(jié)公眾反饋信息大數(shù)據(jù)應用目的.......................................................................33

第二節(jié)公眾反饋信息大數(shù)據(jù)積累要求.......................................................................33

第三節(jié)公眾反饋信息大數(shù)據(jù)典型應用場景...............................................................34

第四節(jié)公眾反饋信息大數(shù)據(jù)應用典型案例...............................................................36

附錄..........................................................................................................................................42

II

第一章總則

第一節(jié)編制目的

為貫徹執(zhí)行《城市供水條例》,提高供水監(jiān)管信息的價值挖掘效率,開拓供

水大數(shù)據(jù)在水質(zhì)風險識別、水量風險識別、設備安全動態(tài)監(jiān)管、公眾反饋問題處

理等領域的輔助決策應用途徑,進一步提高城市供水的數(shù)字化監(jiān)管水平,根據(jù)城

市水源、水廠、管網(wǎng)運營和客戶服務等環(huán)節(jié)的供水安全監(jiān)管需求,依據(jù)國家和行

業(yè)相關法律法規(guī)和標準規(guī)范,編制本指南。

第二節(jié)適用范圍

本指南明確了供水業(yè)務中的大數(shù)據(jù)選擇原則,以及常用應收集的數(shù)據(jù)類型及

其應用條件。本指南適用于城鎮(zhèn)供水主管部門、城鎮(zhèn)供水單位及二次供水管理單

位對供水業(yè)務中水質(zhì)、管網(wǎng)運營、供水服務的風險預警和監(jiān)管,城鎮(zhèn)供水單位的

工藝運行輔助決策也可參照本指南執(zhí)行。

第三節(jié)指導思想

本指南的指導思想是針對國內(nèi)供水安全監(jiān)管的實際需求,密切結合國情和供

水行業(yè)技術現(xiàn)狀,以供水行業(yè)中大數(shù)據(jù)技術應用行之有效的實踐經(jīng)驗和科技綜合

成果為依據(jù),按照協(xié)調(diào)性、系統(tǒng)性、實用性、先進性的原則,科學確定供水大數(shù)

據(jù)積累途徑、應用領域和應用技術路線要求。

第四節(jié)供水大數(shù)據(jù)積累基本原則

涵蓋供水服務從水源、水廠、管網(wǎng)到客戶服務信息反饋全流程的大數(shù)據(jù)。

第五節(jié)供水大數(shù)據(jù)應用基本原則

采用先進的大數(shù)據(jù)分析方法和模型開發(fā)技術,技術方法先進、適用、引領發(fā)

展,應用途徑符合法律和行政法規(guī)的規(guī)定,符合供水監(jiān)管需求,契合供水監(jiān)管更

1

全面、更精細、更安全的發(fā)展方向。

第六節(jié)術語與定義

1供水監(jiān)管

以提高監(jiān)測能力、預報水平和減災水平為目的,從水源到水龍頭對供水系統(tǒng)

的全面質(zhì)量監(jiān)管,包括:城市供水水質(zhì)、水量和水壓安全的監(jiān)測、評估和控制;

城市供水水質(zhì)污染風險源的識別、監(jiān)測與預警;現(xiàn)代化、智能化、定量化評估的

供水系統(tǒng)管理輔助決策等。

2城鎮(zhèn)供水單位

從事城鎮(zhèn)公共供水和自建設施供水專門服務的單位。

3二次供水管理單位

受二次供水設施產(chǎn)權單位(人)委托,對二次供水設施進行日常維護和運行

管理的單位。

4供水大數(shù)據(jù)

供水活動從水源到龍頭全過程所產(chǎn)生的具備體量巨大、來源多樣、生成較快、

且多變等特征的大量數(shù)據(jù),包括水質(zhì)檢測、生產(chǎn)工藝、設備運營等環(huán)節(jié)的相關數(shù)

據(jù)。

5機器學習

通過利用數(shù)據(jù)或以往的經(jīng)驗訓練出計算機模型的一種分析方法,模型可通過

獲取分析新數(shù)據(jù)而不斷完善自身性能,可使用模型開展預測、決策等用途。

6水質(zhì)風險

相關水質(zhì)指標超出標準限值,水質(zhì)安全性受到威脅,存在損害人體健康的風

2

險。

7管網(wǎng)風險

指供水管網(wǎng)在特定的時間和供水條件要求下,不能夠穩(wěn)定、持續(xù)完成供水功

能,引起不良后果的風險。

3

第二章供水大數(shù)據(jù)來源

在開展供水大數(shù)據(jù)應用前,城鎮(zhèn)供水相關單位應注意按時按質(zhì)收集供水數(shù)據(jù),

保證數(shù)據(jù)的準確性、完善性和及時性,從而保障分析結果的科學性、有效性。隨

著信息化系統(tǒng)的不斷完善、數(shù)據(jù)質(zhì)量的不斷提升,供水服務企業(yè)及相關單位應定

期更新所需數(shù)據(jù),不斷提高數(shù)據(jù)質(zhì)量,保證數(shù)據(jù)時效性。

第一節(jié)內(nèi)部來源

1統(tǒng)計報表數(shù)據(jù)

城鎮(zhèn)供水主管部門和城鎮(zhèn)供水單位應定期收集各類統(tǒng)計報表數(shù)據(jù)。

一是根據(jù)相關標準和規(guī)范要求,由城鎮(zhèn)供水單位、水質(zhì)檢測機構等單位按期

檢測的水質(zhì)數(shù)據(jù):按照《生活飲用水衛(wèi)生標準》(GB5749-2006)、《城市供水水

質(zhì)標準》(CJT206-2006)、《城鎮(zhèn)供水廠運行、維護及安全技術規(guī)程》等相關

標準規(guī)范中要求的水質(zhì)檢測指標、檢測方法和檢測頻率,對水源水、水廠各工藝

段進出水、出廠水、管網(wǎng)水、龍頭水等制水和輸配水環(huán)節(jié)水質(zhì)的檢測數(shù)據(jù)。二是

包括城鎮(zhèn)供水單位的設備工況、材料庫存、售水情況、用水戶信息、管網(wǎng)信息、

設備維護檢修記錄等相關生產(chǎn)數(shù)據(jù)。

2實時在線傳輸數(shù)據(jù)

城鎮(zhèn)供水單位應實時收集獲取在制水和輸配水現(xiàn)場,通過現(xiàn)場傳感器或移動

設備開展連續(xù)監(jiān)測而創(chuàng)建或生成的遠程數(shù)據(jù)。

一是包括在水源地自動在線監(jiān)測采集的水質(zhì)、水量、水位等實時數(shù)據(jù),在水

廠各工藝環(huán)節(jié)自動在線監(jiān)測采集的水質(zhì)、水位、流量等實時數(shù)據(jù),在管網(wǎng)監(jiān)測點

自動在線監(jiān)測采集的水質(zhì)、水壓、流量、噪聲等實時運營數(shù)據(jù)。二是企業(yè)員工通

過移動設備人為實時遠傳的地理位置、用戶水量、事故特征、現(xiàn)場照片、視頻等

外勤作業(yè)信息數(shù)據(jù)。

4

第二節(jié)外部來源

1獲取途徑

除了部門內(nèi)部數(shù)據(jù),城鎮(zhèn)供水主管部門和城鎮(zhèn)供水單位還應加強與系統(tǒng)內(nèi)其

他供水主管部門和供水企業(yè),以及環(huán)保、水利等相關部門的信息共享。

通過運用先進的網(wǎng)絡爬蟲等技術,可獲取政府機構、企業(yè)等組織提供的與供

水服務有關的免費開放數(shù)據(jù),包括供水水質(zhì)數(shù)據(jù)、供水事故信息、人口數(shù)據(jù)、建

筑信息數(shù)據(jù)等。采用網(wǎng)絡爬蟲技術時,需明確供水服務相關數(shù)據(jù)獲取需求,并以

此設計完善系統(tǒng)總體架構,確認待獲取信息量級以及待爬取頁面類型,選擇爬蟲

類型以及爬蟲策略。對于爬取供水大數(shù)據(jù),推薦采用分布式爬蟲架構。一般情況

下,開展網(wǎng)絡爬蟲的流程圖如下:

明確信息設計爬蟲確認待獲取

選擇爬蟲類型

獲取需求總體架構信息

爬蟲結果展示爬取數(shù)據(jù)存儲設計爬蟲策略

2網(wǎng)絡爬蟲獲取水質(zhì)大數(shù)據(jù)典型案例

某供水主管部門擬運用分布式爬蟲以及科學的數(shù)據(jù)分析模型,通過獲取和分

析多個城市的水質(zhì)公開信息,實現(xiàn)水質(zhì)大數(shù)據(jù)信息的收集和展示,提高供水業(yè)務

監(jiān)管能力和水平。

供水主管部門共收集了全國600多個城市關于水質(zhì)公開的渠道共計2000余

個,需要從此2000多個網(wǎng)址中爬取有關水質(zhì)公開的有效信息。以此2000多個網(wǎng)

址為起始地址向下探索,以此延伸開來的鏈接數(shù)據(jù)將是一個龐大的數(shù)量級,因此

采用分布式的爬蟲來完成所有的爬取任務。

分布式爬蟲總體結構如圖2-1所示:

5

圖2-1分布式爬蟲總體結構

對供水水質(zhì)大數(shù)據(jù)的分布式爬蟲總體結構包括分布式爬蟲管理控制臺,爬蟲

系統(tǒng)功能架構和系統(tǒng)分布式架構。分布式爬蟲管理控制臺是爬蟲任務調(diào)度端;爬

蟲系統(tǒng)功能架構是爬蟲任務執(zhí)行端;系統(tǒng)分布式架構是數(shù)據(jù)服務端。

供水水質(zhì)大數(shù)據(jù)的爬蟲工作流程為:網(wǎng)絡爬蟲擁有一個控制中心,負責對整

個爬蟲系統(tǒng)進行管理和監(jiān)控,主要包括控制用戶交互、初始化爬蟲器、確定主題、

協(xié)調(diào)各模塊工作、控制爬行過程等;然后,將初始的URL(UniformResource

Locator,統(tǒng)一資源定位符,也被稱為網(wǎng)頁地址)集合傳遞給URL隊列,頁面爬

行模塊會從URL隊列中讀取第一批URL列表,然后根據(jù)這些URL地址從互聯(lián)

網(wǎng)中進行相應的頁面爬取。爬取后,將爬取到的內(nèi)容根據(jù)主題保存到數(shù)據(jù)庫中,

同時,在爬行過程中,會爬取到一些新的URL。此時,需要根據(jù)我們所定的主

題使用鏈接過濾器過濾掉無效的鏈接,再將剩下的URL地址傳遞到隊列中,供

頁面爬行模塊使用。另一方面,將頁面爬取模塊爬取到的網(wǎng)頁內(nèi)容根據(jù)主題交由

不同頁面分析模塊處理,并根據(jù)處理結果建立索引數(shù)據(jù)庫,用戶檢索對應信息時,

可以從數(shù)據(jù)庫中直接查找對應的索引,并得到相應的結果。供水水質(zhì)大數(shù)據(jù)爬蟲

工作流程圖如圖2-2所示。

6

圖2-2供水水質(zhì)大數(shù)據(jù)爬蟲工作流程圖

爬蟲過程中,需要對網(wǎng)頁內(nèi)容進行解析。由于網(wǎng)頁內(nèi)容解析需要解析來自不

同網(wǎng)頁的內(nèi)容,目前尚無法實現(xiàn)通過通用的方法來解析網(wǎng)頁內(nèi)容,需通過解析網(wǎng)

頁文檔Head(頭節(jié)點)標簽中的Title(標題)、HTML(超文本標記語言)文

檔Meta(元節(jié)點)標簽中的Keywords(關鍵詞)、Description(描述)來獲取

有效信息。同時為了更精準地捕獲有效的信息,需要對爬取的網(wǎng)頁進行多個層次

的篩選工作。第一層篩選,在Redis(RemoteDictionaryServer,遠程字典服務)

中維護了一個剔除詞的集合,如果爬取的信息中包含剔除詞則放棄解析該網(wǎng)頁。

第二層篩選,在Redis中維護了判斷水質(zhì)信息的關鍵詞集合,根據(jù)這個集合來判

斷該網(wǎng)頁是否是水質(zhì)公開的網(wǎng)頁。第三層篩選,為了在Redis中維護了四個分類

的集合,依次來判斷公開水質(zhì)的所屬類別,將水質(zhì)公開信息按照水源水、出廠水、

管網(wǎng)水、龍頭水四類進行分類。在對爬蟲抓取的內(nèi)容進行解析和數(shù)據(jù)清洗后,再

傳送到數(shù)據(jù)庫存儲。

采用此技術爬蟲獲取了全國32個省份的水質(zhì)信息公開數(shù)據(jù),開發(fā)了信息平

臺對采用爬蟲技術獲取的供水水質(zhì)大數(shù)據(jù)結果進行展示,如圖2-3所示。該信息

平臺展示了全國各省市各類水質(zhì)公開信息累計公開次數(shù),可針對各城市的水源水、

出廠水、管網(wǎng)水、二次供水情況等信息分類查詢,并提供數(shù)據(jù)導出功能。

7

圖2-3供水水質(zhì)大數(shù)據(jù)爬蟲結果展示頁面

8

第三章平臺架構與分析方法

第一節(jié)供水大數(shù)據(jù)分析平臺架構

開展供水大數(shù)據(jù)分析應用時,需根據(jù)應用、設計和保密等需求,構建供水大

數(shù)據(jù)分析平臺。供水大數(shù)據(jù)分析平臺應由基礎設施層、平臺層、數(shù)據(jù)應用層(各

類應用模型)和展示層等架構組成。

基礎設施層主要包括存儲設備、計算設備、網(wǎng)絡設備、機房配套等相關軟硬

件基礎設施。

平臺層主要提供包括數(shù)據(jù)采集、傳輸、分布式存儲、挖掘處理運算等功能,

其中數(shù)據(jù)采集由物聯(lián)感知信息采集系統(tǒng)、數(shù)據(jù)共享系統(tǒng)、網(wǎng)絡爬蟲系統(tǒng)等組成;

數(shù)據(jù)傳輸是將物聯(lián)感知、數(shù)據(jù)填報共享、網(wǎng)絡爬蟲等途徑產(chǎn)生的數(shù)據(jù),通過互聯(lián)

網(wǎng)、移動網(wǎng)絡、衛(wèi)星、超短波電臺等渠道進行傳輸;數(shù)據(jù)存儲是將各類數(shù)據(jù)信息

進行存儲與相應數(shù)據(jù)庫中,實現(xiàn)對供水大數(shù)據(jù)的管理、調(diào)用、共享交換和更新,

為應用層對數(shù)據(jù)的使用提供調(diào)取服務,對于結構化數(shù)據(jù)通過清洗、轉換、集成處

理后,加載到數(shù)據(jù)倉庫中,對于非結構化數(shù)據(jù),包括供水業(yè)務相關的圖片、音視

頻、文檔文件等,采用分布式存儲的方式。

數(shù)據(jù)應用層包括服務于供水監(jiān)管的各類業(yè)務系統(tǒng),例如日常監(jiān)管、實時監(jiān)控、

安全評估、監(jiān)測預警、決策支持等業(yè)務系統(tǒng),各業(yè)務系統(tǒng)通過清晰的工作流程、

靈活的統(tǒng)計分析方法、統(tǒng)一的用戶認證、標準化的海量數(shù)據(jù),實現(xiàn)業(yè)務功能。

展示層將應用層的分析處理結果,通過文字、圖表、報表等表現(xiàn)方式,對用

戶和公眾實現(xiàn)頁面可視化展現(xiàn)。

對供水大數(shù)據(jù)的采集、存儲和應用,可參考《城市供水信息系統(tǒng)基礎信息

加工處理技術指南》開展。

第二節(jié)數(shù)據(jù)挖掘方法

供水大數(shù)據(jù)的數(shù)據(jù)特征挖掘是從海量的、關系模糊的供水數(shù)據(jù)中挖掘出潛在

的數(shù)據(jù)規(guī)律,挖掘數(shù)據(jù)特征是開展供水大數(shù)據(jù)價值應用的重要基礎性工作。機器

9

學習是發(fā)掘、利用大數(shù)據(jù)價值的關鍵技術,機器學習按照大類可分為監(jiān)督學習、

無監(jiān)督學習和半監(jiān)督學習三大類。

監(jiān)督學習利用已知類別的樣本數(shù)據(jù)調(diào)整運算參數(shù),使其達到所要求性能,發(fā)

現(xiàn)和總結數(shù)據(jù)間的關聯(lián)關系,并產(chǎn)生推斷功能,從而可利用模型對于給定輸入變

量,對輸出數(shù)據(jù)進行較準確的預測。監(jiān)督學習主要包括分類和回歸分析兩種,目

前,典型的有監(jiān)督學習算法包括邏輯回歸、決策樹、貝葉斯判別、隨機森林、支

持向量機,以及目前在人工智能中被大量應用的神經(jīng)網(wǎng)絡等。

無監(jiān)督學習的數(shù)據(jù)沒有標注信息,其利用已有的樣本數(shù)據(jù),實現(xiàn)對樣本聚類。

無監(jiān)督學習主要包括聚類分析、關聯(lián)分析等。關聯(lián)分析算法包括Apriori、

FP-growth等,聚類分析算法包括K均值聚類、系譜聚類、密度聚類等。

半監(jiān)督學習是監(jiān)督學習與無監(jiān)督學習相結合的一種學習方法。半監(jiān)督學習同

時使用大量的未標注數(shù)據(jù),以及少量的標注數(shù)據(jù)。典型的算法包括自訓練算法、

半監(jiān)督支持向量機、生成式方法等。

在供水大數(shù)據(jù)分析過程中,需要根據(jù)應用場景和目的選擇合適的分析算法,

不存在一個能夠解決所有問題的分析算法,一種分析算法也并不能總是優(yōu)于另外

一種。供水大數(shù)據(jù)的數(shù)據(jù)挖掘方法選擇需根據(jù)數(shù)據(jù)量大小、數(shù)據(jù)結構、數(shù)據(jù)特征、

分析目的來綜合比選。

10

第四章水源和水廠大數(shù)據(jù)應用

第一節(jié)水源和水廠大數(shù)據(jù)應用目的

對水源水質(zhì)、水廠工藝等大數(shù)據(jù)進行存儲、分析和價值挖掘,不僅可解決傳

統(tǒng)手段難以解決的海量數(shù)據(jù)問題,還有利于水質(zhì)風險來源、時空變化規(guī)律、危害

程度等特點的有效判定和識別,實現(xiàn)對水源和水廠水質(zhì)風險的有效預警,并提出

風險的最優(yōu)處置方案;同時,通過對水源水質(zhì)與水廠工藝大數(shù)據(jù)的聯(lián)合建模分析,

可有利于水廠根據(jù)不同的原水水質(zhì)特點和風險對水處理工藝過程進行調(diào)整和優(yōu)

化,以節(jié)約水廠運行成本并保障水廠的出水水質(zhì)。

第二節(jié)水源和水廠大數(shù)據(jù)積累要求

城鎮(zhèn)自來水供水單位應建立水文數(shù)據(jù)、水質(zhì)數(shù)據(jù)和相應的水處理工藝運行參

數(shù)數(shù)據(jù)庫。

1水質(zhì)數(shù)據(jù)

城鎮(zhèn)供水單位在日常運行中需按照《城鎮(zhèn)供水廠運行、維護及安全技術規(guī)程》

(CJJ58-2007)的要求開展原水、出廠水以及水廠各沉淀、過濾等工序的水質(zhì)檢

測,原水以及出廠水日檢、月檢、年檢的項目和頻次,應符合《城市供水水質(zhì)標

準》(CJ-T206-2017)和《生活飲用水衛(wèi)生標準》(GB5749-2006)的規(guī)定。此

外,供水企業(yè)還需結合原水水質(zhì)和凈水工藝以及地方監(jiān)管的要求確定是否需要增

加相應的檢測指標和檢測頻次。以湖泊、水庫為水源的供水廠,應開展藻類相關

指標的檢測并在藻類爆發(fā)期增加檢測的頻次。

城鎮(zhèn)供水單位應根據(jù)《城鎮(zhèn)供水水質(zhì)在線監(jiān)測技術標準》(CJJ-T271-2017)

對原水、工藝過程出水、出廠水及管網(wǎng)水安裝必要的在線監(jiān)測儀表,并同時開展

班組級的手工檢測。對實驗室和在線監(jiān)測的水質(zhì)數(shù)據(jù)應及時記錄并保存。

11

2水文及氣象數(shù)據(jù)

城鎮(zhèn)供水單位需按周期建立水源地的水文資料臺賬,包含:流量、流速、水

位、潮汐、天氣、水溫等,掌握氣象因素(氣溫、濕度、日照、降雨等)與原水

水質(zhì)的關聯(lián)關系以及由自然因素引起的水質(zhì)突變。

3工藝數(shù)據(jù)

城鎮(zhèn)供水單位需按日建立工藝運行參數(shù)臺賬,包括:水處理工藝運行參數(shù),

例如處理水量、預處理藥劑及其投加量、混凝劑及其投加量、沉淀池排泥周期、

濾池運行周期及反沖洗參數(shù)等;各工序水質(zhì),例如沉淀后出水的pH值、濁度、

耗氧量、余氯等,過濾后出水的pH值、濁度、余氯等。

第三節(jié)水源和水廠大數(shù)據(jù)典型應用場景

1水質(zhì)相關分析

城鎮(zhèn)供水主管部門及供水單位在水質(zhì)日常監(jiān)測、風險預警和管控過程中,通

過對水源、水廠、管網(wǎng)和二次供水設施的水質(zhì)指標及其環(huán)境類指標進行相關性分

析,找出不同水質(zhì)指標之間、水質(zhì)指標與其它環(huán)境類指標的內(nèi)在關聯(lián)性,可實現(xiàn)

水質(zhì)風險預警,水質(zhì)相關性分析具體包括以下幾種情形:

1)同一供水環(huán)節(jié)不同水質(zhì)指標之間的相關性分析:通過常規(guī)水質(zhì)指標與特

征水質(zhì)指標的相關性分析,可揭示指標之間的內(nèi)在聯(lián)系,及時發(fā)現(xiàn)水質(zhì)特征和規(guī)

律,并可為回歸分析提供數(shù)據(jù)參考。

2)不同供水環(huán)節(jié)同一水質(zhì)指標之間的相關性分析:通過在供水全流程,對

水源、水廠、管網(wǎng)和二次供水設施各環(huán)節(jié)的同一水質(zhì)指標開展相關性分析,找出

不同供水環(huán)節(jié)水質(zhì)指標的關聯(lián)性,可用于揭示不同環(huán)節(jié)的水質(zhì)變化趨勢,反饋指

導水廠處理工藝調(diào)整,并有利于水質(zhì)風險管控。

3)水質(zhì)指標與環(huán)境類指標之間的相關性分析:通過水質(zhì)指標與環(huán)境類指標

的相關性分析,揭示其內(nèi)在的關聯(lián)性,可為水質(zhì)問題溯源、回歸分析建模因子選

擇等提供依據(jù)。

12

水質(zhì)相關分析過程可采用的技術路線為:

供水水質(zhì)

數(shù)據(jù)預處理

數(shù)據(jù)獲取

數(shù)據(jù)分布

特征分析

選擇分析方法/

相關系數(shù)類別

相關系數(shù)計算

顯著性檢驗

水質(zhì)相關業(yè)務

判斷

2水質(zhì)風險預警

以歷史水質(zhì)數(shù)據(jù)、相關水文及環(huán)境類等數(shù)據(jù)為基礎,城鎮(zhèn)供水主管部門及供

水單位可通過應用各類數(shù)據(jù)特征挖掘與分析技術和評價技術,構建水質(zhì)時間序列、

回歸分析、評價和風險評估模型,以掌握水質(zhì)指標的趨勢性、周期性及其隨機性

變化規(guī)律,識別高風險水質(zhì)指標和季節(jié)性易超標指標等,并對水質(zhì)指標的未來數(shù)

值和風險進行預測和預警。

對于已識別的具有顯著變化趨勢的水質(zhì)指標、高風險水質(zhì)指標等,在日常的

水質(zhì)檢測或特定的季節(jié)時期,需要加密該項指標的檢測,同時考慮加裝該水質(zhì)指

標的在線監(jiān)測儀表。同時也需要查找并明確引起該項水質(zhì)指標超標的原因,并在

今后的日常運行管理中進行相關參數(shù)的記錄并重點關注。對于可預判的水質(zhì)風險,

可提前采取如調(diào)配水源、原位凈化水體水質(zhì)、調(diào)整水處理工藝等各種措施進行應

對。

13

水質(zhì)風險預警

場景/指標選擇

預警相關指標

數(shù)據(jù)預處理

數(shù)據(jù)獲取

數(shù)據(jù)分布

特征分析

模型選擇

結果分析與

業(yè)務判斷

水質(zhì)風險預警分析過程可采用的技術路線為:

3水廠運行工藝調(diào)整輔助決策

城鎮(zhèn)供水單位應建立起原水關鍵水質(zhì)項目在工藝流程中水質(zhì)變化情況及去

除率情況,并對工藝運行參數(shù)如藥耗、濾池反沖洗周期、排泥周期等同步記錄,

從而可基于不同進出水水質(zhì)條件下的運行工況和水質(zhì)預警結果反饋調(diào)整工藝方

案。

水廠運行工藝的輔助決策方法主要可分為三步:水源地及水廠運行多年的常

規(guī)數(shù)據(jù)獲取、建立數(shù)據(jù)間的關聯(lián)性、基于關聯(lián)數(shù)據(jù)的模型構建。可采用的技術路

線為:

14

獲取水源地數(shù)據(jù)獲取水廠數(shù)據(jù)

數(shù)據(jù)預處理

建立數(shù)據(jù)關聯(lián)性

輔助決策模型選擇、

構建及驗證

工況輸入試算

出水水質(zhì)達標

對應的臨界參數(shù)

獲得預警工況

城鎮(zhèn)供水單位進行輔助決策建模時,應基于關聯(lián)大數(shù)據(jù)特征選擇合適的模型,

利用編程語言構建“獲取信息-處理信息-反饋結果-調(diào)整權重”的數(shù)據(jù)處理流程,通

過輸入與輸出值的對應關系,不斷地降低誤差梯度至具備擬合實際情況的能力,

從而形成輔助決策模型。而后當面臨藥耗增加、水源地水質(zhì)突變等相關工藝參數(shù)

變化問題時,可將以上情況參數(shù)作為輸入?yún)?shù),利用輔助決策模型的數(shù)據(jù)識別和

處理能力,輸出相應的工藝運行結果,也即原水或工藝參數(shù)發(fā)生改變后的出水情

況,從而避免了人為因素的主觀判斷性,同時也可預測出達標水質(zhì)對應的水源地

水質(zhì)預警值及工藝藥耗最小值。

第四節(jié)水源和水廠大數(shù)據(jù)應用典型案例

1原水水質(zhì)指標間的相關性分析案例

葉綠素a能較好地反應水體的富營養(yǎng)化狀況,黃河中下游地區(qū)XX市引黃水

庫為擴大篩選可預測水源水體富營養(yǎng)化的水質(zhì)預警指標,整理了近5年監(jiān)測的原

15

水水質(zhì)數(shù)據(jù),包括溶解氧、總磷、總氮、氨氮、硝酸鹽(以N計)、N/P、水溫、

pH、渾濁度、葉綠素a等10個水質(zhì)指標,并對10個水質(zhì)指標之間的相關性進

行了分析。采用的分析步驟為:

1)整理相關水質(zhì)數(shù)據(jù)并進行數(shù)據(jù)預處理。針對離群數(shù)據(jù),核對數(shù)據(jù)的收集

和錄入過程,或者重復實驗,校核數(shù)據(jù)的有效性,剔除無效或錯誤數(shù)據(jù);

2)開展變量類型或正態(tài)性檢驗,并選擇合適的相關系數(shù)分析公式;

3)計算各水質(zhì)指標間的相關系數(shù)r,評估相關程度;

4)進行顯著性檢驗,如果顯著性系數(shù)p<a(a一般取0.05),認為水質(zhì)指標

間存在顯著相關性;

5)對水質(zhì)相關性分析結果進行解讀,并給出相應的業(yè)務策略或建議。

整理的部分原始水質(zhì)指標數(shù)據(jù)見表4-1。

表4-1XX市XX水庫原水水質(zhì)數(shù)據(jù)

序水溫溶解氧氨氮總磷總氮硝酸鹽(以N渾濁度葉綠素a

pH氮磷比

號(℃)(mg/L)(mg/L)(mg/L)(mg/L)計)(mg/L)(NTU)(μg/L)

127.08.72.30.180.021.651.277.182.518.0

227.08.78.20.220.021.651.234.082.516.7

327.08.68.20.590.061.871.0013.131.245.0

420.08.49.20.160.031.120.754.737.317.0

520.08.48.80.190.031.040.776.034.714.7

619.08.38.50.230.043.052.818.276.37.3

76.08.411.60.180.023.692.921.0217.11.1

86.08.411.50.240.023.032.801.6202.01.4

910.08.310.50.290.033.803.214.0126.73.8

1010.08.310.60.400.033.202.652.5106.72.9

119.08.211.20.680.054.372.82111.087.46.7

1228.78.39.20.160.031.601.193.551.612.3

1328.58.411.80.190.051.230.718.222.821.3

1429.08.28.80.100.031.661.263.359.38.8

1528.78.29.00.210.031.671.302.653.99.3

1612.08.510.10.180.032.701.846.779.418.9

178.08.610.70.160.032.201.524.275.920.3

1820.08.49.40.150.023.823.482.8173.68.2

1920.08.49.90.140.023.483.342.1165.79.7

2020.08.59.70.140.023.933.481.8178.69.7

……………

N9.08.48.70.20.032.51.64.3121.014.7

16

采用Kolmogorov-Smirnov(KS)檢驗查看樣本數(shù)據(jù)是否符合正態(tài)分布。KS

檢驗結果顯示,樣本數(shù)據(jù)服從正態(tài)分布,故采用皮爾森相關系數(shù)法進行相關性分

析。皮爾森相關系數(shù)(P)及顯著性系數(shù)(t)分析結果見表4-2。

表4-2相關性分析及顯著性檢驗

水溫pH溶解氧氨氮總磷總氮硝酸鹽渾濁度氮磷比葉綠素a

P1-.014-.622**-.060.083-.268**-.202*-.204.005.238*

水溫

t.907.000.543.415.007.038.155.959.014

P-.0141-.094.323**.240**-.268**-.439**-.042-.310**.518**

pH

t.907.200.000.000.000.000.686.000.000

P-.622**-.0941.002.119.073.094.186-.106-.050

溶解氧

t.000.200.978.078.285.184.100.118.457

P-.060.323**.0021.363**-.142*-.187**.462**-.219**.397**

氨氮

t.543.000.978.000.021.003.000.000.000

P.083.240**.119.363**1-.209**-.210**.306**-.613**.488**

總磷

t.415.000.078.000.001.001.002.000.000

P-.268**-.268**.073-.142*-.209**1.947**.250*.523**-.550**

總氮

t.007.000.285.021.001.000.011.000.000

P-.202*-.439**.094-.187**-.210**.947**1.099.509**-.616**

硝酸鹽

t.038.000.184.003.001.000.316.000.000

P-.204-.042.186.462**.306**.250*.0991-.070.028

渾濁度

t.155.686.100.000.002.011.316.488.767

P.005-.310**-.106-.219**-.613**.523**.509**-.0701-.432**

氮磷比

t.959.000.118.000.000.000.000.488.000

P.238*.518**-.050.397**.488**-.550**-.616**.028-.432**1

葉綠素a

t.014.000.457.000.000.000.000.767.000

**.在0.01水平(雙側)上顯著相關。

*.在0.05水平(雙側)上顯著相關。

由表4-2可知,XX市引黃水庫原水中葉綠素a與硝酸鹽、總氮、pH、總磷、

氮磷比、氨氮濃度在0.01水平上顯著相關,相關系數(shù)分別為-0.616、-0.550、0.518、

0.488、-0.432以及0.397,其中,葉綠素a與pH、總磷、氨氮指標呈正相關,與

硝酸鹽、總氮、氮磷比指標呈負相關。分析原因可能為,該引黃水庫中總氮含量

較高,經(jīng)常超出GB3838-2002《地表水環(huán)境質(zhì)量標準》中的Ⅴ類限值,且氨氮

(氮營養(yǎng)鹽的首先消耗)所占總氮比重較小,氮磷比較高,遠遠大于藻類生長所

需的氮磷比,磷成為水中藻類增長最重要的限制因素。因此,初步篩選將硝酸鹽、

總氮、pH、總磷、氮磷比和氨氮指標納入預測水源水體富營養(yǎng)化趨勢的預警指

17

標。

2水質(zhì)風險預警分析案例

XX市XX水庫原水的高錳酸鹽指數(shù)超標風險較高,為做好水質(zhì)風險預警,

根據(jù)2012年5月~2016年2月的高錳酸鹽指數(shù)月檢數(shù)據(jù),預測未來6個月的高

錳酸鹽指數(shù)月度數(shù)據(jù)。采用的分析步驟為:

1)對水質(zhì)風險預警應用場景進行分析并選擇高錳酸鹽指數(shù)作為預警分析指

標;

2)對高錳酸鹽指數(shù)數(shù)據(jù)進行整理和數(shù)據(jù)預處理;

3)根據(jù)應用場景,結合數(shù)據(jù)分布特征選擇適宜的預警模型(回歸、聚類、

關聯(lián)等),此處選擇指數(shù)平滑模型;

4)對模型分析結果進行解讀,并給出相應的業(yè)務策略或建議。

部分原始數(shù)據(jù)如表4-3所示。

表4-3XX水庫高錳酸鹽指數(shù)濃度

序號時間實測值(mg/L)

12012年5月2.80

22012年6月2.40

32012年7月2.57

42012年8月2.50

52012年9月2.87

62012年10月3.24

72012年11月3.39

82012年12月2.53

92013年1月2.63

102013年2月2.46

112013年3月2.86

122013年4月2.68

132013年5月1.75

142013年6月2.38

152013年7月2.73

162013年8月2.88

172013年9月2.98

182013年10月2.89

192013年11月2.66

202013年12月2.43

18

………

高錳酸鹽指數(shù)隨時間的變化趨勢如圖4-1所示,可見高錳酸鹽指數(shù)的年際變

化趨勢性不明顯,在年內(nèi)存在簡單的季節(jié)性波動:冬春季節(jié)(約從12月-次年5

月)高錳酸鹽指數(shù)濃度較低,夏秋季節(jié)(約從6月-11月)高錳酸鹽指數(shù)濃度較

高。根據(jù)數(shù)據(jù)波動特征,選擇指數(shù)平滑法模型進行高錳酸鹽指數(shù)濃度分析與預測。

圖4-1高錳酸鹽指數(shù)濃度的時間序列圖

應用指數(shù)平滑法對2016年3月至2016年8月的高錳酸鹽指數(shù)進行預測,分

析建模的46個月份數(shù)據(jù)預測誤差(見圖4-2),可見模型精度尚可。

預測值實測值

圖4-2高錳酸鹽指數(shù)濃度預測曲線

采用指數(shù)平滑模型預測2016年3月至2016年8月的高錳酸鹽指數(shù)濃度分別

為2.75、2.53、2.43、2.55、2.67和2.77mg/L,預測未來6個月高錳酸鹽指數(shù)暫

不存在超標風險。

19

3水廠運行工藝調(diào)整輔助決策案例

XX市XX水廠為了提前準備工藝預案,基于2014~2017年實測的進出水水

質(zhì)數(shù)據(jù)和記錄的運行工況數(shù)據(jù),建立“水源地水質(zhì)/水量-水廠藥耗-出水水質(zhì)”在

不同區(qū)間下一一對應的關聯(lián)性,并采用神經(jīng)網(wǎng)絡模型預測出達標水質(zhì)對應的水源

地水質(zhì)預警值或藥耗最小值。采用的分析步驟為:

1)水源地及水廠運行多年的相關數(shù)據(jù)獲??;

2)建立數(shù)據(jù)間的關聯(lián)性;

3)基于關聯(lián)數(shù)據(jù)構建輔助決策模型。

本模型以XX水廠為模擬對象,調(diào)取并整理2014~2017年輸入值和輸出值涉

及的相關數(shù)據(jù)約1363組,由于數(shù)量關系僅列舉部分數(shù)據(jù)組,見表4-4和4-5所

示。

表4-4部分輸入值的獲取結果

進水條件進水水質(zhì)藥劑投加量

進水量

溫度濁度色度氨氮細菌總數(shù)投加量加氯量

日期pHCODMnPAC

鉑鈷色度

℃3

-NTU單位mg/Lmg/LCFU/mLmkgkg

2014/1/148.116.61206.450.271801600905336576

2014/1/248.166.15256.650.171001560705202587

2014/1/358.196.7256.610.192501544105147672

2014/1/458.168.56206.410.234801539005130683

2014/1/558.1120.9256.020.252101556705189762

2014/1/658.1231.2256.180.251001492104974782

2014/1/758.1222.6256.10.262101503605012782

2014/1/858.1925.1206.060.28871541205137586

2014/1/958.1720.4206.060.291201517505058762

2016/7/10257.913.01185.040.03385292670220871034

2016/7/11257.7824.8305.040.1525531963022268999

2016/7/12267.933.97205.280.19700291590235471057

2016/7/13267.65.53255.280.12360297530239191084

2016/7/14217.822.72184.80.21320303040230031042

2016/7/15227.792.16205.790.620028268021111945

2016/7/16227.892.62205.920.8860029176022580966

2016/7/17227.812.23205.20.2320528796022211958

2016/7/18257.7939.7186.80.7295287960229991399

2016/7/19247.8916.4256.840.8215288820228561210

…………

表4-5部分輸出值的獲取結果

日期出水水質(zhì)污染物去除率

20

渾濁度色度CODMn細菌總數(shù)細菌總數(shù)渾濁度色度CODMn

NTU鉑鈷色度單位mg/LCFU/mL%%%%

2014/1/10.18<53.84097.2875.0040.47100.00

2014/1/20.27<53.88095.6180.0041.65100.00

2014/1/30.27<53.84095.9780.0041.91100.00

2014/1/40.26<53.72096.9675.0041.97100.00

2014/1/50.19<53.8099.0980.0036.88100.00

2014/1/60.26<53.64099.1780.0041.10100.00

2014/1/70.24<53.560

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負責。
  • 6. 下載文件中如有侵權或不適當內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

最新文檔

評論

0/150

提交評論