數(shù)據(jù)治理：元數(shù)據(jù)及元數(shù)據(jù)管理策略、方法和技術(shù)

大佬摘錄到公眾號上了。在公眾號搜索了下，這篇文章還挺受歡迎，多個數(shù)據(jù)類公眾號都轉(zhuǎn)載了，全網(wǎng)+。這本書出版以來被多個培訓(xùn)機構(gòu)指定為培訓(xùn)教材，被多個知名公司進行集體學(xué)習(xí)，如果您對數(shù)與作者深度交流。數(shù)字化時代，企業(yè)需要知道它們擁有什么數(shù)據(jù)，數(shù)據(jù)在哪里、由誰負責，數(shù)據(jù)中的值意味著什么，數(shù)據(jù)的生命周期是什么，哪些數(shù)據(jù)安全性和隱私性需要保護，以及誰使用了數(shù)據(jù)，用于什么業(yè)務(wù)目的，數(shù)據(jù)的質(zhì)量怎么樣，等等。這些問題都需要通過元數(shù)據(jù)管理解決，缺乏有效的元數(shù)據(jù)管理，企業(yè)的數(shù)據(jù)資產(chǎn)可能會變成拖累企業(yè)利潤的“包袱”。數(shù)據(jù)已經(jīng)成為增強企業(yè)競爭力的核心要素，有效地管理和使用數(shù)據(jù)成為企業(yè)的剛需。越來越多的企業(yè)使用元數(shù)據(jù)管理工具來管理云計算、物聯(lián)網(wǎng)、數(shù)據(jù)湖中所產(chǎn)生的數(shù)據(jù)，以便更容易地理解、更快地查找和更有效地管理企業(yè)數(shù)據(jù)，實現(xiàn)數(shù)據(jù)的價值。沒有元數(shù)據(jù)，數(shù)據(jù)其實就沒有任何意義。元數(shù)據(jù)看起來只是一堆毫無意義的文字和數(shù)字，但本質(zhì)上它為企業(yè)的各類數(shù)據(jù)提供了上下文環(huán)境，使企業(yè)能夠更好地了解、管理和使用數(shù)元數(shù)據(jù)是關(guān)于數(shù)據(jù)的組織、數(shù)據(jù)域及其關(guān)系的信息，簡言之，元數(shù)據(jù)就是描述數(shù)據(jù)的數(shù)概念總是生澀的，對于沒有IT背景的人來說比較抽象，不容易理解，下面舉幾個例子。示例1：歌詞中的元數(shù)據(jù)有一首很多80后耳熟能詳?shù)母枨小缎》肌?，歌詞中有這么一句：“村里有個姑娘叫小芳，長得好看又善良?！蔽覀儗@句歌詞做一下分析。姓名，小芳；性別，姑娘(女)；長相，好看；性格，善良；住址，村里。“小芳”是被描述的對象，而“姓名”“性別”“長相”“性格”“住示例2：戶口本中的元數(shù)據(jù)戶口本中除了有姓名、身份證號、出生日期、住址、民族等信息外，還有家庭關(guān)系，如夫妻關(guān)系、父子關(guān)系、兄弟關(guān)系等。這些信息就是描述一個人的元數(shù)據(jù)，通過戶口本中的元數(shù)據(jù)，我們不僅能夠了解一個人的基本信息，還能夠了解其家庭關(guān)系。示例3：圖書館中的元數(shù)據(jù)圖書館都會用一個叫作“圖書目錄”的文件夾來管理藏書，圖書目錄包含圖書名稱、編號、作者、主題、簡介、擺放位置等信息，用來幫助圖書管理員管理和快速查找圖書。元數(shù)據(jù)就如同圖書館的圖書目錄一樣，能夠幫助數(shù)據(jù)管理員管理數(shù)據(jù)。示例4：元數(shù)據(jù)好比字典字典包含一個字的注音、含義、組詞、舉例等基本信息及其字體結(jié)構(gòu)、相關(guān)引用、出處等。另外，我們可以通過拼音或偏旁部首查到這個字。所有這些信息都是對這個字的詳細描述，它們就是描述這個字的元數(shù)據(jù)。示例5：元數(shù)據(jù)就像地圖地圖是按一定比例運用線條、符號、顏色、文字注記等描繪顯示地球表面的自然地理、行政區(qū)域、社會經(jīng)濟狀況的圖。通過地圖，您能夠找到自己所處的地理位置，了解您從哪里來，到哪里去，途中要路過哪些地方。元數(shù)據(jù)也具備這樣的特點，它能夠幫助企業(yè)了解自己有哪些數(shù)據(jù)，這些數(shù)據(jù)存放在哪里，數(shù)據(jù)的來源、去向及加工路徑等。元數(shù)據(jù)與數(shù)據(jù)的不同之處在于：元數(shù)據(jù)描述的不是特定的實例或記錄，IT部門和業(yè)務(wù)部門都需要高質(zhì)量的元數(shù)據(jù)來理解現(xiàn)有數(shù)據(jù)；元數(shù)據(jù)是比一般意義上的數(shù)據(jù)范疇更加廣泛的數(shù)據(jù)，不僅表示數(shù)據(jù)的類型、名稱、值等信息，還提供數(shù)據(jù)的上下文描述，比如數(shù)據(jù)的所屬業(yè)務(wù)域、取值范圍、數(shù)據(jù)間的關(guān)系、業(yè)務(wù)規(guī)則、數(shù)據(jù)來源等?？梢杂肧WLH模型來理解元數(shù)據(jù)，如表L所示。5W1H模型理解元數(shù)據(jù)按照不同應(yīng)用領(lǐng)域或功能，元數(shù)據(jù)一般大致可分為三類：業(yè)務(wù)元數(shù)據(jù)、技術(shù)元數(shù)據(jù)和操作元數(shù)據(jù)。業(yè)務(wù)元數(shù)據(jù)描述數(shù)據(jù)的業(yè)務(wù)含義、業(yè)務(wù)規(guī)則等。明確業(yè)務(wù)元數(shù)據(jù)可以讓人們更容易理解和使用業(yè)務(wù)元數(shù)據(jù)。元數(shù)據(jù)消除了數(shù)據(jù)二義性，讓人們對數(shù)據(jù)有一致的認知，避免“自說自話”，進而為數(shù)據(jù)分析和應(yīng)用提供支撐。常見的業(yè)務(wù)元數(shù)據(jù)有：業(yè)務(wù)定義、業(yè)務(wù)術(shù)語解釋等；業(yè)務(wù)指標名稱、計算口徑、衍生指標等；業(yè)務(wù)引擎的規(guī)則、數(shù)據(jù)質(zhì)量檢測規(guī)則、數(shù)據(jù)挖掘算法等；數(shù)據(jù)的安全或敏感級別等。技術(shù)元數(shù)據(jù)是結(jié)構(gòu)化處理后的數(shù)據(jù)，方便計算機或數(shù)據(jù)庫對數(shù)據(jù)進行識別、存儲、傳輸和交換。技術(shù)元數(shù)據(jù)可以服務(wù)于開發(fā)人員，讓開發(fā)人員更加明確數(shù)據(jù)的存儲、結(jié)構(gòu)，從而為應(yīng)用開發(fā)和系統(tǒng)集成奠定基礎(chǔ)。技術(shù)元數(shù)據(jù)也可服務(wù)于業(yè)務(wù)人員，通過元數(shù)據(jù)厘清數(shù)據(jù)關(guān)系，讓業(yè)務(wù)人員更快速地找到想要的數(shù)據(jù)，進而對數(shù)據(jù)的來源和去向進行分析，支持數(shù)據(jù)血緣追溯和影響分析。常見的技術(shù)元數(shù)據(jù)有：物理數(shù)據(jù)庫表名稱、列名稱、字段長度、字段類型、約束信息、數(shù)據(jù)依賴關(guān)系數(shù)據(jù)存儲類型、位置、數(shù)據(jù)存儲文件格式或數(shù)據(jù)壓縮類型等；調(diào)度依賴關(guān)系、進度和數(shù)據(jù)更新頻率等。操作元數(shù)據(jù)描述數(shù)據(jù)的操作屬性，包括管理部門、管理責任人等。明確管理屬性有利于將數(shù)據(jù)管理責任落實到部門和個人，是數(shù)據(jù)安全管理的基礎(chǔ)。常見的操作元數(shù)據(jù)有：數(shù)據(jù)所有者、使用者等；數(shù)據(jù)的訪問方式、訪問時間、訪問限制等；數(shù)據(jù)訪問權(quán)限、組和角色等；數(shù)據(jù)處理作業(yè)的結(jié)果、系統(tǒng)執(zhí)行日志等；數(shù)據(jù)備份、歸檔人、歸檔時間等。元數(shù)據(jù)的分類及實例見表2。表2元數(shù)據(jù)的分類(以“客戶”信息為例)在信息世界，元數(shù)據(jù)的主要作用是對數(shù)據(jù)對象進行描述、定位、檢索、管理、評估和交描述：對數(shù)據(jù)對象的內(nèi)容、屬性的描述，這是元數(shù)據(jù)的基本功能，是各組織、各部門之間達成共識的基礎(chǔ)。定位：有關(guān)數(shù)據(jù)資源位置方面的信息描述，如數(shù)據(jù)存儲位置、URL等記錄，可以幫助用戶快速找到數(shù)據(jù)資源，有利于信息的發(fā)現(xiàn)和檢索。檢索：在描述數(shù)據(jù)的過程中，將信息對象中的重要信息抽出標引并加以組織，建立它們之間的關(guān)系，為用戶提供多層次、多途徑的檢索體系，幫助用戶找到想要的信息。管理：對數(shù)據(jù)對象的版本、管理和使用權(quán)限的描述，方面信息對象管理和使用。評估：由于有元數(shù)據(jù)描述，用戶在不瀏覽具體數(shù)據(jù)對象的情況下也能對數(shù)據(jù)對象有個直觀的認識，方便用戶的使用。交互：元數(shù)據(jù)對數(shù)據(jù)結(jié)構(gòu)、數(shù)據(jù)關(guān)系的描述方便了數(shù)據(jù)對象在不同部門、不同系統(tǒng)之間進行流通和流轉(zhuǎn)，并確保流轉(zhuǎn)過程中數(shù)據(jù)標準的一致性。元數(shù)據(jù)以數(shù)字化方式描述企業(yè)的數(shù)據(jù)、流程和應(yīng)用程序，為企業(yè)數(shù)字資產(chǎn)的內(nèi)容提供了上下文，使得數(shù)據(jù)更容易理解、查找、管理和使用。準確的元數(shù)據(jù)是必不可少的，也是迅速、有效地對數(shù)據(jù)去粗取精的關(guān)鍵。沒有元數(shù)據(jù)，數(shù)據(jù)就毫無意義，只不過是一堆數(shù)字或文字而已。因此，對于元數(shù)據(jù)的有效管理是企業(yè)數(shù)據(jù)治理的基礎(chǔ)。根據(jù)維基百科的定義，元數(shù)據(jù)管理是指與確保正確創(chuàng)建、存儲和控制元數(shù)據(jù)，以便在整個企業(yè)中一致地定義數(shù)據(jù)有關(guān)的活動。元數(shù)據(jù)管理是對涉及的業(yè)務(wù)元數(shù)據(jù)、技術(shù)元數(shù)據(jù)、操作元數(shù)據(jù)進行盤點、集成和管理。采用科學(xué)有效的機制對元數(shù)據(jù)進行管理，并面向開發(fā)人員、業(yè)務(wù)用戶提供元數(shù)據(jù)服務(wù)，可以滿足用戶的業(yè)務(wù)需求，為企業(yè)業(yè)務(wù)系統(tǒng)和數(shù)據(jù)分析的開發(fā)、維護等過程提供支持?？梢詮募夹g(shù)、業(yè)務(wù)和應(yīng)用三個角度理解元數(shù)據(jù)管理。技術(shù)角度：元數(shù)據(jù)管理著企業(yè)的數(shù)據(jù)源系統(tǒng)、數(shù)據(jù)平臺、數(shù)據(jù)倉庫、數(shù)據(jù)模型、數(shù)據(jù)庫、表、字段以及字段間的數(shù)據(jù)關(guān)系等技術(shù)元數(shù)據(jù)。業(yè)務(wù)角度：元數(shù)據(jù)管理著企業(yè)的業(yè)務(wù)術(shù)語表、業(yè)務(wù)規(guī)則、質(zhì)量規(guī)則、安全策略以及表的加工策略、表的生命周期信息等業(yè)務(wù)元數(shù)據(jù)。應(yīng)用角度：元數(shù)據(jù)管理為數(shù)據(jù)提供了完整的加工處理全鏈路跟蹤，方便數(shù)據(jù)的溯源和審計，這對于數(shù)據(jù)的合規(guī)使用越來越重要。通過數(shù)據(jù)血緣分析，追溯發(fā)生數(shù)據(jù)質(zhì)量問題和其他錯誤的根本原因，并對更改后的元數(shù)據(jù)進行影響分析。企業(yè)元數(shù)據(jù)管理的主要活動包括：創(chuàng)建并記錄主題領(lǐng)域的實體和屬性的數(shù)據(jù)定義；識別數(shù)據(jù)對象之間的業(yè)務(wù)規(guī)則和關(guān)系；證明數(shù)據(jù)內(nèi)容的準確性、完整性和及時性；建立和記錄內(nèi)容的上下文(數(shù)據(jù)血緣、數(shù)據(jù)影響的全鏈路跟蹤分析)；為多樣化的數(shù)據(jù)用戶提供一系列上下文理解，包括用于合規(guī)性、內(nèi)部控制和更好為技術(shù)人員提供元數(shù)據(jù)信息，支持數(shù)據(jù)庫或應(yīng)用的開發(fā)。企業(yè)元數(shù)據(jù)管理的本質(zhì)是有效利用企業(yè)數(shù)據(jù)資產(chǎn)，讓數(shù)據(jù)發(fā)揮出盡可能大的價值。元數(shù)據(jù)管理可以幫助業(yè)務(wù)分析師、系統(tǒng)架構(gòu)師、數(shù)據(jù)倉庫工程師和軟件開發(fā)工程師等相關(guān)干系人清楚地知道企業(yè)擁有什么數(shù)據(jù)，它們存儲在哪里，如何抽取、清理、維護這些數(shù)據(jù)并指導(dǎo)用戶使用。以下元數(shù)據(jù)管理目標是企業(yè)的普遍訴求。滿足用戶對業(yè)務(wù)和數(shù)據(jù)理解的需求，建立標準的企業(yè)內(nèi)部知識傳承的信息承載平臺，建立業(yè)務(wù)分析知識庫，實現(xiàn)知識共享。能夠回答以下問題：？數(shù)據(jù)倉庫中的存儲過程是誰寫的？它用來干什么？現(xiàn)在還在用嗎？典型應(yīng)用有數(shù)據(jù)資源目錄和業(yè)務(wù)術(shù)語表。讓用戶能夠清晰地了解數(shù)據(jù)倉庫中數(shù)據(jù)流的來龍去脈、業(yè)務(wù)處理規(guī)則、轉(zhuǎn)換情況等，提高數(shù)據(jù)的溯源能力，支持數(shù)據(jù)倉庫的成長需求，降低因員工換崗造成的影響。元數(shù)據(jù)有助于回答以下問題：典型應(yīng)用有血緣分析、影響分析、全鏈路分析。通過非冗余、非重復(fù)的元數(shù)據(jù)信息提高數(shù)據(jù)完整性、準確性。元數(shù)據(jù)管理解決的問題是如何將業(yè)務(wù)系統(tǒng)中的數(shù)據(jù)分門別類地進行管理，建立報警、監(jiān)控機制，出現(xiàn)故障時能及時發(fā)現(xiàn)問題，為數(shù)據(jù)倉庫的數(shù)據(jù)質(zhì)量監(jiān)控提供基礎(chǔ)素材。能夠回答以下問題：今天的在線用戶數(shù)為什么是0？AB？典型應(yīng)用有指標標準和數(shù)據(jù)質(zhì)量規(guī)則。盡管企業(yè)越來越意識到元數(shù)據(jù)管理的重要性，但是在實際的數(shù)據(jù)治理中，元數(shù)據(jù)管理技術(shù)和方法仍面臨著很多挑戰(zhàn)。雖然很多企業(yè)已經(jīng)意識到元數(shù)據(jù)管理能夠創(chuàng)建對數(shù)據(jù)的統(tǒng)一描述并確保數(shù)據(jù)的一致性，但是，目前國內(nèi)企業(yè)的元數(shù)據(jù)管理多數(shù)是建立在新建系統(tǒng)或數(shù)據(jù)倉庫項目的局部治理上，而不是企業(yè)級的元數(shù)據(jù)管理，特別是對于企業(yè)采購的套裝軟件的治理顯得十分薄弱。主要原因是，要將中央元數(shù)據(jù)倉庫的元數(shù)據(jù)與套裝軟件產(chǎn)生的元數(shù)據(jù)進行匹配和映射，需要做大量工作。有的企業(yè)的元數(shù)據(jù)管理平臺成為擺設(shè)，或者只有部分IT人員在用，很少甚至完全沒有嘗試在整個企業(yè)中使用和推廣集中化的元數(shù)據(jù)。這在一定程度上限制了企業(yè)數(shù)據(jù)資產(chǎn)的共享或重用。因此，元數(shù)據(jù)管理需要全局、集中化的管理策略。在企業(yè)元數(shù)據(jù)管理項目的實施中，需要花費很長的時間來完成元數(shù)據(jù)的梳理和定義、元數(shù)據(jù)適配器的開發(fā)、元數(shù)據(jù)的采集、元數(shù)據(jù)的維護等任務(wù)。這些任務(wù)絕大多數(shù)是需要人工手動處理的，手動的元數(shù)據(jù)管理和維護十分煩瑣且容易出錯，這使得項目的成本提高，交付的周期變長。因此，元數(shù)據(jù)管理需要更加有效的方法和自動化程度更高的工具。大數(shù)據(jù)時代，隨著越來越多的非結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù)滲透到企業(yè)的數(shù)字環(huán)境中，采用傳統(tǒng)的元數(shù)據(jù)管理方式來采集、處理和檢索元數(shù)據(jù)變得越來越具有挑戰(zhàn)性。尤其是在處理復(fù)雜的數(shù)據(jù)關(guān)系時，雖然人們很容易根據(jù)認知關(guān)聯(lián)來判斷兩個或多個事物是否相關(guān)，但目前的元數(shù)據(jù)管理工具卻常常無法做到。因此，元數(shù)據(jù)管理需要更智能化的技術(shù)。企業(yè)的數(shù)據(jù)是在數(shù)據(jù)供應(yīng)鏈中不斷移動的。這里所說的數(shù)據(jù)供應(yīng)鏈，是指從數(shù)據(jù)創(chuàng)建到數(shù)據(jù)的加工處理、存儲使用的整個生命周期鏈條。隨著數(shù)據(jù)的不斷創(chuàng)建、抽取和轉(zhuǎn)換，有關(guān)數(shù)據(jù)來源、血緣、轉(zhuǎn)換過程、質(zhì)量級別以及與其他數(shù)據(jù)的關(guān)系的元數(shù)據(jù)也會隨時變化。企業(yè)需要將自動化算法和規(guī)則應(yīng)用于數(shù)據(jù)資產(chǎn)管理中，自動識別和生成元數(shù)據(jù)，減少手動維護的情況，從而確保元數(shù)據(jù)描述準確可靠。從元數(shù)據(jù)的發(fā)展歷史來看，元數(shù)據(jù)管理主要經(jīng)歷了4個階段：分布式橋接階段、中央存儲庫階段、元數(shù)據(jù)倉庫階段、智能化管理階段(見圖1)。段分布式的元數(shù)據(jù)管理使用元數(shù)據(jù)橋?qū)崿F(xiàn)不同工具間的元數(shù)據(jù)集成，這是一種點到點的元數(shù)據(jù)體系結(jié)構(gòu)。分布式的橋接方式自然會導(dǎo)致分布式的元數(shù)據(jù)分發(fā)機制，這違背了數(shù)據(jù)倉庫“集中存儲，統(tǒng)一視圖”的處理原則，也是它的主要弱點。用這種方式集成元數(shù)據(jù)會大幅增加開發(fā)和維護費用，而且通常將一種格式的元數(shù)據(jù)轉(zhuǎn)換為另一種格式時，都會有一定的信息損失。分布式的元數(shù)據(jù)結(jié)構(gòu)需要對互相共享元數(shù)據(jù)的數(shù)據(jù)庫進行同步，尤其是重復(fù)元數(shù)據(jù)的更新須被檢測并通告，以保持一致性。建立具有特定目標和需求的元數(shù)據(jù)中央存儲庫，由它來統(tǒng)一采集、存儲、控制和分發(fā)元數(shù)據(jù)。例如，CRM、SCM等應(yīng)用系統(tǒng)從中央存儲庫中檢索、使用元數(shù)據(jù)。在這種模式下，元數(shù)據(jù)依然在局部產(chǎn)生和被獲取，但會集中到中央存儲庫進行存儲，業(yè)務(wù)元數(shù)據(jù)會手工錄入中央存儲庫中，技術(shù)元數(shù)據(jù)分散在文檔中的部分也通過手工錄入中央存儲庫中，而散落在各個中間件和業(yè)務(wù)系統(tǒng)中的技術(shù)元數(shù)據(jù)則通過數(shù)據(jù)集成的方式被讀取到中央存儲庫中。業(yè)務(wù)元數(shù)據(jù)和技術(shù)元數(shù)據(jù)之間全部或部分通過手工方式進行了關(guān)聯(lián)。每個應(yīng)用系統(tǒng)都必須實現(xiàn)它自己的數(shù)據(jù)庫訪問層(另一種形式的橋接)，各大BI工具廠商通常都保證它們的工具本身就能夠支持元數(shù)據(jù)管理，例如Informatica的MetadataManager、IBM的MetaStage。然而在具體實現(xiàn)中，它們的工具只是提供橋梁，從像Oracle這樣的RDBMS、HyperionEssbase之類的MDDB、BusinessObjects之類的報表工具，甚至像ERWin這樣的數(shù)據(jù)建模工具中提取信息，然后將提取出的信息存儲到一個集中式的中央存儲庫中。使用元數(shù)據(jù)中央存儲庫可以在一定程度上解決定義全局可用且被廣泛理解的元數(shù)據(jù)的需求，使元數(shù)據(jù)在整個企業(yè)層面可被感知和搜索，極大地方便企業(yè)獲取和查找元數(shù)據(jù)。但這并沒有完全根除問題：元數(shù)據(jù)仍然在各業(yè)務(wù)系統(tǒng)上維護，然后更新到中央存儲庫，各業(yè)務(wù)豎井之間仍然使用不同的命名法，經(jīng)常會造成相同的名字代表不同意義的對象，而同一個對象則使用了多個不同的名字，有些沒有納入業(yè)務(wù)系統(tǒng)管理的元數(shù)據(jù)則容易缺失。中央存儲庫仍然需要使用元數(shù)據(jù)橋，無法根除受制于特定廠商的問題。段元數(shù)據(jù)倉庫遵循基于CWM(公共倉庫元模型)的元數(shù)據(jù)管理策略。CWM是用來輸入、輸出共享公共倉庫元數(shù)據(jù)的一個完全的語法和語義規(guī)范，提供了一個描述數(shù)據(jù)源、數(shù)據(jù)目標、轉(zhuǎn)換、分析和處理的元數(shù)據(jù)管理基礎(chǔ)框架，為不同工具和產(chǎn)品的元數(shù)據(jù)共享和交換提供了一個切實可行的標準。通過構(gòu)建基于CWM的元數(shù)據(jù)倉庫，數(shù)據(jù)源、ETL工具、各類報表和BI工具、各類數(shù)據(jù)庫系統(tǒng)的元數(shù)據(jù)有了一致的標準，各軟件工具只需要建立一個與元數(shù)據(jù)倉庫連接的CWM適配器就能實現(xiàn)相互之間的元數(shù)據(jù)交換或共享。與中央存儲庫模式相比，基于CWM的元數(shù)據(jù)倉庫模式更新數(shù)據(jù)更加及時，并支持增量元數(shù)據(jù)的版本管理，而中央存儲庫的元數(shù)據(jù)更新周期通常在一天以上，并且需要將所有不同時期的元數(shù)據(jù)都存儲下來才能支持元數(shù)據(jù)版本管理。但本質(zhì)上，元數(shù)據(jù)倉庫模式并沒有多大變化，業(yè)務(wù)元數(shù)據(jù)仍然需要手動補錄，業(yè)務(wù)元數(shù)據(jù)和技術(shù)元數(shù)據(jù)之間大多還是需要通過手工方式進行映射，因此管理成本無法降低很多。當前，大部分企業(yè)的元數(shù)據(jù)管理處于中央存儲庫和元數(shù)據(jù)倉庫這兩個階段。段在這個階段，元數(shù)據(jù)管理的特點是自動化、智能化，通過與人工智能、機器學(xué)習(xí)等技術(shù)融合，實現(xiàn)元數(shù)據(jù)提取、整合、維護等多個過程的自動化和智能化。 (1)元數(shù)據(jù)提取對于半結(jié)構(gòu)化、非結(jié)構(gòu)化的數(shù)據(jù)，例如文本文件、音視頻文件，采用文本識別、圖像識別、語音識別、自然語言處理等技術(shù)，自動發(fā)現(xiàn)和提取其元數(shù)據(jù)，形成有價值的數(shù)據(jù)資源 (2)元數(shù)據(jù)整合在元數(shù)據(jù)的整合方面，通過語義模型，標簽體系自動采集相關(guān)的技術(shù)元數(shù)據(jù)和業(yè)務(wù)元數(shù)據(jù)，自動建立技術(shù)元數(shù)據(jù)與業(yè)務(wù)元數(shù)據(jù)的關(guān)系，并將其存儲進元數(shù)據(jù)存儲庫中。 (3)元數(shù)據(jù)維護在人工智能技術(shù)的幫助下，元數(shù)據(jù)的管理和維護更加智能，例如：通過自定義規(guī)則探查元數(shù)據(jù)的一致性，并自動提醒更新和維護，確保元數(shù)據(jù)質(zhì)量；通過語義分析為元數(shù)據(jù)自動打標簽，實現(xiàn)元數(shù)據(jù)的自動化編目等。在這個階段，邏輯層次元數(shù)據(jù)的變更會被傳播到物理層次，同樣，物理層次變更時，邏輯層次將被更新。元數(shù)據(jù)中的任何變化都會觸發(fā)業(yè)務(wù)工作流，以便其他業(yè)務(wù)系統(tǒng)進行相應(yīng)的修改。從實施層面來看，元數(shù)據(jù)管理包括業(yè)務(wù)目標理解、元數(shù)據(jù)需求規(guī)劃、元數(shù)據(jù)設(shè)計、元數(shù)據(jù)管理體系的設(shè)計等。元數(shù)據(jù)管理是利用可視化的用戶體驗，基于靈活、健壯的元數(shù)據(jù)管理架構(gòu)，實現(xiàn)企業(yè)數(shù)據(jù)資產(chǎn)的標準化、集中化管理。企業(yè)實施元數(shù)據(jù)管理需要首先從理解業(yè)務(wù)需求入手，只有理清了業(yè)務(wù)需求和目標，才能做出合理的元數(shù)據(jù)規(guī)劃。通常企業(yè)實施元數(shù)據(jù)管理的主要業(yè)務(wù)訴求如下。 (1)建立企業(yè)數(shù)據(jù)資產(chǎn)目錄數(shù)據(jù)即資產(chǎn)的理念已經(jīng)得到企業(yè)的廣泛認可。面對不斷增長、不斷變化、日益復(fù)雜的數(shù)據(jù)環(huán)境，企業(yè)需要數(shù)據(jù)資產(chǎn)的簡單發(fā)現(xiàn)和跟蹤能力。通過管理元數(shù)據(jù)，企業(yè)能夠快速發(fā)現(xiàn)數(shù)據(jù)資產(chǎn)的分布和關(guān)系，形成企業(yè)數(shù)據(jù)資產(chǎn)目錄。 (2)消除冗余，加強數(shù)據(jù)復(fù)用通過元數(shù)據(jù)管理，建立基于CWM的元數(shù)據(jù)倉庫，實現(xiàn)企業(yè)元數(shù)據(jù)的統(tǒng)一管理，并將元數(shù)據(jù)倉庫作為“單一數(shù)據(jù)源”，為企業(yè)的應(yīng)用開發(fā)提供可復(fù)用的數(shù)據(jù)模型和元數(shù)據(jù)標準，以實現(xiàn)元數(shù)據(jù)的重復(fù)利用，減少冗余或未使用數(shù)據(jù)，從而提高工作效率，降低軟件開發(fā)成本，縮短項目交付時間。 (3)降低因人員流動而導(dǎo)致知識流失的風險企業(yè)重要的數(shù)據(jù)資產(chǎn)常常因關(guān)鍵員工的調(diào)離或離職而“消失”，這里所謂的“消失”通常并不是因為員工將數(shù)據(jù)惡意刪除或拿走，而是企業(yè)數(shù)據(jù)資產(chǎn)的存放方式、存儲位置等關(guān)鍵數(shù)據(jù)都只留在關(guān)鍵員工的大腦中，一旦該員工離開公司，數(shù)據(jù)資產(chǎn)也就隱沒在“茫茫數(shù)海”中了！而統(tǒng)一的元數(shù)據(jù)管理能夠降低企業(yè)這種數(shù)據(jù)“消失”的風險。 (4)提供數(shù)據(jù)血緣探查能力，提高數(shù)據(jù)分析的質(zhì)量數(shù)據(jù)來自什么地方以及如何產(chǎn)生、處理和交付數(shù)據(jù)，這為用戶提供了重要的背景知識。探查源系統(tǒng)中的數(shù)據(jù)可以暴露和解決數(shù)據(jù)的不準確、不一致問題，從而提升數(shù)據(jù)的質(zhì)量。此外，元數(shù)據(jù)的統(tǒng)一管理，提供變更管理、版本控制等能力為不斷變更的業(yè)務(wù)需求所帶來的影響提供了支撐，并加快了新應(yīng)用開發(fā)項目和數(shù)據(jù)集成項目的開發(fā)速度。開發(fā)人員可以依賴統(tǒng)一、標準的元數(shù)據(jù)來輕松、準確地確定他們的項目所需的數(shù)據(jù)，從而節(jié)約項目開發(fā)成本，提升項目交付效率。在充分理解企業(yè)元數(shù)據(jù)管理訴求和目標之后，需要進行元數(shù)據(jù)規(guī)劃，設(shè)計元數(shù)據(jù)管理策略，以促進元數(shù)據(jù)目標的實現(xiàn)。元數(shù)據(jù)貫穿企業(yè)數(shù)據(jù)資產(chǎn)流動的全過程，主要包括數(shù)據(jù)源的元數(shù)據(jù)、數(shù)據(jù)采集的元數(shù)據(jù)、數(shù)據(jù)倉庫的元數(shù)據(jù)、數(shù)據(jù)集市的元數(shù)據(jù)、應(yīng)用服務(wù)層的元數(shù)據(jù)和BI層的元數(shù)據(jù)等。進行元數(shù)據(jù)的需求規(guī)劃時，需要了解清楚企業(yè)的數(shù)據(jù)環(huán)境，明確數(shù)據(jù)資產(chǎn)的分布，明確數(shù)據(jù)的流向和路徑，從而進一步確定元數(shù)據(jù)在數(shù)據(jù)庫環(huán)境中的存儲情況，如數(shù)據(jù)結(jié)構(gòu)、數(shù)據(jù)字典、數(shù)據(jù)關(guān)系、報表工具、其他第三方系統(tǒng)或工具等，以及是否需要元數(shù)據(jù)梳理模板，手動整理元數(shù)據(jù)作為補充等。元數(shù)據(jù)需求規(guī)劃應(yīng)重點關(guān)注的需求如下。元數(shù)據(jù)模型需求：命名規(guī)范、結(jié)構(gòu)、元素及關(guān)聯(lián)關(guān)系等。元數(shù)據(jù)接口需求：元數(shù)據(jù)資料庫及其內(nèi)容，適配器、所有者、系統(tǒng)訪問、元數(shù)據(jù)血緣關(guān)系等。元數(shù)據(jù)系統(tǒng)需求：元數(shù)據(jù)采集、元數(shù)據(jù)管理、元數(shù)據(jù)應(yīng)用等。數(shù)據(jù)安全需求：數(shù)據(jù)的分類分級、敏感數(shù)據(jù)分布、敏感數(shù)據(jù)管理要求等。數(shù)據(jù)質(zhì)量需求：數(shù)據(jù)質(zhì)量規(guī)則、數(shù)據(jù)標準定義等。數(shù)據(jù)管理需求：數(shù)據(jù)管理的組織、流程、制度、考核等。元數(shù)據(jù)需求規(guī)劃的步驟如下：1)企業(yè)戰(zhàn)略調(diào)研：調(diào)研企業(yè)的業(yè)務(wù)發(fā)展戰(zhàn)略和主要業(yè)務(wù)領(lǐng)域的業(yè)務(wù)發(fā)展規(guī)劃，梳理IT建設(shè)的歷史、現(xiàn)狀和初步規(guī)劃。2)數(shù)據(jù)管理調(diào)研：調(diào)研企業(yè)數(shù)據(jù)管理的背景、問題、目標，以及企業(yè)數(shù)據(jù)管理目前的相關(guān)制度、流程和組織。3)元數(shù)據(jù)現(xiàn)狀清單：功能性信息需求、邏輯模型、物理模型、業(yè)務(wù)術(shù)語字典、已有數(shù)據(jù)環(huán)境、系統(tǒng)文檔等。4)數(shù)據(jù)問題分析：基于現(xiàn)狀評估及成熟度評估，找出差異，定位問題并進行問題根本原因分析，結(jié)合行業(yè)業(yè)務(wù)、數(shù)據(jù)發(fā)展要求，制定問題解決優(yōu)先級計劃，并制定改進方案。5)制定行動路線：元數(shù)據(jù)實施路線的制定應(yīng)聚焦企業(yè)當前最緊迫、最重要的建設(shè)內(nèi)容，確保項目范圍可控、成效可見。每個企業(yè)的業(yè)務(wù)各不相同，元數(shù)據(jù)的設(shè)計必須圍繞其特定的業(yè)務(wù)需求展開，需要確保企業(yè)收集正確的元數(shù)據(jù)清單以解決特定的業(yè)務(wù)問題。元數(shù)據(jù)設(shè)計應(yīng)遵循以下原則。 (1)簡單性與準確性原則對信息對象的描述應(yīng)簡單易懂，應(yīng)盡量基于共識采用業(yè)務(wù)語言進行設(shè)計，盡量避免使用晦澀難懂的技術(shù)語言。當然，也要考慮簡單化可能導(dǎo)致描述不準確，需在二者之間進行權(quán) (2)互操作性原則元數(shù)據(jù)的互操作性體現(xiàn)在對異構(gòu)系統(tǒng)間的互操作能力的支持，即在各種元數(shù)據(jù)標準下建立元數(shù)據(jù)，不僅要滿足當前應(yīng)用對數(shù)據(jù)的操作，還應(yīng)考慮在企業(yè)整體IT環(huán)境中的互操作性。 (3)可擴展性原則企業(yè)的數(shù)據(jù)環(huán)境時刻在發(fā)生變化，因此元數(shù)據(jù)的設(shè)計應(yīng)具備一定的可擴展性，應(yīng)允許用戶在不破壞既有標準的前提下，擴充一些元素或?qū)傩浴?(4)用戶需求原則元數(shù)據(jù)設(shè)計的目的是向用戶充分揭示信息資源，因此用戶需求應(yīng)作為元數(shù)據(jù)設(shè)計的最終衡量標準，特別是在數(shù)據(jù)結(jié)構(gòu)與格式的設(shè)計、數(shù)據(jù)元素的增加與取舍、語義規(guī)則的制定等方面，要盡可能從用戶需求出發(fā)，通過用戶交互和用戶反饋來完善元數(shù)據(jù)的設(shè)計。元數(shù)據(jù)設(shè)計一般分為分類、定義、獲取、發(fā)布四個步驟，并以設(shè)計結(jié)果作為基線，納入元數(shù)據(jù)平臺管理中。 (1)元數(shù)據(jù)分類根據(jù)元數(shù)據(jù)用途及使用者的不同制定元數(shù)據(jù)分類框架，規(guī)劃業(yè)務(wù)元數(shù)據(jù)、技術(shù)元數(shù)據(jù)、操作元數(shù)據(jù)所包含的數(shù)據(jù)類型和集合。明確元數(shù)據(jù)管理的種類，如數(shù)據(jù)字典、邏輯模型、物理模型、報表定義、維度加工規(guī)則、數(shù)據(jù)映射信息、接口信息等，根據(jù)規(guī)則進行元數(shù)據(jù)分常用的元數(shù)據(jù)分類方式有以下兩種：按照業(yè)務(wù)主題進行組織，即通過從業(yè)務(wù)域到業(yè)務(wù)主題、實體數(shù)據(jù)、數(shù)據(jù)模型的逐層分解方式，規(guī)劃元數(shù)據(jù)的分類。這是一種站在業(yè)務(wù)視角管理元數(shù)據(jù)的方式，能夠形成業(yè)務(wù)人員容易理解的數(shù)據(jù)目錄。按照數(shù)據(jù)源進行組織，即通過源數(shù)據(jù)系統(tǒng)、數(shù)據(jù)表、數(shù)據(jù)結(jié)構(gòu)形式展現(xiàn)企業(yè)數(shù)據(jù)目錄，這種方式更便于IT人員使用元數(shù)據(jù)。在實際的使用中，通常需要將兩個分類方式相結(jié)合，以形成企業(yè)級的元數(shù)據(jù)地圖。 (2)元數(shù)據(jù)定義元數(shù)據(jù)定義就是對數(shù)據(jù)的業(yè)務(wù)屬性、技術(shù)屬性、操作屬性進行規(guī)范化的定義，主要是描述數(shù)據(jù)屬性的信息，如屬性名稱、用途、存儲位置、歷史數(shù)據(jù)、文件記錄等。 (3)元數(shù)據(jù)獲取元數(shù)據(jù)的基本要素包括業(yè)務(wù)術(shù)語、業(yè)務(wù)規(guī)則、報表說明、指標定義，技術(shù)細節(jié)包括各個業(yè)務(wù)系統(tǒng)的數(shù)據(jù)結(jié)構(gòu)、代碼字段取值、數(shù)據(jù)遷移與轉(zhuǎn)換規(guī)則等。以上元數(shù)據(jù)除了通過自動化工具獲取，有時候還需要通過模板手工整理作為補充。對于一些數(shù)據(jù)源(例如一些老舊的信息系統(tǒng))，由于缺乏最初的元數(shù)據(jù)設(shè)計，所以很難獲取到準確的業(yè)務(wù)元數(shù)據(jù)。這些業(yè)務(wù)元數(shù)據(jù)更加需要業(yè)務(wù)人員的配合，由業(yè)務(wù)人員進行補充，最終形成并交付業(yè)務(wù)元數(shù)據(jù)成果。 (4)元數(shù)據(jù)發(fā)布評估和分析分散在各個應(yīng)用系統(tǒng)、各個部門中的業(yè)務(wù)元數(shù)據(jù)、技術(shù)元數(shù)據(jù)之間的關(guān)聯(lián)性，建立技術(shù)元數(shù)據(jù)與業(yè)務(wù)元數(shù)據(jù)的映射，形成企業(yè)級元數(shù)據(jù)地圖，發(fā)布元數(shù)據(jù)基線。在后續(xù)的運維過程中，根據(jù)各業(yè)務(wù)部門的用數(shù)需求，分析判斷元數(shù)據(jù)倉庫中是否已存在相應(yīng)的元數(shù)據(jù)。如果元數(shù)據(jù)倉庫中已有該元數(shù)據(jù)，則直接共享使用；如果元數(shù)據(jù)倉庫中沒有，則需要確定采集方案，進行數(shù)據(jù)采集，并對采集的元數(shù)據(jù)進行整理完善，與生產(chǎn)庫建立映射關(guān)系，最后完成新增元數(shù)據(jù)的發(fā)布。元數(shù)據(jù)規(guī)劃設(shè)計是元數(shù)據(jù)管理實施中最重要，也是工作量最大的一個過程，這是國內(nèi)大多數(shù)企業(yè)元數(shù)據(jù)管理的現(xiàn)狀。究其原因，主要還是數(shù)據(jù)管理體系不夠成熟，也可以說是數(shù)據(jù)不夠成熟。很多企業(yè)從一開始就沒有完整的數(shù)據(jù)規(guī)劃，比如業(yè)務(wù)術(shù)語、指標的定義，現(xiàn)在幾乎要整體倒推，獲得元數(shù)據(jù)自然就比較困難。在數(shù)據(jù)治理整體框架下，建立元數(shù)據(jù)管理體系，從組織、制度、流程、技術(shù)與工具等方面保障元數(shù)據(jù)的有效實施和運營管理，規(guī)范元數(shù)據(jù)的日常采集和處理活動，幫助企業(yè)有效管理元數(shù)據(jù)。組織保障：明確業(yè)務(wù)牽頭部門、業(yè)務(wù)與信息化的協(xié)作關(guān)系，明確各部門數(shù)據(jù)認責范圍。在數(shù)據(jù)治理團隊的指導(dǎo)下，針對企業(yè)的數(shù)據(jù)管理組織現(xiàn)狀，建立公司高層支持、中層管理協(xié)調(diào)、基層執(zhí)行三個層面的數(shù)據(jù)治理組織，明確各層的工作職責，為元數(shù)據(jù)管理工作提供組織保障。制度保障：元數(shù)據(jù)管理是企業(yè)的IT基礎(chǔ)設(shè)施，涉及的系統(tǒng)較廣，需要調(diào)動的資源較多，在實施的過程中，企業(yè)高層管理者需要給予強有力的支持，并制定相應(yīng)的規(guī)章制度進行保障，這是項目實施持續(xù)推進的動力。流程保障：為保證數(shù)據(jù)治理措施的落地執(zhí)行，需要從數(shù)據(jù)認責、標準管理、質(zhì)量管理等多個方面進行流程設(shè)計，制定企業(yè)范圍內(nèi)數(shù)據(jù)的變更管理流程，保證信息系統(tǒng)中的數(shù)據(jù)與管理規(guī)范、數(shù)據(jù)標準的一致性。技術(shù)與工具：搭建統(tǒng)一的元數(shù)據(jù)管理平臺，實現(xiàn)企業(yè)級元數(shù)據(jù)集中管控，支持元數(shù)據(jù)采集、元數(shù)據(jù)管理、元數(shù)據(jù)共享、元數(shù)據(jù)血統(tǒng)分析、元數(shù)據(jù)影響分析、企業(yè)數(shù)據(jù)地圖等功運營維護：定義捕獲、維護業(yè)務(wù)元數(shù)據(jù)、技術(shù)元數(shù)據(jù)、操作元數(shù)據(jù)，定期分發(fā)和交付元數(shù)監(jiān)控管理：提供元數(shù)據(jù)的新增和變更流程，控制元數(shù)據(jù)新增、變更等操作，支持元數(shù)據(jù)的日常監(jiān)控，管理元數(shù)據(jù)版本，做好元數(shù)據(jù)的血緣分析、影響分析。統(tǒng)計分析：元數(shù)據(jù)系統(tǒng)運營情況統(tǒng)計報告，支持元數(shù)據(jù)查詢、元數(shù)據(jù)使用情況分析(如冷熱度分析)等。宣傳推廣：通過企業(yè)內(nèi)部網(wǎng)絡(luò)、會議等各種渠道，推廣元數(shù)據(jù)管理平臺，提高元數(shù)據(jù)管理平臺的使用量，提升元數(shù)據(jù)在企業(yè)中的價值認識度。從技術(shù)層面來看，元數(shù)據(jù)管理技術(shù)主要包括元數(shù)據(jù)采集、元數(shù)據(jù)管理、元數(shù)據(jù)應(yīng)用和元數(shù)據(jù)接口等。在數(shù)據(jù)治理項目中，常見的元數(shù)據(jù)有數(shù)據(jù)源的元數(shù)據(jù)、數(shù)據(jù)加工處理過程的元數(shù)據(jù)、數(shù)據(jù)倉庫或數(shù)據(jù)主題庫的元數(shù)據(jù)、數(shù)據(jù)應(yīng)用層的元數(shù)據(jù)、數(shù)據(jù)接口服務(wù)的元數(shù)據(jù)等。元數(shù)據(jù)采集服務(wù)提供各類適配器來滿足以上各類元數(shù)據(jù)的采集需求，并將元數(shù)據(jù)整合處理后統(tǒng)一存儲于中央元數(shù)據(jù)倉庫，實現(xiàn)元數(shù)據(jù)的統(tǒng)一管理。在這個過程中，數(shù)據(jù)采集適配器十分重要，元數(shù)據(jù)采集不僅要能夠適配各種數(shù)據(jù)庫、各類ETL、各類數(shù)據(jù)倉庫和報表產(chǎn)品，還需要適配各類結(jié)構(gòu)化或半結(jié)構(gòu)化數(shù)據(jù)源。通過元數(shù)據(jù)適配器采集來自O(shè)racle、DB2、SQLServer、MySQL、Teradata、Sybase等關(guān)系型數(shù)據(jù)庫的庫表結(jié)構(gòu)、視圖、存儲過程等元數(shù)據(jù)。關(guān)系型數(shù)據(jù)庫一般都提供了元數(shù)據(jù)的橋接器，例如Oracle的RDBMS，可實現(xiàn)元數(shù)據(jù)信息的快速讀取。元數(shù)據(jù)采集工具應(yīng)支持來自MongoDB、CouchDB、Redis、Neo4j、HBase等NoSQL數(shù)據(jù)庫中的元數(shù)據(jù)，NoSQL數(shù)據(jù)庫適配器多半利用了自身管理和查詢Schema的能力。對于主流的數(shù)據(jù)倉庫，可以基于其內(nèi)在的查詢腳本，定制開發(fā)相應(yīng)的適配器，對其元數(shù)據(jù)進行采集。例如MPP數(shù)據(jù)庫Greenplum，其核心元數(shù)據(jù)都存儲通過SQL腳本就可以對其元數(shù)據(jù)進行采集。Hive表結(jié)構(gòu)信息存儲在外部數(shù)據(jù)庫中，同時Hive提供類似showtable、describetable之類的語法對其元數(shù)據(jù)信息進行查詢。當然，也可以利用專業(yè)的元數(shù)據(jù)采集工具來采集數(shù)據(jù)倉庫系統(tǒng)的元數(shù)據(jù)。隨著公有云的日趨成熟，尤其是在中小企業(yè)之間，通過提供安全的云連接將云端企業(yè)元數(shù)據(jù)管理用作核心IT基礎(chǔ)架構(gòu)的擴展已經(jīng)成為現(xiàn)實。云端企業(yè)元數(shù)據(jù)管理通過各種上下文改善信息訪問，并將實時元數(shù)據(jù)管理、機器學(xué)習(xí)模型、元數(shù)據(jù)API推進流數(shù)據(jù)管道，以便更好地管理企業(yè)數(shù)據(jù)資產(chǎn)。當然，目前市場上的主流元數(shù)據(jù)產(chǎn)品中還沒有哪一個能做到“萬能適配”，在實際應(yīng)用過程中都需要進行或多或少的定制化開發(fā)。建立元數(shù)據(jù)查詢、訪問的統(tǒng)一接口規(guī)范，以將企業(yè)核心元數(shù)據(jù)完整、準確地提取到元數(shù)據(jù)倉庫中進行集中管理和統(tǒng)一共享。元數(shù)據(jù)接口規(guī)范主要包括接口編碼方式、接口響應(yīng)格式、接口協(xié)議、接口安全、連接方式、接口地址等方面的內(nèi)容。接口編碼方式：接口編碼方式必須在接口的頭信息中注明，常用的接口編碼方式從技術(shù)的角度看，元數(shù)據(jù)管理一般包括元模型管理、元數(shù)據(jù)審核、元數(shù)據(jù)維護、元數(shù)據(jù)版本管理、元數(shù)據(jù)變更管理等功能。元模型管理即基于元數(shù)據(jù)平臺構(gòu)建符合CWM規(guī)范的元數(shù)據(jù)倉庫，實現(xiàn)元模型統(tǒng)一、集中化管理，提供元模型的查詢、增加、修改、刪除、元數(shù)據(jù)關(guān)系管理、權(quán)限設(shè)置等功能，支持概念模型、邏輯模型、物理模型的采集和管理，讓用戶直觀地了解已有元模型的分類、統(tǒng)計、使用情況、變更追溯，以及每個元模型的生命周期管理。同時，支持應(yīng)用開發(fā)的模型管理。支持元模型的全生命周期管理。元模型生命周期中有三個狀態(tài)，分別是設(shè)計態(tài)、測試態(tài)和生產(chǎn)態(tài)。