數(shù)據(jù)治理治什么?在哪治?怎么治?
今天我們來(lái)探討一下關(guān)于數(shù)據(jù)治理的靈魂三問(wèn):
? ? 1、數(shù)據(jù)治理治什么,治的是數(shù)據(jù)嗎?
? ? 2、數(shù)據(jù)治理在哪里治,中臺(tái)還是后臺(tái)?
? ? 3、數(shù)據(jù)治理到底怎么治?
一、數(shù)據(jù)治理治的是“數(shù)據(jù)”嗎?
? ? ? ?數(shù)據(jù)是指對(duì)客觀事件進(jìn)行記錄并可以鑒別的符號(hào),是對(duì)客觀事物的性質(zhì)、狀態(tài)以及相互關(guān)系等進(jìn)行記載的物理符號(hào)或這些物理符號(hào)的組合。其實(shí)在我看來(lái),數(shù)據(jù)可以分為兩個(gè)部分,一是數(shù)字,二是文字。數(shù)字是沒(méi)有意義的抽象符號(hào),數(shù)據(jù)是有意義的數(shù)字。文字表意,數(shù)字表量,當(dāng)兩者結(jié)合起來(lái),數(shù)據(jù)就產(chǎn)生了。
? ? ? ?在我們的生活和工作當(dāng)中,數(shù)據(jù)無(wú)處不在。對(duì)企業(yè)來(lái)講,有很多數(shù)據(jù)是無(wú)關(guān)企業(yè)重大利益的數(shù)據(jù),是沒(méi)有治理的必要的。數(shù)據(jù)治理的對(duì)象必須是重要的數(shù)據(jù)資源,是關(guān)乎企業(yè)重大商業(yè)利益的數(shù)據(jù)資源,這樣的數(shù)據(jù)資源可以稱其為“數(shù)據(jù)資產(chǎn)”。正如北大教授王漢生先生所說(shuō):“數(shù)據(jù)治理不是對(duì)“數(shù)據(jù)”的治理,而是對(duì)“數(shù)據(jù)資產(chǎn)”的治理,是對(duì)數(shù)據(jù)資產(chǎn)所有相關(guān)方利益的協(xié)調(diào)與規(guī)范?!?/span>
我們需要分開(kāi)來(lái)理解這句話:
? ? ? ?①什么是數(shù)據(jù)資產(chǎn)?
? ? ? ?②數(shù)據(jù)資產(chǎn)的相關(guān)利益方是誰(shuí)?
? ? ? ③協(xié)調(diào)與規(guī)范什么?
先說(shuō)一說(shuō)什么是數(shù)據(jù)資產(chǎn)。我們說(shuō)不是所有數(shù)據(jù)都是數(shù)據(jù)資產(chǎn),那到底什么才是數(shù)據(jù)資產(chǎn)呢?
? ? ? 《企業(yè)會(huì)計(jì)準(zhǔn)則-基本準(zhǔn)則》第20條規(guī)定:“資產(chǎn)是指企業(yè)過(guò)去的交易或者事項(xiàng)形成的、由企業(yè)擁有或者控制的、預(yù)期會(huì)給企業(yè)帶來(lái)經(jīng)濟(jì)利益的資源?!?如果照貓畫(huà)虎修改一下,不難獲得一個(gè)關(guān)于數(shù)據(jù)資產(chǎn)的定義:“數(shù)據(jù)資產(chǎn)是指企業(yè)過(guò)去的交易或者事項(xiàng)形成的,由企業(yè)擁有或者控制的,預(yù)期會(huì)給企業(yè)帶來(lái)經(jīng)濟(jì)利益的數(shù)據(jù)資源。”由此可見(jiàn),數(shù)據(jù)要成為數(shù)據(jù)資產(chǎn),至少要滿足3個(gè)核心必要條件:
? ? ? ?①數(shù)據(jù)資產(chǎn)應(yīng)該是企業(yè)的交易或者事項(xiàng)形成的;
? ? ? ?②企業(yè)擁有或者控制;
? ? ? ③預(yù)期會(huì)給企業(yè)帶來(lái)經(jīng)濟(jì)利益。
數(shù)據(jù)資產(chǎn)的利益相關(guān)方是誰(shuí)?
? ? ? 根據(jù)數(shù)據(jù)資產(chǎn)的定義,數(shù)據(jù)資產(chǎn)的利益相關(guān)方,包括:
? ? ? ①數(shù)據(jù)的生產(chǎn)者,即通過(guò)業(yè)務(wù)交易或事項(xiàng)產(chǎn)生數(shù)據(jù)的人或組織。
? ? ? ②數(shù)據(jù)的擁有或控制者,生產(chǎn)數(shù)據(jù)的人不一定是擁有數(shù)據(jù),就像我們天天上網(wǎng)的各種數(shù)據(jù)都不歸我們自己所有,而是落在了各個(gè)互聯(lián)網(wǎng)公司的數(shù)據(jù)庫(kù)中。
? ? ?③數(shù)據(jù)價(jià)值和經(jīng)濟(jì)利益的收益者。數(shù)據(jù)治理就是對(duì)數(shù)據(jù)生產(chǎn)者、擁有或控制者,數(shù)據(jù)價(jià)值獲益者的規(guī)范和協(xié)調(diào)。
都什么是需要協(xié)調(diào)和規(guī)范?
? ? ? 首先是數(shù)據(jù)的標(biāo)準(zhǔn)化,定義統(tǒng)一的數(shù)據(jù)標(biāo)準(zhǔn),“寫(xiě)中國(guó)字、說(shuō)普通話”讓數(shù)據(jù)資產(chǎn)的相關(guān)利益方在同一個(gè)“頻道”溝通。數(shù)據(jù)的標(biāo)準(zhǔn)化包含幾個(gè)層面:①數(shù)據(jù)模型標(biāo)準(zhǔn)化。②核心數(shù)據(jù)實(shí)體的標(biāo)準(zhǔn)化(主數(shù)據(jù)的標(biāo)準(zhǔn)化)。③關(guān)鍵指標(biāo)的標(biāo)準(zhǔn)化。關(guān)于數(shù)據(jù)標(biāo)準(zhǔn)化這里不再展開(kāi),有需要深入了解的朋友請(qǐng)參考筆者之前寫(xiě)的文章:《數(shù)據(jù)治理系列3:數(shù)據(jù)標(biāo)準(zhǔn)管理》。
? ? ? 其次是數(shù)據(jù)的確權(quán)。數(shù)據(jù)一旦成為資產(chǎn),就一定有擁有方,或者實(shí)際控制人,可以把他們統(tǒng)稱產(chǎn)權(quán)人。與實(shí)物不同的是,實(shí)物的產(chǎn)權(quán)是比較明確的,數(shù)據(jù)則比較復(fù)雜。產(chǎn)品在生產(chǎn)制造過(guò)程中,并沒(méi)有與消費(fèi)者交易之前,制造商擁有完全產(chǎn)權(quán)。產(chǎn)品生產(chǎn)出來(lái)后,消費(fèi)者通過(guò)購(gòu)買(mǎi)支付相應(yīng)的貨幣,便擁有了產(chǎn)品的產(chǎn)權(quán)。而數(shù)據(jù)的生產(chǎn)過(guò)程就不一樣了,我們的各種上網(wǎng)行為每天都會(huì)產(chǎn)生大量的數(shù)據(jù),例如:網(wǎng)上購(gòu)物、瀏覽網(wǎng)頁(yè)、使用地圖、評(píng)論/評(píng)價(jià)……。這些數(shù)據(jù)到底歸誰(shuí)所有?控制權(quán)該如何治理?這是擺在面前的一個(gè)難題!我們看到近幾年一些不良商家,利用我們的上網(wǎng)數(shù)據(jù),導(dǎo)致安全隱私泄密的事件也層出不窮。希望隨著技術(shù)和商業(yè)的進(jìn)步,盡快能夠找到解決方案!
? ? ? 第三是流程的優(yōu)化。數(shù)據(jù)治理的兩個(gè)目標(biāo):一個(gè)是提質(zhì)量,一個(gè)是控安全。互聯(lián)網(wǎng)數(shù)據(jù)的確權(quán)目前已經(jīng)是一個(gè)世界級(jí)難題,做好企業(yè)業(yè)務(wù)流程的優(yōu)化可能會(huì)對(duì)隱私保護(hù)起到一定的作用。通過(guò)業(yè)務(wù)流程優(yōu)化,規(guī)范數(shù)據(jù)從產(chǎn)生、處理、使用到銷(xiāo)毀的整個(gè)生命周期,使得數(shù)據(jù)在各階段、各流程環(huán)節(jié)安全可控,合規(guī)使用。另外,通過(guò)一定的流程優(yōu)化,通過(guò)對(duì)相關(guān)流程進(jìn)行監(jiān)管,按照數(shù)據(jù)的質(zhì)量規(guī)則進(jìn)行數(shù)據(jù)校驗(yàn),符合“垃圾進(jìn)、垃圾出”的數(shù)據(jù)采集、處理、存儲(chǔ)原則,提升數(shù)據(jù)治理,賦能業(yè)務(wù)應(yīng)用。
二、數(shù)據(jù)治理到底在哪里治?
? ? ? ?關(guān)于數(shù)據(jù)中臺(tái)到底應(yīng)該在中臺(tái)治理還是應(yīng)該在后臺(tái)治理,這個(gè)話題在筆者所在的數(shù)據(jù)圈子中引起了激烈的討論。群里參與討論的都是業(yè)界的大咖,討論內(nèi)容也十分精彩,我截了部分的截圖,先看看大咖們的觀點(diǎn):
? ? ? ?數(shù)據(jù)治理到底應(yīng)該放在中臺(tái),還是后臺(tái),我個(gè)人的理解是:小數(shù)據(jù)標(biāo)準(zhǔn)化治理靠人工、大數(shù)據(jù)預(yù)測(cè)性分析靠智能,將兩者結(jié)合起來(lái):“人工+智能”形成了完整的數(shù)據(jù)治理技術(shù)體系。一個(gè)企業(yè)的數(shù)據(jù)治理既離不開(kāi)小數(shù)據(jù)的標(biāo)準(zhǔn)化治理,也離不開(kāi)大數(shù)據(jù)的預(yù)測(cè)性分析。
? ? ? ?這里的小數(shù)據(jù),是在承載事物實(shí)體的數(shù)據(jù),例如:人、財(cái)、物等,是企業(yè)所有業(yè)務(wù)開(kāi)展的載體。其實(shí)說(shuō)白了就是主數(shù)據(jù)管理。對(duì)于主數(shù)據(jù)的治理筆者認(rèn)為是一個(gè)后臺(tái)行為,治理核心是“唯一數(shù)據(jù)源、統(tǒng)一數(shù)據(jù)標(biāo)準(zhǔn)”,而要達(dá)到這一目標(biāo)是需要從數(shù)據(jù)的源頭抓起的,并且需要大量的人為干預(yù),比如:數(shù)據(jù)標(biāo)準(zhǔn)的制定和落實(shí),數(shù)據(jù)質(zhì)量的清洗,數(shù)據(jù)的申請(qǐng)審批,數(shù)據(jù)的分發(fā)和共享等。從這里也能夠看出小數(shù)據(jù)的治理,追求的是標(biāo)準(zhǔn)化、精確化,應(yīng)該是一個(gè)后臺(tái)行為。
而在大數(shù)據(jù)時(shí)代,得益于大數(shù)據(jù)技術(shù)的突破,大量的結(jié)構(gòu)化、非結(jié)構(gòu)化、異構(gòu)化的數(shù)據(jù)能夠得到儲(chǔ)存、處理、計(jì)算和分析,這一方面提升了我們從海量數(shù)據(jù)中獲取知識(shí)和洞見(jiàn)的能力。對(duì)于大數(shù)據(jù),傳統(tǒng)的一味追求精確的思維受到了挑戰(zhàn)。而對(duì)于大數(shù)據(jù)的治理,允許一定程度上的容錯(cuò),反而可以在宏觀層面擁有更好的知識(shí)和洞察力。對(duì)于大數(shù)據(jù)的治理更多的是采用AI技術(shù),例如:知識(shí)圖譜、語(yǔ)音識(shí)別等,對(duì)大數(shù)據(jù)的采集、處理、使用過(guò)程加以控制,使其能夠合規(guī)使用。所以,大數(shù)據(jù)的治理放在中臺(tái)似乎更為合適。
三、數(shù)據(jù)治理到底應(yīng)該怎么治?
? ? ? ? 數(shù)據(jù)到底怎么治,這確實(shí)是一個(gè)寬泛的話題,首先是要明確治理的內(nèi)容。針對(duì)不同的治理內(nèi)容采取不同的數(shù)據(jù)治理策略。關(guān)于小數(shù)據(jù)和大數(shù)據(jù)的治理側(cè)重點(diǎn)上文已經(jīng)說(shuō)明。以下為筆者在數(shù)據(jù)治理領(lǐng)域總結(jié)的數(shù)據(jù)治理十大關(guān)鍵實(shí)踐:
1、成立組織,育人才
? ? ? ? 數(shù)據(jù)治理的根本目標(biāo)的是提升數(shù)據(jù)質(zhì)量,控制數(shù)據(jù)安全和合規(guī)使用。數(shù)據(jù)治理涉及范圍廣,參與人員多,需要一定的組織和制度的保障才可能獲得成功。首先,依據(jù)行業(yè)經(jīng)驗(yàn)來(lái)看,不論是基于后臺(tái)的小數(shù)據(jù)治理,還是基于中臺(tái)的大數(shù)據(jù)治理,“一把手”工程是數(shù)據(jù)治理組織建設(shè)的最佳實(shí)踐。尤其是中臺(tái)數(shù)據(jù)治理更是上升至企業(yè)戰(zhàn)略層面,自下而上的治理幾乎不太可能成功。其次,數(shù)據(jù)治理組織的建立并是組建一個(gè)非臨時(shí)團(tuán)隊(duì),而是要能夠支撐企業(yè)數(shù)據(jù)化業(yè)務(wù)的一個(gè)完整體系,包括:組織體系、管理體系、執(zhí)行體系、技術(shù)體系等。第三,數(shù)據(jù)治理組織的人員選拔和人才培養(yǎng),不同企業(yè)應(yīng)有不同的策略。一般來(lái)說(shuō),建立數(shù)據(jù)治理組織從企業(yè)內(nèi)部進(jìn)行選拔相應(yīng)的技術(shù)專(zhuān)家、業(yè)務(wù)專(zhuān)家更為合適,要比從外部招聘更能夠快速上手。不過(guò),對(duì)于傳統(tǒng)企業(yè),其內(nèi)部更偏管理,數(shù)據(jù)治理團(tuán)隊(duì)建設(shè)更多需要借助外部力量。
2、需求調(diào)研,摸家底
? ? ? ? 與數(shù)據(jù)項(xiàng)目一樣,詳細(xì)需求調(diào)研是開(kāi)展數(shù)據(jù)治理工作的第一階段的重要工作。本階段主要是理解企業(yè)的戰(zhàn)略,并按照從上而下的策略進(jìn)行開(kāi)展企業(yè)數(shù)據(jù)管理的現(xiàn)狀調(diào)研,摸清楚企業(yè)數(shù)據(jù)資產(chǎn)的分布、數(shù)據(jù)的質(zhì)量、數(shù)據(jù)的管理現(xiàn)狀、數(shù)據(jù)應(yīng)用需求等情況。該階段的工作目標(biāo)是確定數(shù)據(jù)治理項(xiàng)目的目標(biāo)和范圍,評(píng)估數(shù)據(jù)治理成熟度,確定改進(jìn)內(nèi)容和方向并與客戶達(dá)成共識(shí)。
3、梳理數(shù)據(jù),建標(biāo)準(zhǔn)
? ? ? ? 按照業(yè)務(wù)主題進(jìn)行數(shù)據(jù)資產(chǎn)的梳理,并制定數(shù)據(jù)資產(chǎn)的標(biāo)準(zhǔn)。首先,定義數(shù)據(jù)資產(chǎn)元模型標(biāo)準(zhǔn),包括:數(shù)據(jù)資產(chǎn)的數(shù)據(jù)含義、業(yè)務(wù)規(guī)則、質(zhì)量規(guī)則、數(shù)據(jù)來(lái)源、存儲(chǔ)路徑、管理部門(mén)、管理人等,即數(shù)據(jù)資產(chǎn)的元數(shù)據(jù)標(biāo)準(zhǔn),定義好數(shù)據(jù)模型是數(shù)據(jù)治理成功落地的重要前提;其次,重點(diǎn)對(duì)企業(yè)的核心數(shù)據(jù)資產(chǎn)——主數(shù)據(jù)進(jìn)行標(biāo)準(zhǔn)化,包括:主數(shù)據(jù)標(biāo)準(zhǔn)化定義、參照字典的標(biāo)準(zhǔn)化、數(shù)據(jù)清洗、數(shù)據(jù)服務(wù)共享等;第三,對(duì)業(yè)務(wù)指標(biāo)的屬性的標(biāo)準(zhǔn)化,指標(biāo)的屬性分為“業(yè)務(wù)屬性”和“技術(shù)屬性”兩類(lèi),業(yè)務(wù)屬性包含業(yè)務(wù)人員通常認(rèn)識(shí)的指標(biāo)分類(lèi)、名稱、計(jì)算公式、展現(xiàn)方式和查詢權(quán)限等;技術(shù)屬性包含技術(shù)運(yùn)維人員所關(guān)心的系統(tǒng)來(lái)源、取數(shù)字段、取數(shù)頻率、加工規(guī)則等,其核心也是元數(shù)據(jù)管理。
4、優(yōu)化流程,定制度
? ? ? ? 對(duì)于企業(yè)而言,數(shù)據(jù)來(lái)源于很多方面,內(nèi)部數(shù)據(jù)如財(cái)務(wù)、人力、供應(yīng)鏈、生產(chǎn)、銷(xiāo)售等;外部數(shù)據(jù)如政治、經(jīng)濟(jì)、社會(huì)、科技、行業(yè)、市場(chǎng)、競(jìng)爭(zhēng)對(duì)手等。雖然數(shù)據(jù)來(lái)源廣、數(shù)據(jù)量大是優(yōu)點(diǎn),但如果不加以整理和關(guān)聯(lián),雜亂無(wú)章的數(shù)據(jù)不僅不利于分析應(yīng)用,還將帶來(lái)不必要的人財(cái)物的消耗。所以,非常有必要對(duì)數(shù)據(jù)產(chǎn)生、采集、處理、加工、使用等過(guò)程進(jìn)行規(guī)范。通過(guò)統(tǒng)一數(shù)據(jù)標(biāo)準(zhǔn),制定合理的數(shù)據(jù)管理流程和制度,規(guī)范數(shù)據(jù)生產(chǎn)供應(yīng)的過(guò)程。
5、搭建平臺(tái),接數(shù)據(jù)
? ? ? ? 數(shù)據(jù)治理平臺(tái)的搭建要根據(jù)不同的客戶需求搭建不同模塊,數(shù)據(jù)治理平臺(tái)主要涵蓋功能模塊有:元數(shù)據(jù)管理、主數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量管理、數(shù)據(jù)標(biāo)準(zhǔn)管理、數(shù)據(jù)安全管理、數(shù)據(jù)模型工具、ETL工具等。數(shù)據(jù)接入是將各種來(lái)源、各種類(lèi)型的數(shù)據(jù),通過(guò)數(shù)據(jù)集成工具將這些零散的數(shù)據(jù)整合在一起,納入統(tǒng)一的大數(shù)據(jù)平平臺(tái)或數(shù)據(jù)倉(cāng)庫(kù)中,這一過(guò)程需要符合數(shù)據(jù)治理平臺(tái)定義各種數(shù)據(jù)標(biāo)準(zhǔn)、質(zhì)量規(guī)則、安全指標(biāo)。所以,我們說(shuō)數(shù)據(jù)治理項(xiàng)目不是為了治理數(shù)據(jù)而建設(shè)的,而是配合大數(shù)據(jù)平臺(tái)、數(shù)據(jù)倉(cāng)庫(kù)、數(shù)據(jù)分析挖掘等項(xiàng)目,通過(guò)提升數(shù)據(jù)質(zhì)量、控制數(shù)據(jù)安全,讓數(shù)據(jù)發(fā)揮出最大的效益。
6、建立指標(biāo),提質(zhì)量
? ? ? ? 提升數(shù)據(jù)質(zhì)量是企業(yè)數(shù)據(jù)治理的重要目標(biāo),也是企業(yè)進(jìn)行數(shù)據(jù)分析挖掘、業(yè)務(wù)管理和決策的重要基礎(chǔ),只有建立完整的數(shù)據(jù)質(zhì)量體系,才能有效提升企業(yè)數(shù)據(jù)整體質(zhì)量,從而更好的為業(yè)務(wù)服務(wù)。從技術(shù)面上講,定義完整全面的數(shù)據(jù)質(zhì)量的評(píng)估維度,包括完整性、時(shí)效性等,并按照已定義的維度,在系統(tǒng)建設(shè)的各個(gè)階段都應(yīng)該根據(jù)標(biāo)準(zhǔn)進(jìn)行數(shù)據(jù)質(zhì)量檢測(cè)和規(guī)范,及時(shí)進(jìn)行治理,避免事后的清洗工作。
7、優(yōu)化模型,控安全
? ? ? ? 數(shù)據(jù)安全治理,始于數(shù)據(jù)資產(chǎn)梳理。通過(guò)對(duì)數(shù)據(jù)資產(chǎn)的梳理,可以確定敏感數(shù)據(jù)在系統(tǒng)內(nèi)部的分布、確定敏感數(shù)據(jù)是如何被訪問(wèn)的、確定當(dāng)前的賬號(hào)和授權(quán)的狀況。根據(jù)企業(yè)的數(shù)據(jù)價(jià)值和特征,梳理出企業(yè)的核心數(shù)據(jù)資產(chǎn),對(duì)其分級(jí)分類(lèi),通過(guò)數(shù)據(jù)治理工具進(jìn)行建模,定義敏感數(shù)據(jù)位置、描述和處理方式,保證數(shù)據(jù)的合規(guī)合法使用。
8、開(kāi)放服務(wù),促應(yīng)用
? ? ? ?數(shù)據(jù)的治理是為促進(jìn)數(shù)據(jù)更好的應(yīng)用,一切不以應(yīng)用為目的數(shù)據(jù)治理都是耍流氓。通過(guò)數(shù)據(jù)資產(chǎn)目錄、微服務(wù)等技術(shù)將數(shù)據(jù)進(jìn)行開(kāi)發(fā)共享,促進(jìn)數(shù)據(jù)在企業(yè)中的應(yīng)用,使得數(shù)據(jù)作為企業(yè)的寶貴資產(chǎn)應(yīng)用于業(yè)務(wù)、管理和戰(zhàn)略決策中,發(fā)揮數(shù)據(jù)資產(chǎn)價(jià)值。
9、賦能業(yè)務(wù),抓創(chuàng)新
? ? ? ?數(shù)據(jù)賦能是在管理和業(yè)務(wù)應(yīng)用中發(fā)揮數(shù)據(jù)更大的價(jià)值,以數(shù)據(jù)驅(qū)動(dòng)業(yè)務(wù)的落地。數(shù)據(jù)賦能核心是,①匯聚數(shù)據(jù):完善企業(yè)內(nèi)部信息數(shù)據(jù)化,采集外部數(shù)據(jù);②治理數(shù)據(jù):整合數(shù)據(jù),清洗、轉(zhuǎn)換、分析、服務(wù);③應(yīng)用數(shù)據(jù):以數(shù)據(jù)為驅(qū)動(dòng)將洞察結(jié)果應(yīng)用到實(shí)際業(yè)務(wù)中去,推動(dòng)企業(yè)業(yè)務(wù)和管理的創(chuàng)新。
10、持續(xù)優(yōu)化,再出發(fā)
? ? ? ?筆者認(rèn)為企業(yè)的數(shù)據(jù)治理是一個(gè)螺旋上升模型,需要不斷的迭代和優(yōu)化。數(shù)據(jù)治理不能一蹴而就,需要建立起長(zhǎng)效的持續(xù)運(yùn)營(yíng)機(jī)制,要將數(shù)據(jù)治理變成企業(yè)的一種機(jī)制、一種文化、一種習(xí)慣,而數(shù)據(jù)治理每一次迭代優(yōu)化都預(yù)示著企業(yè)數(shù)據(jù)戰(zhàn)略目標(biāo)的再出發(fā)!