成人午夜视频全免费观看高清-秋霞福利视频一区二区三区-国产精品久久久久电影小说-亚洲不卡区三一区三区一区

談?wù)剶?shù)據(jù)治理是什么?-創(chuàng)新互聯(lián)

創(chuàng)新互聯(lián)建站是一家網(wǎng)站建設(shè)、網(wǎng)站設(shè)計(jì),提供網(wǎng)頁(yè)設(shè)計(jì),網(wǎng)站設(shè)計(jì),網(wǎng)站制作,建網(wǎng)站,定制設(shè)計(jì),網(wǎng)站開(kāi)發(fā)公司,從2013年創(chuàng)立是互聯(lián)行業(yè)建設(shè)者,服務(wù)者。以提升客戶品牌價(jià)值為核心業(yè)務(wù),全程參與項(xiàng)目的網(wǎng)站策劃設(shè)計(jì)制作,前端開(kāi)發(fā),后臺(tái)程序制作以及后期項(xiàng)目運(yùn)營(yíng)并提出專(zhuān)業(yè)建議和思路。

數(shù)據(jù)治理這項(xiàng)工作一直都是存在的,和數(shù)據(jù)庫(kù)設(shè)計(jì)的三范式一樣都是為了數(shù)據(jù)的管理。數(shù)據(jù)治理是一整套完整的組織、制度、技術(shù)管理行為。

我們可以將大數(shù)據(jù)治理定義:大數(shù)據(jù)治是廣義信息化治理計(jì)劃的一部分,即制定與大數(shù)據(jù)有關(guān)的管理優(yōu)化、數(shù)據(jù)保護(hù)、數(shù)據(jù)變現(xiàn)的政策。

它的發(fā)起背景多數(shù)是由于公司戰(zhàn)略政策和業(yè)務(wù)日益變大的數(shù)據(jù)需求和要求所產(chǎn)生的。我所在的公司,當(dāng)業(yè)務(wù)經(jīng)歷粗放式增長(zhǎng)后,原有的模式已不能帶動(dòng)業(yè)務(wù)的增長(zhǎng),需要通過(guò)數(shù)據(jù)手段賦能新的業(yè)務(wù)增長(zhǎng)點(diǎn)。因此業(yè)務(wù)對(duì)數(shù)據(jù)提出了準(zhǔn)確性、及時(shí)性等要求,原有業(yè)務(wù)采集一個(gè)需求需要4天時(shí)間已經(jīng)不能滿足業(yè)務(wù),從而產(chǎn)生了數(shù)據(jù)治理項(xiàng)目的啟動(dòng)。

說(shuō)了數(shù)據(jù)治理產(chǎn)生的背景,我再來(lái)談下數(shù)據(jù)治理的對(duì)象。它包括數(shù)據(jù)、開(kāi)發(fā)流程、管理流程、制度、組織。我認(rèn)為只要和目標(biāo)相關(guān)聯(lián)的,都可以算作治理的對(duì)象,數(shù)據(jù)治理就是將關(guān)聯(lián)方通過(guò)一套完整的管理行為,形成有序的工作以達(dá)成目標(biāo)。

數(shù)據(jù)治理框架:

下面主要是介紹范圍這塊:

數(shù)據(jù)治理項(xiàng)目的范圍

數(shù)據(jù)治理項(xiàng)目的范圍通常都會(huì)包含:組織建設(shè)、數(shù)據(jù)安全、數(shù)據(jù)開(kāi)發(fā)、數(shù)據(jù)質(zhì)量、元數(shù)據(jù)管理、數(shù)據(jù)價(jià)值等幾個(gè)模塊。當(dāng)然基于每家公司的數(shù)據(jù)治理的目標(biāo)不一樣,每家公司的數(shù)據(jù)治理實(shí)施關(guān)鍵路徑也會(huì)不一樣。我所在的公司數(shù)據(jù)治理的目標(biāo)是為方便業(yè)務(wù)快速掌握了解數(shù)據(jù)、公開(kāi)透明數(shù)據(jù)資產(chǎn)的動(dòng)態(tài),所以把數(shù)據(jù)價(jià)值、元數(shù)據(jù)管理、數(shù)據(jù)質(zhì)量做為了實(shí)施關(guān)鍵路徑。

元數(shù)據(jù)管理

元數(shù)據(jù)從數(shù)據(jù)的角度可以分為三類(lèi):業(yè)務(wù)元數(shù)據(jù)、技術(shù)元數(shù)據(jù)和管理元數(shù)據(jù)。

業(yè)務(wù)元數(shù)據(jù)是從業(yè)務(wù)的視角去描述數(shù)據(jù),讓不懂?dāng)?shù)據(jù)的人可以快速讀懂?dāng)?shù)據(jù),例如:表名稱(chēng)、表的血緣關(guān)系、表的字段說(shuō)明、指標(biāo)的統(tǒng)計(jì)口徑等多種業(yè)務(wù)描述;

技術(shù)元數(shù)據(jù)自然就是從技術(shù)的角度去描述數(shù)據(jù),例如:表的sql、字段長(zhǎng)度、字段類(lèi)型等多種技術(shù)描述;

管理元數(shù)據(jù)是包含數(shù)據(jù)管理的信息在里面,例如:表的業(yè)務(wù)屬主、表的技術(shù)負(fù)責(zé)人。

元數(shù)據(jù)的管理通常包含:血緣分析、數(shù)據(jù)生命周期。

血緣分析:對(duì)元數(shù)據(jù)的上下游進(jìn)行分析,我的公司按照數(shù)據(jù)存儲(chǔ)的數(shù)據(jù)庫(kù)將血緣分析分為了兩類(lèi):

存在Hadoop平臺(tái)的血緣分析,可用通過(guò)腳本解析出到字段級(jí)的上下游關(guān)系;

建表有主外鍵的,可通過(guò)主外鍵建立血緣關(guān)系。

數(shù)據(jù)生命周期:數(shù)據(jù)都存在生命周期,當(dāng)元數(shù)據(jù)訪問(wèn)量變低,數(shù)據(jù)價(jià)值不存在的時(shí)候,可將它下線清除,釋放存儲(chǔ)空間。

數(shù)據(jù)安全

數(shù)據(jù)安全主要是對(duì)數(shù)據(jù)的安全脫敏管控和安全檢查,脫敏機(jī)制有兩種方案:

1)在數(shù)據(jù)倉(cāng)庫(kù)的接入和輸出進(jìn)行脫敏管控:數(shù)據(jù)接入識(shí)別敏感信息,通過(guò)脫敏工具進(jìn)行脫敏處理,產(chǎn)生脫敏表和敏感表兩張表(脫敏表與敏感表之間要有映射關(guān)系),敏感數(shù)據(jù)不對(duì)中間層開(kāi)放,對(duì)于數(shù)倉(cāng)中間層則只有脫敏表,開(kāi)發(fā)和測(cè)試的時(shí)候也只能使用脫敏表,在數(shù)據(jù)輸出層,首先應(yīng)用層的開(kāi)發(fā)先對(duì)敏感數(shù)據(jù)進(jìn)行申請(qǐng),申請(qǐng)通過(guò)后得到敏感表的使用權(quán),開(kāi)發(fā)通過(guò)映射關(guān)系將敏感表的脫敏數(shù)據(jù)進(jìn)行關(guān)聯(lián)處理。

這種方案的好處:安全易管控,脫敏過(guò)程少,但會(huì)增加開(kāi)發(fā)的工作量。

2)針對(duì)用戶進(jìn)行脫敏管理,數(shù)據(jù)倉(cāng)庫(kù)的每一層都需要對(duì)敏感數(shù)據(jù)進(jìn)行脫敏處理,對(duì)于敏感數(shù)據(jù)申請(qǐng)權(quán)限的用戶可以查看敏感信息,沒(méi)有權(quán)限的用戶只能查看脫敏表。這種脫敏機(jī)制好處在于對(duì)開(kāi)發(fā)沒(méi)什么影響,但加大安全管理的復(fù)雜度,需要全域掃描敏感信息,脫敏工作大。

數(shù)據(jù)質(zhì)量

數(shù)據(jù)質(zhì)量的提升通常包含以下幾個(gè)方面:

1)數(shù)據(jù)質(zhì)量評(píng)估,提供數(shù)據(jù)質(zhì)量評(píng)估能力,如數(shù)據(jù)一致性、完整性、正確性、合規(guī)性、及時(shí)性等,對(duì)數(shù)據(jù)進(jìn)行全面檢查;

2)數(shù)據(jù)質(zhì)量檢查,提供可配置化的檢查規(guī)則,通過(guò)腳本定時(shí)調(diào)度執(zhí)行;

3)數(shù)據(jù)質(zhì)量監(jiān)控,提供報(bào)警規(guī)則,根據(jù)配置檢查規(guī)則的閥值,對(duì)超出閥值的進(jìn)行不同程級(jí)的告警和通知;

4)問(wèn)題處理機(jī)制,對(duì)數(shù)據(jù)問(wèn)題按照流程進(jìn)行處理,規(guī)范問(wèn)題處理機(jī)制和步驟,強(qiáng)化問(wèn)題認(rèn)證,提高數(shù)據(jù)質(zhì)量;

5)根據(jù)血緣關(guān)系和業(yè)務(wù)場(chǎng)景鎖定高價(jià)值數(shù)據(jù),進(jìn)行高安全級(jí)別管控,避免數(shù)據(jù)出錯(cuò)。

數(shù)據(jù)價(jià)值

數(shù)據(jù)治理最重要的產(chǎn)出物,通過(guò)數(shù)據(jù)治理能為業(yè)務(wù)帶來(lái)的業(yè)務(wù)價(jià)值。如我所在的公司,數(shù)據(jù)價(jià)值體現(xiàn)在數(shù)據(jù)資產(chǎn)可視化。對(duì)于不同看數(shù)據(jù)角色定義不同的價(jià)值,對(duì)于數(shù)據(jù)業(yè)務(wù)分析人員,通過(guò)數(shù)據(jù)標(biāo)準(zhǔn)化管理和平臺(tái)搭建,讓不懂?dāng)?shù)據(jù)的業(yè)務(wù)能夠快速掌握數(shù)據(jù),并可以自己進(jìn)行數(shù)據(jù)挖掘、數(shù)據(jù)分析等工作。

對(duì)于高層領(lǐng)導(dǎo),將公司的業(yè)務(wù)數(shù)據(jù)以報(bào)告的形式,讓領(lǐng)導(dǎo)快速了解數(shù)據(jù)的成本及分布情況。當(dāng)然不同的公司側(cè)重的價(jià)值會(huì)不一樣,數(shù)據(jù)治理同時(shí)也能有效的控制數(shù)據(jù)成本,減少因?yàn)閿?shù)據(jù)帶來(lái)的摩擦,提升數(shù)據(jù)質(zhì)量和安全。

數(shù)據(jù)開(kāi)發(fā)

對(duì)數(shù)據(jù)開(kāi)發(fā)進(jìn)行標(biāo)準(zhǔn)的流程管理是數(shù)據(jù)治理核心的一部分,首先根據(jù)公司實(shí)際情況分析、制定可落地的數(shù)據(jù)開(kāi)發(fā)管理規(guī)范。過(guò)于復(fù)雜的數(shù)據(jù)開(kāi)發(fā)規(guī)范維護(hù)成本高,同時(shí)也加重開(kāi)發(fā)工作量,導(dǎo)致難以執(zhí)行。過(guò)于簡(jiǎn)單的規(guī)范又無(wú)法很好的管理開(kāi)發(fā)流程。最主要的還是定制完規(guī)范后拉各關(guān)聯(lián)方進(jìn)行評(píng)審,大家對(duì)可落地,可管理的角度是評(píng)估規(guī)范。

當(dāng)規(guī)范制定好后,就是按照規(guī)范進(jìn)行落地執(zhí)行。通常數(shù)據(jù)開(kāi)發(fā)規(guī)范包含:數(shù)據(jù)建模、數(shù)據(jù)設(shè)計(jì)、數(shù)據(jù)項(xiàng)目部署和實(shí)施。

數(shù)據(jù)建模是一種分析和設(shè)計(jì)方法,用于:

定義和分析數(shù)據(jù)需求;

設(shè)計(jì)滿足需求的數(shù)據(jù)結(jié)構(gòu)。

數(shù)據(jù)設(shè)計(jì)是做表的關(guān)聯(lián)影響分析,數(shù)據(jù)上游于哪些表, 根據(jù)數(shù)據(jù)開(kāi)發(fā)規(guī)范對(duì)表的命名和結(jié)構(gòu)進(jìn)行設(shè)計(jì)。數(shù)據(jù)項(xiàng)目部署和實(shí)施主要是發(fā)布管理,就不做解釋了。

組織建設(shè)

數(shù)據(jù)組織是保障數(shù)據(jù)治理能夠長(zhǎng)期有效的重要手段之一,通常數(shù)據(jù)組織都是可以跨職責(zé)的,組織的職能和分類(lèi)如下:

1)數(shù)據(jù)治理委員會(huì),在公司內(nèi)部擁有數(shù)據(jù)的高決策權(quán),代表了企業(yè)的高層視角

2)數(shù)據(jù)管理指導(dǎo)委員會(huì),為數(shù)據(jù)委員會(huì)提供支持,針對(duì)一些具體數(shù)據(jù)管理措施起草相關(guān)政策和標(biāo)準(zhǔn),提供委員會(huì)評(píng)審和批準(zhǔn)

3)數(shù)據(jù)管理制度團(tuán)隊(duì),在某個(gè)業(yè)務(wù)領(lǐng)域內(nèi),協(xié)助完成數(shù)據(jù)制度管理的數(shù)據(jù)管理專(zhuān)員小組,數(shù)據(jù)管理制度團(tuán)隊(duì)來(lái)著不同的部門(mén)和跨業(yè)務(wù)領(lǐng)域的數(shù)據(jù)專(zhuān)家

下面這張圖摘至于《數(shù)據(jù)治理體系》-管理組織:

作者:木子姐 來(lái)源:人人都是產(chǎn)品經(jīng)理

互聯(lián)互通社區(qū)

互聯(lián)互通社區(qū)專(zhuān)注于IT互聯(lián)網(wǎng)交流與學(xué)習(xí),旨在打造最具價(jià)值的IT互聯(lián)網(wǎng)智庫(kù)中心,關(guān)注公眾號(hào):互聯(lián)互通社區(qū),每日獲取最新報(bào)告并附帶專(zhuān)題內(nèi)容輔助學(xué)習(xí)。

方案打造與宣講、架構(gòu)設(shè)計(jì)與落地、人員招聘與培訓(xùn)、數(shù)據(jù)中臺(tái)建設(shè)等技術(shù)咨詢(xún)與服務(wù)合作請(qǐng)+微信:hulianhutongshequ

新聞標(biāo)題:談?wù)剶?shù)據(jù)治理是什么?-創(chuàng)新互聯(lián)
網(wǎng)頁(yè)路徑:http://jinyejixie.com/article14/icjde.html

成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站導(dǎo)航全網(wǎng)營(yíng)銷(xiāo)推廣、網(wǎng)站建設(shè)、商城網(wǎng)站、搜索引擎優(yōu)化Google

廣告

聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來(lái)源: 創(chuàng)新互聯(lián)

成都定制網(wǎng)站建設(shè)
塔城市| 依兰县| 阳谷县| 鹿邑县| 锡林郭勒盟| 丹东市| 新宁县| 儋州市| 乐东| 华宁县| 两当县| 顺昌县| 蒙城县| 平度市| 铜鼓县| 桦南县| 淮安市| 巩留县| 怀化市| 土默特左旗| 莲花县| 元谋县| 于都县| 潼关县| 东安县| 陵川县| 洪湖市| 正蓝旗| 会昌县| 雷山县| 长治市| 三门峡市| 静乐县| 绩溪县| 固始县| 水城县| 青河县| 体育| 大洼县| 晋中市| 松江区|