《中国移动企业级省大数据中心数据治理分册.pdf》由会员分享,可在线阅读,更多相关《中国移动企业级省大数据中心数据治理分册.pdf(64页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、侬 中 国 移 动 通 信花,CHINA MOBILE中 国 移 动 通 信 企 业 标 准QB-Y-043-2015中 国 移 动 企 业 级 大 数 据 平 台数 据 治 理 分 册D a t a G o v e r n m e n t F a s c i c u Ie f o r E n t e r p r i s e B i g D a t a P Ia t f o r mo f C h i n a M o b i Ie版 本 号:1.0.02015-8-1 发布2015-8-1 实施中国移动通信集团公司 发布QB-Y-043-2015目 录1.范围.12 .规范性引用文件.13 .术
2、语、定义和缩略语.54 .总体说明.84.1.概述.84.2.目标.94.3.原则.95.数据治理体系.105.1.总体框架.105.2.组织架构.II5.2.1.组织构成.115.2.2.角色职责.125.3.系统架构.135.3.1.系统功能框架.135.3.2.系统模块流程.145.4.系统边界.155.4.1.与企业级省大数据平台关系.165.4.2.与对外能力开放平台关系.165.4.3.与平台运维系统关系.166.数据治理核心模块.166.1.数据标准管理.166.1.1.背景.176.1.2.错误!未定义书签。6.1.3.目标及原则.186.1.4.业务分类和定义.186.1.5
3、.技术功能要求.2 26.1.6.本期建设范围及内容.2 66.1.7.实施要求.错误!未定义书签。QB-Y-043-20156.2.元数据管理.276.2.1.背景和定义.276.2.2.元数据运营模式.286.2.3.元模型标准.296.2.4.元数据运维.336.2.5.本期重点建设内容.336.3.数据质量管理.346.3.1.与传统经营分析系统的区别.346.3.2.范围和原则.356.3.3.与其它功能模块的关系.356.3.4.本期数据质量功能需求.386.3.5.本期数据质量运维要求.396.4,数据资产管理.406.4.1.数据资产概述.406.4.2.数据资产范围.416.
4、4.3.与其它功能模块的关系.426.4.4.本期数据奥产功能需求.426.4.5.本期建设内容.456.5.数据安全管理.456.5.1,数据安全概述.456.5.2.建设原则.466.5.3.建设内容.466.5.4.边界关系.466.5.5.技术功能.476.5.6.管理要求.487.数据治理场景.517.1.背景描述.527.2.场景一:银行伪卡交易判别.527.2.1.背景介绍.52QB-Y-043-20157.2.2.场景描述.537.3.场景二:银行手机贷业务.547.3.1.背景介绍.547.3.2.场景描述.548.附录.55附录一:数据标准框架.55附录二:数据标准体系定义
5、内容示例.56111QB-Y-043-2015 I刖 B本规范的制订是为了更好地实现中国移动企业级省大数据平台数据治理子系统的建设和管理,为省大数据平台上的各类基础技术和应用提供支撑,加强省大数据平台上数据的管控力度,增强数据治理子系统自身管理能力.本规范主要包括以下几方面的内容;总体说明、数据治理体系、数据治理核心模块、数据治理场景等。本规范是中国移动企业级大数据平台系列规范之一。该系列规范的结构、名称或预计的名称如下:序号标准编号标准名称1QB-Y-*-2015中国移动企业级大数据平台目标架构2QB-Y-*-2015中国移动企业级省大数据平台技术规范总册3QB-Y-*-2015中国移动企业
6、级省大数据平台技术规范分册4QB-Y-*-2015中国移动企业级省大数据平台技术规范技术方案分册15QB-Y-*-2015中国移动企业级省大数据平台技术规范数据模型分册6QB-Y-*-2015中国移动企业级省大数据平台技术规范外部接口分册QB-Y-*-2015中国移动企业级省大数据平台技术规范服务开放分册8QB-Y-*-2015中国移动企业级省大数据平台技术规范服务开放技术方案分册QB-Y-*-2015中国移动企业级省大数据平台技术规范数据治理分册110QB-Y-*-2015中国移动企业级省大数据平台技术规范数据治理技术方案分册11QB-Y-*-2015中国移动企业级省大数据平台技术规范运营维
7、护分册IVQB-Y-043-2015112 QB-Y-*-2015 中国移动企业级省大数据平台技术规范安全管理技术方案本规范由中移技(X X)X X印发。本规范由中国移动通信集团公司业务支撑系统部提出,集团公司技术部归口。本规范起草单位:中国移动通信集团公司业务支撑系统部。本规范主要起草人:段云峰、汪新勇、赵静、周立、任怡健、王保强、潘刚、刘童桐、王金金、陶涛、刘虹、张红星、魏春辉。VQB-Y-043-20151.范围本规范规定了中国移动企业级省大数据平台数据治理子系统的建设内容,适用于中国移动各省(直辖市、自治区)公司企业级省大数据平台数据治理子系统的建设。2.规范性引用文件下列文件中的条款
8、通过本规范的引用而成为本规范的条款。凡是标注日期的引用文件,其随后所有的修改单(不包括勘误的内容)或修订版均不适用于本规范。然而,鼓励根据本规范达成协议的各方对是否使用这些文件的最新版本进行研究。凡是不标注日期的引用文件,其最新版本适用于本规范。1 中国移动省级经营分析系统业务规中国移动通信有限范(vl.O)公司21 中国移动省级经营分析系统技术规中国移动通信有限范(vl.O)公司3QB-J-010-2006 中国移动省级经营分析系统数据质量管理系统建设方案(vl.5)中国移动通信有限公司4QB-J-006-2006 中国移动省级经营分析系统数据仓库逻辑数据模型说明(vl.5)中国移动通信有限
9、公司5QB-J-007-2006 中国移动省级经营分析系统数据集市业务技术规范(vl.5)中国移动通信有限公司6QB-J-008-2006 中国移动省级经营分析系统与源系中国移动通信有限统接口规范(vl.5)公司QB-J-009-2006 中国移动省级经营分析系统与中国移动通信有限BOSS系统互动技术规范(vl.5)公司8QB-J-003-2006 中国移动省级经营分析系统业务规范(vl.5)基础业务分册中国移动通信有限公司9QB-J-004-2006 中国移动省级经营分析系统业务规范(vl.5)数据业务分册中国移动通信有限公司10QB-J-005-2006 中国移动省级经营分析系统业务规范(
10、vl.5)集团客户分册中国移动通信有限公司IHQB-J-001-2006 中国移动业务运营支撑系统(BOSS)业务技术规范营销资源管理分 册(2.0版)中国移动通信有限公司12QB-J-(X)1-2006 中国移动业务运营支撑系统(BOSS)业务技术规范客服信息分册(2.0版)中国移动通信有限公司QB-Y-043-2015C D .M l 中国移动业务运营支撑系统中国移动通信有限13Q i(BOSS)业务技术规范(2。版)公司CD 1八力 中国移动省级经营分析系统数据仓中国移动通信有限14Q-库逻辑数据模型规范(v2.0)公司CD.八”中国移动省级经营分析系统与源数中国移动通信有限H5据接口规
11、范(v2.0)公司cn 八”中国移动省级经营分析系统数据集中国移动通信有限16Q B J 0 2 2-2 0 0 7市业务技术规范3小 公司 中国移动省级经营分析系统业务规中国移动通信有限17Q-范渠道运营管理分析监控分册(vl.O)公司CD I A1O 中国移动省级经营分析系统业务规中国移动通信有限18Q B J O E 2 0 0 7范客户服务分册(v20)公司八n.中国移动省级经营分析系统业务规中国移动通信有限19Q B JO 7-2。7范集团客户分册(v 2 0 )公司r w I onn-7 中国移动省级经营分析系统数据质中国移动通信有限20Q 量管理系统业务技术规范(V2.0)公司
12、中国移动业务支撑网4A安全技术规中国移动通信有限L21J范公司 中国移动省级经营分析系统技术规中国移动通信有限22范总册(V2.0全量版)公司23 中国移动省级经营分析系统技术规中国移动通信有限范逻辑模型分册”2.0全量版)公司 中国移动省级经营分析系统技术规中国移动通信有限24范数据集市分册(v2.0全量版)公司 中国移动省级经营分析系统技术规25范数据质量管理子系统分册(v2.0全中国移动通信有限公司量版)中国移动省级经营分析系统业务规中国移动通信有限26范(v2.0全量版)公司27 中国移动省级经营分析系统技术规中国移动通信有限范源系统接口分册(v2.0全量版)公司”八。中国移动省级NG
13、1-BASS技术规范中国移动通信集团128总册(vl.O)公司。中国移动省级NG 1 -BASS技术规范中国移动通信集团29Q B J 0 0 3-2 0 0 8数据集市分册例。)公司 中国移动省级NG 1-BASS技术规范中国移动通信集团30Q B-J-0 0 4-2 0 0 8逻辑模型分册“1.0)公司”人。中国移动省级NGI-BASS技术规范中国移动通信集团31Q-源系统接口分册(vl.O)公司2QB-Y-043-2015 中国移动省级NG 1-BASS技术规范中国移动通信集团32元数据管理分册(v 1.0)公司33QB-J-007-2008 中国移动省级NGI-BASS技术规范中国移动
14、通信集团数据质量管理子系统分册(vl.O)公司34QB-J-008-2008 中国移动省级NGI-BASS业务技术中国移动通信集团规范客户分析及运营分册(vl.O)公司35QB-J-(X)1-2008 中国移动省级NG1-BASS业务规范中国移动通信集团(vl.O)公司36QB-Y-003-2009 中国移动省级NG1-BASS技术规范中国移动通信集团总册(20)公司37QB-Y-004-2009 中国移动省级NGI-BASS技术规范中国移动通信集团数据集市分册(v2.0)公司38QB-Y-005-2009 中国移动省级NGI-BASS技术规范中国移动通信集团逻辑模型分册(v2.0)公司39Q
15、B-Y-006-2009 中国移动省级NGI-BASS技术规范中国移动通信集团外部接口分册(v2.0)公司40QB-Y-007-2009 中国移动省级NGI-BASS技术规范中国移动通信集团元数据管理分册“2.0)公司41QB-Y-008-2009 中国移动省级NG1-BASS技术规范中国移动通信集团数据质量管理子系统分册(v2.0)公司42QB-Y-002-2009 中国移动省级NGI-BASS业务规范中国移动通信集团(v2.0)公司43QB-Y-052-2010 中国移动省级NG2-BASS(v3.O)业务中国移动通信集团规范公司44QB-Y-053-2010 中国移动省级NG2-BASS
16、(v3.O)技术中国移动通信集团规范总册公司45QB-Y-054-2010 中国移动省级NG2-BASS(v3.0)技术中国移动通信集团规范数据集市分册公司46QB-Y-055-2010 中国移动省级NG2-BASS(v3.0)技术中国移动通信集团规范逻辑模型分册公司47QB-Y-056-2010 中国移动省级NG2-BASS(v3.0)技术中国移动通信集团规范外部接口分册公司48QB-Y-057-2010 中国移动省级NG2-BASS(v3.O)技术中国移动通信集团规范元数据管理分册公司49QB-Y-058-2010 中国移动省级NG2-BASSR3.O)技术中国移动通信集团规范数据质量管理
17、子系统分册公司50QB-Y-059-2010 中国移动省级NG2-BASS(v3.0)技术中国移动通信集团规范多O P能力交互分册公司3QB-Y-043-201551_ _ _ _ _ _ _ _ _ 中国移动省级增值业务综合运营平中国移动通信集团QB-Y-000-2010台业务规范(vl.O)公司52QB-Y-061-2010 中国移动省级增值业务综合运营平中国移动通信集团台技术规范(vl.O)公司15引QB-Y-062-2010 中国移动省级增值业务综合运营平中国移动通信集团台技术规范-数据管理分册(vl.O)公司54QB-Y-063-20I0 中国移动省级增值业务综合运营平中国移动通信集
18、团台接n 规范公司55QB-Y-039-2011 中国移动省级NG2-BASS(v3.5)业务中国移动通信集团规范公司56QB-Y-038-2011 中国移动省级NG2-BASS(v3.5)技术中国移动通信集团规范总册公司157)QB-Y-040-2011 中国移动省级NG2-BASS(v3.5)技术中国移动通信集团规范数据集市分册公司158QB-Y-041-2011 中国移动省级NG2-BASS(v3.5)技术中国移动通信集团规范逻辑模型分册公司59QB-Y-042-2011 中国移动省级NG2-BASS(v3.5)技术中国移动通信集团规范外部接口分册公司60QB-Y-043-2011 中国
19、移动省级NG2-BASS(v3.5)技术中国移动通信集团规范元数据管理分册公司61QB-Y-044-2011 中国移动省级NG2-BASS(v3.5)技术中国移动通信集团规范数据质量管理子系统分册公司162QB-Y-045-2011 中国移动省级NG2-BASS(v3.5)技术中国移动通信集团规范OP能力交互分册公司6引QB-Y-046-2011 中国移动省级增值业务综合运营平中国移动通信集团台业务规范(vl.5)公司64QB-Y-047-2011 中国移动省级增值业务综合运营平中国移动通信集团台技术规范(vl.5)公司65QB-Y-048-2011 中国移动省级NG2-BASS技术规范中国移
20、动通信集团系统安全管理分册(vl.5)公司66QB-Y-044-2012 中国移动省级NG2-BASS(v4.0)业务中国移动通信集团规范公司67QB-Y-045-2012 中国移动省级NG2-BASS(v4.0)技术中国移动通信集团规范总册公司68QB-Y-045.1-2012 中国移动省级NG2-BASS(v4.0)技术中国移动通信集团规范数据集市分册公司69QB-Y-045.2-2012 中国移动省级NG2-BASSR4.0)技术中国移动通信集团规范逻辑模型分册公司4QB-Y-043-201570QB-Y-045.3-2012 中国移动省级NG2-BASS(v4.0)技术规范外部接口分册
21、中国移动通信集团公司72QB-Y-045.4-2012 中国移动省级NG2-BASS(v4.0)技术规范元数据管理分册中国移动通信集团公司7引QB-Y-045.5-2012 中国移动省级NG2-BASS(v4.0)技术规范数据质量管理子系统分册中国移动通信集团公司74QB-Y-046-2012 中国移动省级增值业务综合运营平台业务规范V2.0.0中国移动通信集团公司75QB-Y-047-2012 中国移动省级增值业务综合运营平台技术规范V2.0。中国移动通信集团公司76QB-Y-047.1-20I2 中国移动省级增值业务综合运营平台技术规范数据管理分册V2.0.0中国移动通信集团公司177QB
22、-Y-044-2013 中国移动省级NG2-BASS(v4.5)业务规范中国移动通信集团公司178JQB-Y-045-2013 中国移动省级NG2-BASS(v4.5)技术规范总册中国移动通信集团公司79QB-Y-045.1-20I3 中国移动省级NG2-BASS(v4.5)技术规范数据集市分册中国移动通信集团公司801QB-Y-045.2-2013 中国移动省级NG2-BASS(v4.5)技术规范逻辑模型分册中国移动通信集团公司81QB-Y-045.3-2013 中国移动省级NG2-BASS(v4.5)技术规范外部接口分册中国移动通信集团公司QB-Y-045.4-2013 中国移动省级NG2
23、-BASSR4.5)技术规范元数据管理分册中国移动通信集团公司83QB-Y-045.5-20I3 中国移动省级NG2-BASS(v4.5)技术规范数据质量管理子系统分册中国移动通信集团公司84QB-Y-045.6-2013 中国移动省级NG2-BASS(v4.5)技术规范安全管理技术方案中国移动通信集团公司85QB-Y-046-2013 中国移动省级增值业务综合运营平台业务规范V 250中国移动通信集团公司186QB-Y-047-2013 中国移动省级增值业务综合运营平台技术规范V2.5.0中国移动通信集团公司87QB-Y-047.1-2013 中国移动省级增值业务综合运营平台技术规范数据管理
24、分册V2.5.0)中国移动通信集团公司3.术语 定义和缩略语下列术语、定义适用于本规范:5QB-Y-043-2015字母名词解释cCWMCWM标准是OMG组织定义的数据仓库和相关系统的国际元数据标准,给出了各种元数据结构的标准定义。CWM标准的目的在于:使数据仓库和商业智能软件的元数据在异构的数据分析工具、数据仓库平台、元数据存储库等系统之间进行交互。EETL特指从数据源系统到大数据平台的数据抽取、转换和加载。G管理元数据描述大数据平台中管理领域相关概念、关系、规则的数据,主要包括人员角色、岗位职责、管理流程等信息。H核心元模型大数据平台核心元模型是以CWM为基础扩展形成的,针对大数据平台的物
25、理模型、逻辑模型、数据处理过程、接口单元、指标和维度编码等主要实体进行精确定义,并要求各省大数据平台统一遵循的元模型。定义核心元模型的目的是建立大数据平台的统一元数据管理标准,为元数据管理的功能层与应用层解耦、为企业级总部大数据平台和企业级省大数据平台的元数据交换和相互理解提供统一的语义基础。H核心元模型参照表核心元模型参照表是对核心元模型中的枚举类型属性进行枚举值定义的编码表。参照表为枚举类型属性的每个枚举值定义了唯一的编码,并明确该编码的语义,是核心元模型标准化定义的重要组成部分。J技术元数据描述大数据平台中技术领域相关概念、关系、规则的数据。主要包括对数据结构、数据处理方面的特征描述,覆
26、盖大数据平台数据源接口、数据仓库、ETL、OLAP、数据挖掘、前端展现等全部数据处理环节。S数据处理过程数据从数据源系统到大数据平台前端使用的整个处理过程,包含大数据平台数据仓库内部的数据抽取、转换和加载。S数据采集点覆盖大数据平台数据处理环节的、获取每个环节运行状态的实体。该实体可以是程序实体也可以是任务实体s数据质量报告数据质量报告是对数据质量日常监控以及质量评估等过程累积6QB-Y-043-2015字母名词解释的各种信息进行汇总、梳理、统计和分析,形成的统计报告s数据质量监控通过获取大数据平台各环节的数据质量监控信息,结合元数据库中的有关检查规则,对各个环节的数据质量情况进行判断,并及时
27、向数据质量监控人员报告。s数据质量规则库数据质量规则库是对数据质量管理活动所用到的各种判断及校验规则进行归类和存放的存储结构,存储的内容包括采集规则、监控规则、告警规则和审计规则等s数据质量信息摩数据质量管理子系统存储层上的存储结构,用于存储数据质量信息采集程序采集的数据质量信息、质量评估信息、问题解决方案和问题处理流程信息等s省公司中国移动通信集团各省(直辖市、自治区)移动通信有限公司。sSQL脚本自动解析SQL脚本自动解析指通过对SQL脚本的词法、语法和语义进行分析,自动生成满足CWM规范要求的数据处理过程的技术元数据的功能。Y业务元数据描述大数据平台中业务领域相关概念、关系、规则的数据。
28、主要包括业务术语、信息分类、指标定义(指标口径)、业务规则等信息。Y元模型元模型是描述元数据的基础模型结构,用于说明元数据对象的各种属性、结构和关系。Y元数据元数据是描述数据间关系的数据。大数据平台中元数据泛指描述数据概念(Concepts)、数据间关系(Roles)、数据处理规则(Rules)的数据,其中,领域语义(Semantics)和知识(Knowledge)也属于元数据的范畴。D数据标准指在中国移动台企业级省大数据平台下为了使企业内外部使用和交换的数据是一致和准确的,经协商一致制定并由大数据治理委员会主管机构批准,具有行业特点且共同使用和重复使用的一种规范性约束。D数据标准体系指数据标
29、准按照中国移动企业级省大数据平台需求对数据进行7QB-Y-043-2015字母名词解释标准化的划分归类。D数据标准内容按照数据标准体系划分的要求分别给出各数据标准制定的规范内容。D行业参考模型实体中国移动规范中原定义或新增加的逻辑数据模型LDM实体。D公共代码标准需要引用外部公共标准机构的标准。如:世界各国和地区名称代码等。下列略缩语适用于本规范:缩写英文描述中文描述ASTAbstract Syntax Tree抽象语法树BOSSBusiness Operation Support System业务运营支撑系统CWMCommon Warehouse Metamodel公共仓库元模型ETLExt
30、raction Transformation Loading抽取、转换和加载OLAPOn-line Analysis Process在线分析处理XMIXML Metadata InterchangeXML元数据交换BIBusiness Intelligence商务智能RESTRepresentational State Transfer表述性状态转移4.总体说明4.1.概 述本规范用于指导企业级省大数据平台数据治理子系统建设,规定了省大数据平台数据治理的范围和要求,明确了数据治理子系统的体系结构,制定了数据治理子系统的功能和处理流程。数据治理子系统包含数据标准管理、元数据管理、数据质量管理、数
31、据资产管理、数据安全管理等功能模块。本方案借鉴资产管理的方法理论来管理数据,将数据作为一种特殊的资产,对进入平台的数据进行标准化的规范约束,并以元数据作为驱动,连接数据的标准8QB-Y-043-2015管理、数据质量管理、数据数据安全管理的各个阶段,形成统一、完善的数据治理体系,以解决实际业务问题为导向,增强数据治理子系统对业务发展的支撑能力。4.2.目标数据治理子系统的建设为数据治理工作提供强有力的系统支撑。本期规范建设目标是以元数据为驱动,建立省大数据平台完整的数据治理体系。从组织架构、系统功能等方面增强数据宏观管控,并实现精细化管理,具体包括:数据治理组织架构管理:定义数据治理所需人员组
32、织上的岗位和职责,从管理角度支撑数据治理工作的落地和执行。数据标准管理:建立企业级省大数据平台数据标准体系,并制定数据标准运维管控制度和流程。元数据管理:降低元数据使用难度、提升用户体验,使大数据平台各类用户均能参与到元数据运营维护当中。数据质量管理:为内、外部用户提供平台化的数据质量监控;通过扩充和优化公共规则库、保证数据的完整性、一致性、准确性、及时性、合法性,提升用户使用感知;并提供数据质量应用满足个性化需求。数据资产管理:重点建设从规划、注册、运维到注销的全流程管理体系,使数据资产管理系统化、可视化。数据安全管理:建立体系化的数据安全管控策略,通过用户安全管理、数据安全管理实现全方位数
33、据安全管控机制,通过技术手段与管理措施相结合的方式落实数据安全,做到事前可管、事中可控、事后可查。4.3.原则企业级省大数据平台数据治理子系统建设应遵循以下基本原则:1.有效性原则体现大数据平台数据治理过程中数据的标准、质量、价值、管控的有效性、高效性。2.价值化原则体现数据治理过程中以数据资产为价值核心,最大化大数据平台的数据价值。3.统一性原则9QB-Y-043-2015体现大数据平台架构统一、标准统一、元数据统一、质量流程统一、资产价值统一的一体化管控平台体系。4.开放性原则体现平台化、开放性运维思想,实现人人参与数据治理、人人参与数据运维。5.产品化原则体现大数据平台数据治理能力的显性
34、化,通过产品化互联网思维服务大数据平台数据生态圈用户。6.安全性原则体现安全的重要性、必要性,保障大数据平台数据安全和数据治理过程中数据的安全可控。5.数据治理体系5.1.总体框架数据治理总体框架包括组织架构、数据治理模块、数据运维一部分。通过组织架构建立管理办法,制定工作流程,确定角色职责。数据治理模块主要包括数据标准管理、元数据管理、数据质量管理、数据资产管理、数据安全管理,各模块协同运营,确保大数据平台的数据一致、安全、有效。数据运维贯穿整个数据治理体系的流程中,实现平台化的运维管理思路。数据治理总体框架如图5-1所示:10QB-Y-043-2015组织架构组织架构定义角色与职货规划和策
35、略管理办法核心领域数据运维侦最运维资产运维管控运维批 注 W1J:组织架构合适吗大数据平台图5-1数据治理体系框架5.2.组织架构数据治理组织的构建旨在通过建立数据治理组织架构明确各级角色和职责,保障数据治理的各项管理办法、工作流程的实施,推送数据治理工作的有序开展。批 注 W2:是否模糊化,简要说一下数据治理需要由专人、专职负责,不明说建立专业机构。5.2.1.组织构成数据治理组织架构主要由数据治理委员会、数据治理中心和各业务部门构成。组织架构划分和角色设定如图5-2所示:11螭 架 构QB-Y-043-2015角色职责 I图5-2数据治理组织架构图5.2.2.角色职责组织责任体系是数据治理
36、责任落地的保障,数据治理组织架构通过明确各角色职责,实行认责制度,让数据治理工作更好的融入到数据日常使用和相关的工作中,从而推动数据运维自治的实现,如表5-1。表5-1数据治理组织架构角色职责定义内容组织结构角色角色描述角色主要职责数据治理委员会数据管理决策者由公司主管领导和各业务部门领导组成负责牵头数据治理工作;制定数据治理的政策、标准、规则、流程,协调认责冲突;对数据事实治理,保证数据的质量和隐私;在数据出现质量问题时负责仲裁工作。数据治理中心数据平台运营者数据管理中心机构的平台运营人员负责提交数据标准的要求及数据质量规则和业务规范,解释数据的业务规则和含义:监督各项数据规则和规范的约束的
37、落实情况;负责数据治理平台中整体数据的管控流程制定和平台功能系统支撑的实施;负责平台的整体运营、组织、协调。各业务部门数据提供者相关数据开发提供人员负责数据及相关系统的开发,有责任执行数据标准和数据质量内容;负责从技术角度解决数据质量问题;作为数据出现质量问题时的主要责任者。12QB-Y-043-2015数据维护者数据维护人员制定相关数据标准、数据制度和规则:遵守和执行数据标准管控相关的流程,根据数据标准要求提供相关数据规范;作为数据出现质量问题时的次要责任者。数据使用人员,包作为数据治理平台数据管控流程的最后参与数据消费使用者;者含内部用户和外部用户是数据资产价值的获益人;作为数据治理平台数
38、据闭环流程的发起人。5.3.系统架构5.3.1.系 统功能框架数据治理功能框架明确了数据治理在企业级省大数据平台中的定位,并以合理的功能层次划分指导数据治理系统相关功能建设。系统功能框架如图5-3所示。大数据平台门户能力开放 平 台无 侬 之 家企业内部用户企业外部用户绩效监控APP第三方独立开发者手APP数据治理功能数据治理系统数据标准管理元数据管理SJ 数据标准:在数据标准管理组织架构推动和指导下,遵循协商一致制定的数据标准规范,借助标准化管控流程得以实施数据标准化的整个过程。元数据:采用集中式管理模式进行元数据管理,全公司元数据逻辑集中,即元数据管理模块作为公司元数据的统一发布源,集中管
39、理元数据,提供元数据集中创建、维护、查询功能。数据质量:对数据从计划、获取、存储、共享、维护、应用、消亡生命周期的每个阶段里可能引发的各类数据质量问题,进行识别、度量、监控、预警等一系列管理活动,并通过改善和提高组织的管理水平使得数据质量获得进一步提氤 数据资产:规划、控制、提供数据及信息资产的一组业务职能,包括开发、执行和监督有关数据的计划、政策、方案、项目、流程、方法和程序,从而控制、保护、提高数据资产的价值。数据安全:通过计划、制定、执行数据安全政策和安全策略措施,为企业级大数据平台的数据和信息提供行之有效的认证、授权、访问和审计。数据运维:包括数据资产运维、数据质量运维,借鉴互联网思维
40、,通过产品化运维工具来整体提升企业级大数据平台数据运维效率。企业级省大数据平台:大数据基础平台,负责数据的接入、存储、管理、应用及相关基础功能支撑。5.3 2系统模块流程批 注W3:在左侧目录里缺少一个模块14QB-Y-043-2015图5-4数据治理系统功能各模块关系图如图5-4所示,数据治理系统各模块之间,根据数据操作的流程产生相互关联,各模块业务流程关系说明如下:L 1:数据标准管理模块将标掂定义映射到元数据信息上,实现数据标准的规范要求落地。L 2:元数据管理模块为数据资产管理模块提供存储模型、属性信息查询服务。L 3:元数据管理模块为数据质量管理模块提供元数据相关属性信息。L 4:用
41、户通过元数据定义大数据平台的数据结构。L 5:数据质量管理模块根据采集需求从大数据平台采集数据。L 6:数据质量管理模块将数据质量问题反馈给大数据平台。L 7:数据质量管理模块向资产模块提交数据质量评估结果。L 8:元数据管理模块为数据安全管理模块提供隐私级别定义服务。L 9:数据资产管埋模块发起资产访问申请,由数据安全管理模块控制用户访问权限,控制数据资产的增加、删除、变更操作权限,对访问的数据内容、数据属性等操作进行管控。L 10:数据安全管理模块为大数据平台提供数据访问权限策略。5.4.系统边界企业级省大数据平台数据治理子系统与其它子系统之间存在数据交互、功能调用、流程穿插等关联。数据治
42、理子系统与大数据平台系统内其它子系统的关系示意如图5-5所示:15QB-Y-043-2015图5-5数据治理子系统与各子系统边界图5.4.1.与 企业级省大数据平台关系企业级省大数据平台上的数据资产是数据治理的主要对象;数据治理为企业级省大数据平台提供数据标准指导、元数据定义、数据质量监控、数据安全等方面的全面支撑,使大数据平台上的数据资产清晰、有序、安全、可控。5.4.2.与 对外能力开放平台关系数据治理为对外能力开放平台提供元数据直询、数据安全管理支持;对外能力开放平台为数据治理提供统一的数据治理产品及功能注册、发布、使用服务。5.4 3与平台运维系统关系数据治理子系统支撑大数据平台的数据
43、管控流程,并与平台运维交互协调,共同支撑大数据平台整体的安全运维、数据运维和管理运维。6.数据治理核心模块6.1.数据标准管理16QB-Y-043-20156.1.1.背景中国移动企业级省大数据平台数据标准是在经营分析系统数据管控要求基础之上,借鉴互联网企业数据治理的经验而提出的。数据标准是指在中国移动企业级省大数据平台下,保障企业内外部使用和交换数据的一致性和准确性,具有行业特点且共同使用的一种规范性约束。数据标准是企业级省大数据平台数据治理的基础性工作,是数据治理建设中的首要环节。首先,数据标准为企业级省大数据平台提供统一的数据标准定义和平台逻辑模型。其次,数据标准是企业级省大数据平台进行
44、数据治理的依据和根本。再次,数据标准是衡量企业级省大数据平台数据资产运营和管理的评估依据。最后,中国移动通过数据标准管理的实施,实现对企业级省大数据平台全网数据的统一运营管理。企业级省大数据平台数据治理体系中数据标准管理如图6-1所示,包括制定数据标准的规范性文件、进行数据标准化管控及数据标准管理组织。数据标准管理组织数 据 标Fj准管理数据标准 数据标准规范 化管控图6-1数据标准管理内容企业级省大数据平台数据标准管理与原经营分析系统数据管控的区别如卜.表6 T所示:表6 1企业级省大数据平台数据标准管理与原经营分析系统数据管控区别数据范围 涉及企业内外部数据运营相关的数据,包含数据仅限于市
45、场经营活动的B域企业级省大数据平台数据标准管理原经营分析系统数据管控17QB-Y-043-2015BOM三域数据、外部数据。和部分0,M域数据。业务应用模式以数据标准为基础的数据治理体系,实现数据的资产化,贯穿整个数据运营的全流程,形成以中国移动大数据平台为核心的大数据生态圈,服务于企业内外部客户。以支撑企业内部经营分析为主。服务对象服务于整个大数据生态圈。原经营分析系统使用人员。6.1.2.目标及原则数据标准管理的总体目标:通过统一的数据标准制定和发布,结合制度约束、系统控制等手段,实现中国移动企业级省大数据平台数据的完整性、有效性、一致性、规范性、开放性和共享性管理,提高企业级省大数据平台
46、数据治理水平。数据标准制定的原则:开放性:标准制定人人参与。共享性:数据标准化信息在大数据生态圈共享使用。完整性:涵盖客户、产品、服务、帐务、资源、网络等全部重要数据信息。有效性:信息准确度高、理解上不存在歧义。一致性:做 到“五统一”,定义统一、口径统一、名称统一、来源统一、参照统一。规范性:制度规范、流程控制、系统管理等。6.13 业务分类和定义6.1.3.1.数据标准体系分类数据标准制定如图6-2所示,包括数据标准体系划分和数据标准内容制定,数据标准体系可分为基础类数据标准和指标类数据标准。18QB-Y-043-2015数标体定据准系义_ 基破类效据标图6-2数据标准体系划分6.1.3.
47、2.数据标准内容制定数据标准内容的制定按照数据标准体系分类的要求分别给出数据标准制定的规范要求。1、基础类数据标准基础类数据标准是通过各种业务处理产生或各类渠道采集的基础性数据,在全国范围内必须是唯一定义的,如“用户品牌”、“归属地市”。基础类数据标准分为行业参考模型实体标准和公共代码标准。行业参考模型实体标准指按照行业需求和中国移动省级数据逻辑模型实体规范要求,继承以往数据逻辑模型实体规范,将各域的逻辑模型实体定义抽象为模型实体标准要求。行业参考模型实体数据标准体系定义内容如表6-2所示。表6-2行业参考模型实体数据标准体系定义内容行业参考模型实体标准标准体系属性说明数据标准编码根据数据标准
48、编码命名规则进行编写。标准主题数据标准归属主题标准子类数据标准归属类型中文名称数据标准中文名称。英文名称数据标准英文名称。实体编号根据行业参考模型实体编号命名规则进行编写。实体名称根据行业参考模型实体名称命名规则进行编写。数据版本该数据标准的版本信息。19QB-Y-043-2015具体行业参考模型实体数据标准体系定义内容示例参见 附录二:数据标准体系定义内数据体系分类根据数据分类规则对数据进行分类,以保证数据体系的易用性,以及符合用户查找习惯0重要级别集团规范定义的数据为一级,省公司定义的数据为二级,其它常用的数据为三级。数据提供部门该数据标准定义数据的提供部门。数据提供部门负责人该数据标准定
49、义数据提供负责人。数据维护部门该数据标准定义数据维护部门。数据维护部门负责人该数据标准定义数据维护负责人。业务主管部门该数据标准定义数据业务主管部门,该部门对数据口径、编码取值和相关专业术语有决定权。业务主管部门负责人该数据标准定义数据业务负责人。数据来源系统如:BOSS,CRM,ERP 等主要依据关于指标的解释和描述文件。如集团规范、省公司规范、业务部门制定等等。业务定义指标的业务描述口径,一 般 由业务部门使用业务语言制定。容示例。公共代码标准,指对于一些共享程度较高、内容相对比较稳定的编码,通常可以组织力量一次性地编制出来,其中有一些需要引用外部公共标准机构的标准,比如:世界各国和地区名
50、称代码等。公共代码标准体系定义内容如表6-3所 示。表6-3公共代码标准体系定义内容公共代码标准标准体系属性说明数据标准编码根据数据标准编码命名规则进行编写。公共标准号引入外部公共标准号中文标准名称数据标准中文名称英文标准名称数据标准英文名称。标准状态该标准的状态,如现行、停止。公共标准机构名称引入该公共标准的机构名称。数据标准体系根据数据分类规则对数据进行分类,以保证数据体系的易用 性,以及符合用户查找习惯。重要级别集团规范定义的数据为一级,省公司定义的数据为二级,其它常用的数据为三级。数据标准引入部门该数据标准引入和维护部门。数据标准引入部门负成人该数据标准引入和数据维护负责人。数据上报系