《数据仓库模型与建立过程幻灯片.ppt》由会员分享,可在线阅读,更多相关《数据仓库模型与建立过程幻灯片.ppt(132页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、数据仓库模型与建立过程第1页,共132页,编辑于2022年,星期六对比内容数据库系统设计数据仓库系统设计面向的处理类型面向应用面向分析应用需求比较明确不太明确系统设计的目标事务处理的并发性、安全性、高效性保证数据的四个特征和全局一致性数据来源业务操作员的输入业务系统系统设计的方法需求驱动数据驱动1数据仓库和数据库设计的区别数据仓库和数据库设计的区别1.1第2页,共132页,编辑于2022年,星期六1面向的处理类型面向的处理类型1.2数据库系统设计数据库系统设计面向应用来进行设计,根据具体的操作事件和操作面向应用来进行设计,根据具体的操作事件和操作对象(实体)来进行设计;对象(实体)来进行设计;
2、目的是建立一个操作型的数据环境。目的是建立一个操作型的数据环境。数据仓库设计数据仓库设计面向分析的;面向分析的;从最基本的主题开始,不断完善已有主题,发展新主从最基本的主题开始,不断完善已有主题,发展新主题;题;最终建立起一个面向主题的分析型数据环境。最终建立起一个面向主题的分析型数据环境。第3页,共132页,编辑于2022年,星期六1应用需求应用需求1.3数据库系统设计数据库系统设计面向明确的应用需求面向明确的应用需求设计人员能够清晰地了解应用的需求和数据流程设计人员能够清晰地了解应用的需求和数据流程数据仓库设计数据仓库设计很难获得对用户需求的确切了解很难获得对用户需求的确切了解应用人员往往
3、是企业的中高层人员应用人员往往是企业的中高层人员他们自己一开始不知道想看什么,需要人引导他们自己一开始不知道想看什么,需要人引导后期又想什么东西都看,需要给他解释后期又想什么东西都看,需要给他解释第4页,共132页,编辑于2022年,星期六1系统设计的目标系统设计的目标1.4数据库系统设计数据库系统设计为了进行为了进行OLAP处理处理通常是对一个或者一组记录的查询和修改通常是对一个或者一组记录的查询和修改主要为企业的特定应用服务的主要为企业的特定应用服务的事务处理响应时间、数据的安全性和完整性是系统的目标事务处理响应时间、数据的安全性和完整性是系统的目标数据仓库设计数据仓库设计为了分析决策为了
4、分析决策主要目标是保证数据的四个特征(面向主题、集成的、稳定的、时主要目标是保证数据的四个特征(面向主题、集成的、稳定的、时变的),建立起一个全局一致的数据环境,作为企业决策支持的基变的),建立起一个全局一致的数据环境,作为企业决策支持的基础础第5页,共132页,编辑于2022年,星期六1数据来源数据来源1.5数据库系统设计数据库系统设计数据来源主要是业务操作员的输入数据来源主要是业务操作员的输入描述如何通过操作员输入获取数据描述如何通过操作员输入获取数据描述如何将获取的数据按照描述如何将获取的数据按照OLAP的需求合理存放的需求合理存放如何使得如何使得OLTP的性能更加优化的性能更加优化如何
5、保证事务处理的安全性如何保证事务处理的安全性数据仓库设计数据仓库设计数据来源于业务系统数据来源于业务系统主要解决如何从业务系统中得到完整一致的数据主要解决如何从业务系统中得到完整一致的数据如何对数据进行转换、清洗、综合如何对数据进行转换、清洗、综合如何有效提高数据分析的效率与准确性如何有效提高数据分析的效率与准确性第6页,共132页,编辑于2022年,星期六1两者系统设计方法的不同两者系统设计方法的不同1.6 数据库系统设计数据库系统设计“需求驱动需求驱动”,先收集需求、分析需求,再进行设计和开发;,先收集需求、分析需求,再进行设计和开发;系统的需求在收集和分析需求阶段之后就定下来了,一旦进入
6、构建数据库阶段,系系统的需求在收集和分析需求阶段之后就定下来了,一旦进入构建数据库阶段,系统的需求就基本不变了。统的需求就基本不变了。所以系统设计一般采用系统生命周期法所以系统设计一般采用系统生命周期法(Systems Development Life Cycle,SDLC)。数据仓库设计数据仓库设计“数据驱动数据驱动”,从业务系统已经存在的数据出发,获取之后对数据进行集成并,从业务系统已经存在的数据出发,获取之后对数据进行集成并检查数据的准确性检查数据的准确性按照分析领域对数据及数据之间的联系重新考察,组织数据仓库中的主题。按照分析领域对数据及数据之间的联系重新考察,组织数据仓库中的主题。“
7、数据驱动数据驱动”的系统设计方法的优点是可以通过了解原有数据库系统中的数据的系统设计方法的优点是可以通过了解原有数据库系统中的数据和需要建设的数据仓库中主题的数据的共同性,最大限度地利用现有系统,减和需要建设的数据仓库中主题的数据的共同性,最大限度地利用现有系统,减少系统建设的工作量。少系统建设的工作量。对这种需求不确定的开发过程,设计方法有很大的不同,采用与对这种需求不确定的开发过程,设计方法有很大的不同,采用与SDLC相反的相反的CLDS法。法。第7页,共132页,编辑于2022年,星期六收集应用需求分析应用需求构建数据库应用编程系统测试系统实施DB应用A应用B应用C数据仓库建模数据获取与
8、集成构建数据仓库DSS应用编程系统测试理解需求DWDBDB外部数据数据仓库设计方法概述数据仓库设计方法概述1两者系统设计方法的不同两者系统设计方法的不同1.6 SDLC方法方法CLDS方法方法第8页,共132页,编辑于2022年,星期六2流行的的三级模型流行的的三级模型2.1 概念模型(设计定义和主要工作)概念模型(设计定义和主要工作)从客观世界到主观认识的映射从客观世界到主观认识的映射首先将现实世界抽象为概念模型,然后再用适合计算机世首先将现实世界抽象为概念模型,然后再用适合计算机世界的模型和语言来描述界的模型和语言来描述逻辑模型(设计定义和主要工作)逻辑模型(设计定义和主要工作)数据仓库一
9、般是建立在关系数据库基础上,所以采用的逻数据仓库一般是建立在关系数据库基础上,所以采用的逻辑模型是关系模型辑模型是关系模型主题还有主题之间的关系都用关系来表示主题还有主题之间的关系都用关系来表示逻辑模型描述了数据仓库的主题的逻辑实现,每个主题对应逻辑模型描述了数据仓库的主题的逻辑实现,每个主题对应关系表的关系模式的定义关系表的关系模式的定义物理模型(设计定义和主要工作)物理模型(设计定义和主要工作)逻辑模型在数据仓库中的实现,如数据存储结构、数据逻辑模型在数据仓库中的实现,如数据存储结构、数据的索引策略、数据的存储策略以及存储分配优化等的索引策略、数据的存储策略以及存储分配优化等第9页,共13
10、2页,编辑于2022年,星期六2InmonInmon提出的三级模型提出的三级模型2.2 高级模型高级模型即概念模型,用即概念模型,用E-R图表示图表示首先将现实世界抽象为概念模型,然后再用适合计算机世界的模型首先将现实世界抽象为概念模型,然后再用适合计算机世界的模型和语言来描述和语言来描述中级模型中级模型数据项(数据项(Data item set,DIS)模型)模型E-R图的细分图的细分每个主题都与一个每个主题都与一个DIS对应对应DIS中的数据份为中的数据份为4个组别:基本数据组、二级数据组、连接个组别:基本数据组、二级数据组、连接数据组和类型数据组数据组和类型数据组低级模型低级模型物理数据
11、模型物理数据模型第10页,共132页,编辑于2022年,星期六2InmonInmon提出的三级模型提出的三级模型2.2 客户客户ID姓名姓名性别性别身份证号码身份证号码住址住址文化程度文化程度电话电话Email商品商品ID交易交易ID商品金额商品金额购买时间购买时间交易交易ID商品金额商品金额购买时间购买时间交易交易ID商品金额商品金额购买时间购买时间连接数据组连接数据组基本数据组基本数据组类型数据组类型数据组二级数据组二级数据组电器电器服装服装图书图书第11页,共132页,编辑于2022年,星期六3概念模型的定义和主要工作概念模型的定义和主要工作3.1 概念模型概念模型是数据仓库的数据模型的
12、第一层或最高层。是数据仓库的数据模型的第一层或最高层。由于大多数业务数据是多维的,但传统的数据模型表示三维以上的数据有由于大多数业务数据是多维的,但传统的数据模型表示三维以上的数据有一定困难。一定困难。数据仓库中可以采用数据仓库中可以采用信息包图信息包图来表示概念模型来表示概念模型信息包图信息包图允许用户设计多维信息包并与开发者和其他用户建立联系。允许用户设计多维信息包并与开发者和其他用户建立联系。这种模型集中在用户对信息包的需要,信息包提供了分析人员思维模式这种模型集中在用户对信息包的需要,信息包提供了分析人员思维模式的可视化表示。的可视化表示。工作工作确定系统边界:决策类型、需要的信息、原
13、始信息确定系统边界:决策类型、需要的信息、原始信息确定主题域及其内容:主题域的公共键码、主题域之间的联系、属确定主题域及其内容:主题域的公共键码、主题域之间的联系、属性组性组确定维度:如时间维、销售位置维、产品维、组别维等确定维度:如时间维、销售位置维、产品维、组别维等确定级别:相应维的详细层次确定级别:相应维的详细层次确定度量:也称指标和事实,用于进行分析的数值化信息确定度量:也称指标和事实,用于进行分析的数值化信息第12页,共132页,编辑于2022年,星期六维度维度级别级别 度量3信息包图信息包图3.2 数据仓库的概念模型数据仓库的概念模型信息包:信息包:第13页,共132页,编辑于20
14、22年,星期六例画出销售分析的信息包图例画出销售分析的信息包图 概念概念首先根据销售分析的实际需求,确定信息包的维度、首先根据销售分析的实际需求,确定信息包的维度、类别和指标与事实:类别和指标与事实:维度维度:包括日期维、销售地点维、销售产品维、年龄:包括日期维、销售地点维、销售产品维、年龄组别维、性别维等。组别维、性别维等。(维度)级别(维度)级别:确定各维的详细类别:确定各维的详细类别如:日期维包括年(如:日期维包括年(1010)、季度()、季度(4040)、月()、月(120120)等类别,)等类别,括号中的数字分别指出各类别的数量;括号中的数字分别指出各类别的数量;销售地点维包括国家(
15、销售地点维包括国家(1515)、区域()、区域(4545)、城市()、城市(280280)、区)、区(880880)、商店()、商店(20002000)等类别,括号中的数字同样分别指出)等类别,括号中的数字同样分别指出各类别的数量;各类别的数量;类似地,可以确定销售产品、年龄组别维、性别维等的详细类似地,可以确定销售产品、年龄组别维、性别维等的详细类别。类别。度量度量:确定用于进行分析的数值化信息,包括预测销:确定用于进行分析的数值化信息,包括预测销售量、实际销售量和预测偏差等。售量、实际销售量和预测偏差等。3信息包图信息包图3.2 数据仓库的概念模型数据仓库的概念模型第14页,共132页,编
16、辑于2022年,星期六度量度量:预测销售量、实际销售量、预测偏差预测销售量、实际销售量、预测偏差商店(2000)区(880)产品(240)城市(280)月(120)产品组(48)区域(45)季度(40)性别组(2)年龄组(8)产品类(6)国家(15)年(10)性别年龄组别销售产品销售地点日期信息包:销售分析维度级别3信息包图信息包图3.2 数据仓库的概念模型数据仓库的概念模型第15页,共132页,编辑于2022年,星期六维度维度是一个物理特性(如时间、地点、产品等),它是表达数据仓库是一个物理特性(如时间、地点、产品等),它是表达数据仓库中信息的一个基本途径,可作为标识数据的索引。通常的报表只
17、包含中信息的一个基本途径,可作为标识数据的索引。通常的报表只包含有行和列两维,但在数据仓库中所存储的数据大多是用多维(三维或有行和列两维,但在数据仓库中所存储的数据大多是用多维(三维或三维以上)视图表示的。三维以上)视图表示的。维度是多维数据集的结构性特性。它们是事实数据表中用来描述数据的维度是多维数据集的结构性特性。它们是事实数据表中用来描述数据的分类的有组织的层次结构(级别)。这些分类和级别描述了一些相似的成分类的有组织的层次结构(级别)。这些分类和级别描述了一些相似的成员集合。员集合。所有维度均直接或间接地基于表,定义此维度的列,选择列的顺序至所有维度均直接或间接地基于表,定义此维度的列
18、,选择列的顺序至关重要。关重要。数据仓库概念模型数据仓库概念模型3维度的定义维度的定义3.3 第16页,共132页,编辑于2022年,星期六选择下表中的“区域”列,再选择“州”列,即可定义维度。State_id区域州1东部缅因2东部俄亥俄3西部爱达荷4西部德克萨斯第17页,共132页,编辑于2022年,星期六3维度定义维度定义3.3 数据仓库概念模型数据仓库概念模型4 4月份我在北京卖掉了价值十万美元的可乐例子例子1第18页,共132页,编辑于2022年,星期六关系数据库的记录视图:关系数据库的记录视图:产品产品 时间时间 地区地区 销量销量VCD机机 2002.3.10 北京北京 5728传
19、真机传真机 2002.3.10 北京北京 6739 刻录机刻录机 2002.3.10 北京北京 3976复印机复印机 2002.3.10 北京北京 6395 打印机打印机 2002.3.10 上海上海 6365传真机传真机 2002.3.10 上海上海 67443维度定义维度定义3.3 数据仓库概念模型数据仓库概念模型例子例子2第19页,共132页,编辑于2022年,星期六多维数据库视图:多维数据库视图:时间02.3.1002.3.11上海北京VCD地区产品57826365传统型:二维(关系型)记录、字段数据仓库:多维(立方体)维、单一事实第20页,共132页,编辑于2022年,星期六传统型的
20、一个二维表,在数据仓库中可能需要多个立方体来表示;数据仓库的一个立方体可能由多个传统型的表组成;产品产品 时间时间 地区地区 数量数量 金额金额VCD机机 2002.3.10 北京北京 5728 2345556销售数量数量立方体销售金额金额立方体一个二维表的数据可装载到两个立方体第21页,共132页,编辑于2022年,星期六维的层次:关系数据库在字段上做文章,关系数据库在字段上做文章,数据仓库在在维上做文章;上做文章;维不仅是查询数据的一个角度,而且提供查询的深度;年所有产品全国季产品大类地区月产品小类城市日产品超市同一属性数据可有多种归类层次:顾客-性别-所有顾客、顾客-文化程度-所有顾客第
21、22页,共132页,编辑于2022年,星期六2.时间维时间维 每个数据仓库都用到每个数据仓库都用到 无限的;粒度要求高时,细分数据剧增。无限的;粒度要求高时,细分数据剧增。第23页,共132页,编辑于2022年,星期六维度的分解与合成维度的分解与合成是在一个维度内进一步细分数据或将数据按照另一标准组合是在一个维度内进一步细分数据或将数据按照另一标准组合的过程。的过程。例如,当以地理位置维观察数据时,用户可以首先以国家例如,当以地理位置维观察数据时,用户可以首先以国家(如中国)为单位观察数据,然后可以选择观察某一个地(如中国)为单位观察数据,然后可以选择观察某一个地区(如华东地区)的数据,接下来
22、可以选择观察某一个省区(如华东地区)的数据,接下来可以选择观察某一个省或城市(如上海)的数据,这就是数据分解的过程。或城市(如上海)的数据,这就是数据分解的过程。而合成则是分解的逆过程,例如用户开始以省市为观察对象,而合成则是分解的逆过程,例如用户开始以省市为观察对象,接着再以地区、国家等为观察对象,就是一个数据合成的过程。接着再以地区、国家等为观察对象,就是一个数据合成的过程。数据仓库概念模型数据仓库概念模型3维度的定义维度的定义3.3 第24页,共132页,编辑于2022年,星期六我们有大量的会员我们有大量的会员年龄在年龄在20 60 岁岁月薪在月薪在0 8000 元元55%的会员被我们认
23、可为忠实会员(好会员)的会员被我们认可为忠实会员(好会员)55%55%会员都是些什么会员?会员都是些什么会员?数据仓库概念模型数据仓库概念模型3维度的定义维度的定义3.3 维度分解的例子维度分解的例子第25页,共132页,编辑于2022年,星期六维度分解的例子维度分解的例子第26页,共132页,编辑于2022年,星期六维度分解的例子维度分解的例子第27页,共132页,编辑于2022年,星期六维度分解的例子维度分解的例子第28页,共132页,编辑于2022年,星期六NameStatusMajorBirthPlaceGPAAndersonM.A.historyVancouver3.5BachJun
24、iormathCalgary3.7CarltonJuniorliberalartEdmonton2.6FraserM.S.physicsOttawa3.9GuptaPh.D.mathBombay3.3HartSophomorechemistryRichmond2.7JacksonSeniorcomputingVictoria3.5LiuPh.D.biologyShanghai3.4MeyerSophomoremusicBurnaby3.0MonkPh.D.computingVictoria3.8WangM.S.statisticsNanjing3.2WiseFreshmanliterature
25、Toronto3.9加拿大加拿大某大学某大学数据库数据库第29页,共132页,编辑于2022年,星期六ANYCanadaforeignB.COntarioChinaIndiaVancouverVictoriaBeijing.Bombay“出生地”维度之级别第30页,共132页,编辑于2022年,星期六Bumaby,.,Vancouver,VictoriaBritishColumbiaCalgary,.Edmonton,LethbridgeAlbertaHamilton,Toronto,WaterlooOntarioBombay,.,NewDelhiIndiaBeijing,Nanjing,.,
26、ShanghaiChinaIndia,ChinaforeignBritishColumbia,Alberta,.,OntarioCanadaforeign,CanadaANY(place)第31页,共132页,编辑于2022年,星期六biology,chemistry,computing,.,physicsscienceliterature,music,.,paintingartscience,artANY(major)freshman,sophomore,junior,seniorundergraduateM.S.,M.A.,Ph.D.graduateundergraduate,gradua
27、teANY(status)0.0-1.99poor2.0-2.99average3.0-3.99good4.0-4.99excellentpoor,average,good,excellentANY(grade)第32页,共132页,编辑于2022年,星期六freshmansophomorejuniorseniorM.S.M.A.Ph.DundergraduategraduateANY维度合成的例子第33页,共132页,编辑于2022年,星期六将研究生数据合成出来NamesMajorBirthPlaceGPAVoteAndersonhistoryVancouver3.51Fraserphysi
28、csOttawa3.91GuptamathBombay3.31LiubiologyShanghai3.41MonkcomputingVictoria3.81WangstaisticsNanjing3.21第34页,共132页,编辑于2022年,星期六Names这个属性中有许多不同的属性值,且沒有较高的概念层级可以表示它,所以Names属性可以被移除 MajorBirthPlaceGPAVotehistoryVancouver3.51physicsOttawa3.91mathBombay3.31biologyShanghai3.41computingVictoria3.81staisticsNa
29、njing3.21第35页,共132页,编辑于2022年,星期六假如某一属性在概念阶层中存在着一个更高层级的概念,则该属性值就以其更高层级的值來取代“history”、“physics”、“math”、“biology”会由“science”取代“literature”、“music”、“painting”会由“art”取代第36页,共132页,编辑于2022年,星期六属性值向上爬升后,若产生相同的 tuple,则将相同的 tuple 合并为一笔一般化tuple,并将 vote 值累加到归纳后的tuple 中MajorBirth_PlaceGPAVoteartB.Cexcellent35sci
30、enceOntarioexcellent10scienceB.Cexcellent30scienceIndiagood10scienceChinagood15第37页,共132页,编辑于2022年,星期六MajorBirth_PlaceGPAVoteArtCanadaexcellent35ScienceCanadaexcellent40ScienceForeigngood25MajorBirth_PlaceGPAVoteart,scienceCanadaExcellent75ScienceForeigngood25第38页,共132页,编辑于2022年,星期六层次结构是维度中成员的集合以及这些
31、成员之间的相对位置。对于由数据挖掘模型创建的维度,其层次结构代表该挖掘模型的节点结构。(1)均衡层次结构和不均衡层次结构在均衡层次结构中,层次结构的所有分支都降至同一级别,而且每个成员的逻辑父代就是其上一级成员。所有的叶节点与根节点的距离相同洲法国巴黎洲英国伦敦在不均衡层次结构中,层次结构的分支降至不同级别。叶节点距根节点的距离不同的维度层次结构 CEO职员 CEO部门经理职员数据仓库概念模型数据仓库概念模型3维度的层次结构维度的层次结构3.4 第39页,共132页,编辑于2022年,星期六(2)不齐整层次结构在不齐整层次结构中,一个成员的逻辑父代至少有一个并不直接位于该成员上一级。这将导致层
32、次结构的分支降至不同的级别。例如,Geography维度由级别Country、Province和City组成。Geneva的逻辑父代是Switzerland,因为Switzerland没有划分省份。(3)具有多个层次结构的维度数据仓库概念模型数据仓库概念模型3维度的层次结构维度的层次结构3.4 第40页,共132页,编辑于2022年,星期六度量是基于特定维度的一组事实或指标。度量值是一组值,基于事实数据表中的一列,而且通常为数字。例如一个多维数据集具有以下架构和单个度量值Sales(基于Sales事实数据表中的Sales_Amount列)。数据仓库概念模型数据仓库概念模型3度量和度量值度量和度
33、量值3.6 第41页,共132页,编辑于2022年,星期六使用聚合函数计算度量值使用聚合函数(Sum、Min、Max、Count等),可以获得并查询到需要的各种值,比如:1.对customerA,retailstoreA和productA的Sales度量值的查询返回为8002.对customerA,retailstoreA和productcategoryAB的Sales度量值的查询返回4数据仓库概念模型数据仓库概念模型3度量和度量值度量和度量值3.6 第42页,共132页,编辑于2022年,星期六单元是多维数据集的原子元素,或者为来自与该多维数据集相关联的每个维度的某个成员的唯一逻辑交集。实质
34、上,多维数据集由按度量值、级别以及维度组织的单元组成。数据仓库概念模型数据仓库概念模型3单元单元3.7 第43页,共132页,编辑于2022年,星期六例如,下列关系图描述的多维数据集有一个带阴影的单元“源”维度的“航空”成员。路线维度的非洲成员。“时间”维度的“第四季度”成员。度量值维度的包成员。第44页,共132页,编辑于2022年,星期六计算单元由下列三个元素构造1.计算子多维数据集维度(包括Measures维度)的所有成员,该选项通常不包括计算成员。维度(包括Measures维度)的单个指定的成员。维度中指定级别上的所有成员,该选项通常不包括计算成员。维度中指定成员的所有后代。维度中指定
35、级别上指定成员的所有后代。解析为包含上述集合之一的集合中的MDX表达式。该列集合与该列集合中未指定的所有其它维度的每个其它成员的组合定义计算子多维数据集。数据仓库概念模型数据仓库概念模型3单元单元3.7 第45页,共132页,编辑于2022年,星期六2.计算条件进一步限制计算单元功能应用的MDX逻辑表达式。3.计算公式用来计算包含于计算子多维数据集中的单元的值的MDX值表达式。数据仓库概念模型数据仓库概念模型3单元单元3.7 第46页,共132页,编辑于2022年,星期六多维数据集是包含维度和度量值的多维结构。维度定义多维数据集的结构,而度量值提供最终用户感兴趣的数值。多维数据集内的单元位置由
36、各维度成员的交集确定,通过对度量值进行聚合得到单元中的值。多维数据集提供一种便于使用的查询数据的机制,不但快捷,而且响应时间一致。一个多维数据集最多可包含128个维度(每个维度中可包含数百万成员)和1,024个度量值。数据仓库概念模型数据仓库概念模型3多维数据集多维数据集3.7 第47页,共132页,编辑于2022年,星期六多维数据集结构每个多维数据集架构均包括一个事实数据表以及一个或多个维度表。多维数据集的度量值出自事实数据表中的列,多维数据集的维度出自维度表中的列。多维数据集存储可以使用不同的技术和多种模式存储多维数据集的数据和聚合。多维数据集需要大量存储空间,用以包含多维结构中的数据和聚
37、合。影响存储空间要求的一个因素是稀疏度。数据仓库概念模型数据仓库概念模型3多维数据集多维数据集3.7 第48页,共132页,编辑于2022年,星期六4逻辑模型的定义和主要工作逻辑模型的定义和主要工作4.1 逻辑模型逻辑模型是数据仓库数据模型的第二层。是数据仓库数据模型的第二层。与传统的关系模型相比,简化了用户分析所需的关系,进而数据结构也得到简与传统的关系模型相比,简化了用户分析所需的关系,进而数据结构也得到简化化从支持决策的角度去定义数据实体,更适合大量复杂查询。从支持决策的角度去定义数据实体,更适合大量复杂查询。有多个维(度)表,但是只有一个事实表有多个维(度)表,但是只有一个事实表通常有
38、两种逻辑模型表示法:通常有两种逻辑模型表示法:星型模型星型模型和和雪花模型雪花模型工作工作分析主题,定义逻辑模型(星型模型或雪花模型)分析主题,定义逻辑模型(星型模型或雪花模型)确定数据粒度的选择确定数据粒度的选择确定数据分割策略确定数据分割策略如需要,增加导出字段等如需要,增加导出字段等第49页,共132页,编辑于2022年,星期六星形模型包含三种逻辑实体:星形模型包含三种逻辑实体:维度表维度表逻辑上通过keykey关联维度表往往包含相当多的属性典型的属性是文本的、离散的维度往往含有层次(级别)主键(primary keyprimary key)往往是系统产生的很可能是共享的事实表事实表对应
39、联系对应联系数据仓库逻辑模型数据仓库逻辑模型4星型模型星型模型4.2 第50页,共132页,编辑于2022年,星期六星形模型包含三种逻辑实体:星形模型包含三种逻辑实体:维度表维度表事实表事实表一个数据仓库(OLAP)模型只有一个事实表事实表经常有百万行或更多事实往往是数字“量度”有些事实可以被累加,另一些不能最小粒度原则不欢迎描述性属性(瘦高vs.vs.矮胖)对应联系对应联系数据仓库逻辑模型数据仓库逻辑模型4星型模型星型模型4.2 第51页,共132页,编辑于2022年,星期六星形模型包含三种逻辑实体:星形模型包含三种逻辑实体:维度表维度表事实表事实表对应联系对应联系维度表与事实表不是绝对的同
40、一个表,可以同时是维度表与事实表同一个表,可以有时是维度表,有时是事实表一个事实表对应多个不同维表一个维表可对应不同的事实表数据仓库逻辑模型数据仓库逻辑模型4星型模型星型模型4.2 第52页,共132页,编辑于2022年,星期六示例1数据仓库逻辑模型数据仓库逻辑模型4星型模型星型模型4.2 第53页,共132页,编辑于2022年,星期六示例2DateMonthYearDateCustIdCustNameCustCityCustCountryCustSalesFactTableDateProductStoreCustomerunit_salesdollar_salesYen_salesMeasu
41、rementsProductNoProdNameProdDescCategoryQOHProductStoreIDCityStateCountryRegionStore数据仓库逻辑模型数据仓库逻辑模型4星型模型星型模型4.2 第54页,共132页,编辑于2022年,星期六数据仓库逻辑模型数据仓库逻辑模型4星型模型星型模型4.2 第55页,共132页,编辑于2022年,星期六时间维时间维事实表事实表示例3第56页,共132页,编辑于2022年,星期六事实事实度量度量(Metrics)时间维时间维时间维的属性时间维的属性第57页,共132页,编辑于2022年,星期六雪花模型的特点雪花模型的特点维表
42、进一步层次化,改善查询性能增加表数量,增加查询复杂性节省存储空间层次性好数据仓库逻辑模型数据仓库逻辑模型4雪花模型雪花模型4.3 第58页,共132页,编辑于2022年,星期六数据仓库逻辑模型数据仓库逻辑模型4雪花模型雪花模型4.3 示例示例1第59页,共132页,编辑于2022年,星期六 DateMonthDateCustIdCustNameCustCityCustCountryCustSalesFactTableDateProductStoreCustomerunit_salesdollar_salesYen_salesMeasurementsProductNoProdNameProdDe
43、scCategoryQOHProductMonthYearMonthYearYearCityStateCityCountryRegionCountryStateCountryStateStoreIDCityStore数据仓库逻辑模型数据仓库逻辑模型4雪花模型雪花模型4.3 示例示例2第60页,共132页,编辑于2022年,星期六两种模型比较两种模型比较星型模型通过预连接和建立有选择的数据冗余,为用户访问和星型模型通过预连接和建立有选择的数据冗余,为用户访问和分析过程大大简化了数据。分析过程大大简化了数据。星型模型效率比较高,因为雪花模型维表层次多,查询的星型模型效率比较高,因为雪花模型维表层次
44、多,查询的时候连接操作较多。时候连接操作较多。雪花模型通过最大限度的减少数据存储量以及联合较小的维表来改雪花模型通过最大限度的减少数据存储量以及联合较小的维表来改善查询性能。善查询性能。雪花模型增加了用户必须处理的表数量,增加了某些查询的雪花模型增加了用户必须处理的表数量,增加了某些查询的复杂性,但这种方式可以使系统进一步专业化和实用化,同复杂性,但这种方式可以使系统进一步专业化和实用化,同时降低了系统的通用程度。时降低了系统的通用程度。雪花模型的维表可能是规范化形式,以便减少冗余,易于雪花模型的维表可能是规范化形式,以便减少冗余,易于维护,节省存储空间。维护,节省存储空间。数据仓库逻辑模型数
45、据仓库逻辑模型4逻辑模型类型选择逻辑模型类型选择4.4 第61页,共132页,编辑于2022年,星期六选择建议选择建议星型模型结构效率上优于雪花模型,首选星型星型模型结构效率上优于雪花模型,首选星型如果存储空间上存在瓶颈,可以考虑使用雪花模型如果存储空间上存在瓶颈,可以考虑使用雪花模型如果维护方面要求简便性,可以考虑使用雪花模型如果维护方面要求简便性,可以考虑使用雪花模型数据仓库逻辑模型数据仓库逻辑模型4逻辑模型类型选择逻辑模型类型选择4.4 第62页,共132页,编辑于2022年,星期六产品销售事实表:销售记录销售额成本产品件数维度表时间产品销售人员客户商店促销数据仓库逻辑模型数据仓库逻辑模
46、型4几个典型的数据仓库应用模型几个典型的数据仓库应用模型4.5 第63页,共132页,编辑于2022年,星期六网站分析事实表:点击记录人次数人数维度表时间网站IP IP(地域)浏览器数据仓库逻辑模型数据仓库逻辑模型4几个典型的数据仓库应用模型几个典型的数据仓库应用模型4.5 第64页,共132页,编辑于2022年,星期六电信行业事实表:打电话的记录通话时间本地费长途费维度表时间客户年龄客户信息手机型号电信服务类型数据仓库逻辑模型数据仓库逻辑模型4几个典型的数据仓库应用模型几个典型的数据仓库应用模型4.5 第65页,共132页,编辑于2022年,星期六财务/预算分析事实表:财务历史实际费用预算费
47、用维度表时间部门科目数据仓库逻辑模型数据仓库逻辑模型4几个典型的数据仓库应用模型几个典型的数据仓库应用模型4.5 第66页,共132页,编辑于2022年,星期六4.6 粒度选择粒度选择4 数据仓库逻辑模型数据仓库逻辑模型高度综合级高度综合级轻度综合级轻度综合级当前综合级当前综合级早期细节级早期细节级多级数据组织结构多级数据组织结构每月电话呼叫信息每月电话呼叫信息每天电话呼叫信息每天电话呼叫信息电话呼叫情况信息电话呼叫情况信息电话呼叫明细信息电话呼叫明细信息第67页,共132页,编辑于2022年,星期六粒度的第一种形式粒度的第一种形式粒度:对数据仓库中的数据综合程度高低的一个度量,它粒度:对数据
48、仓库中的数据综合程度高低的一个度量,它既影响数据仓库中的数据量的多少,也影响数据仓库所能既影响数据仓库中的数据量的多少,也影响数据仓库所能回答询问的种类。回答询问的种类。粒度越小,综合程度越低,回答查询的种类越多;粒度越小,综合程度越低,回答查询的种类越多;粒度越粒度越高,综合程度越高,查询的效率也越高。高,综合程度越高,查询的效率也越高。在数据仓库中可将小粒度的数据存储在低速存储器上;大在数据仓库中可将小粒度的数据存储在低速存储器上;大粒度的数据存储在高速存储器上。粒度的数据存储在高速存储器上。4.6 粒度选择粒度选择4 数据仓库逻辑模型数据仓库逻辑模型第68页,共132页,编辑于2022年
49、,星期六粒度的第二种形式:样本数据库粒度的第二种形式:样本数据库样本数据库:在分析过程中,有许多探索的过程有时分析的目的并样本数据库:在分析过程中,有许多探索的过程有时分析的目的并不要求精确的结果,只需要得到相对准确、能反映趋势的数据,所不要求精确的结果,只需要得到相对准确、能反映趋势的数据,所以可以提取出样本数据库。以可以提取出样本数据库。样本数据库的粒度:是根据采样率的高低来划分的,采样粒度不同样本数据库的粒度:是根据采样率的高低来划分的,采样粒度不同的样本数据库可以具有相同的综合级别,它是按一定的采样率从细的样本数据库可以具有相同的综合级别,它是按一定的采样率从细节数据库或轻度综合数据库
50、中提取的一个子集。节数据库或轻度综合数据库中提取的一个子集。样本数据库的抽取按照数据的重要程度不同进行,利用样本数样本数据库的抽取按照数据的重要程度不同进行,利用样本数据库采集重要数据进行分析既可提高分析效率,又有助于抓住主据库采集重要数据进行分析既可提高分析效率,又有助于抓住主要因素和主要矛盾。要因素和主要矛盾。4.6 粒度选择粒度选择4 数据仓库逻辑模型数据仓库逻辑模型第69页,共132页,编辑于2022年,星期六数据粒度级别数据粒度级别原因:数据仓库中数据量不同,需要解决的问题多种多样(细节原因:数据仓库中数据量不同,需要解决的问题多种多样(细节问题、综合问题)问题、综合问题)因此,不同