《数据挖掘入门01619.ppt》由会员分享，可在线阅读，更多相关《数据挖掘入门01619.ppt（91页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、数据挖掘入门数据挖掘入门 4/9/202311 1引言2 2KDD与数据挖掘3 3数据挖掘方法4 4数据挖掘的应用和发展趋势5 5数据预处理6 6可视化数据挖掘4/9/20232一、引言一、引言n n什么激发了数据挖掘什么激发了数据挖掘 近年来，数据挖掘引起了信息产业界的极大关注，其近年来，数据挖掘引起了信息产业界的极大关注，其主要原因是存在大量数据可以广泛使用，并且迫切需要将主要原因是存在大量数据可以广泛使用，并且迫切需要将这些数据转换成有用的信息和知识。获取的信息和知识可这些数据转换成有用的信息和知识。获取的信息和知识可以广泛应用于各种领域，如商务管理、生产控制、市场分以广泛应用于各种领域
2、，如商务管理、生产控制、市场分析、工程设计和科学探索等。析、工程设计和科学探索等。面对海量数据库和大量繁杂信息，如何才能从中提取面对海量数据库和大量繁杂信息，如何才能从中提取有价值的知识，进一步提高信息的利用率，由此引发了一有价值的知识，进一步提高信息的利用率，由此引发了一个新的研究方向：基于数据库的知识发现（个新的研究方向：基于数据库的知识发现（Knowledge Knowledge Discovery in DatabaseDiscovery in Database）及相应的数据挖掘（）及相应的数据挖掘（Data MiningData Mining）理论和技术的研究。理论和技术的研究。4/
3、9/20233n n为什么数据挖掘是重要的 数据的丰富带来了对强有力的数据分析工具的需求。快速增长的海量数据收集存放在大型和大量的数据库中，没有强有力的工具，这些数据就变成了“数据坟墓”难得再访问的数据档案。因此数据和信息之间的鸿沟要求系统地开发数据挖掘工具，将数据坟墓转换成知识“金块”。4/9/202342.1 KDD定义 人们给KDD下过很多定义，内涵也各不相同，目前公认的定义是由Fayyad等人提出的。所谓基于数据库的知识发现(KDD)是指从大量数据中提取有效的、新颖的、潜在有用的、最终可被理解的模式的非平凡过程。二、二、KDD与数据挖掘与数据挖掘4/9/202352.2 KDD过程 K
4、DD是一个人机交互处理过程。该过程需要经历多个步骤，并且很多决策需要由用户提供。从宏观上看，KDD过程主要经由三个部分组成，即数据整理、数据挖掘和结果的解释评估。4/9/20236知识发现（知识发现（KDD）的过程）的过程数据清理筛选数据清理筛选数据数据目标数据目标数据预处理预处理及变换及变换变换后的数据变换后的数据数据挖掘数据挖掘解释解释/评估评估4/9/20237知识发现（知识发现（KDD）的步骤）的步骤1.1.数据准备：了解数据准备：了解KDDKDD应用领域的有关情况。包应用领域的有关情况。包括熟悉相关的知识背景，搞清用户需求。括熟悉相关的知识背景，搞清用户需求。2.2.数据选取：数据选
5、取的目的是确定目标数据，数据选取：数据选取的目的是确定目标数据，根据用户的需要从原始数据库中选取相关数据根据用户的需要从原始数据库中选取相关数据或样本。在此过程中，将利用一些数据库操作或样本。在此过程中，将利用一些数据库操作对数据库进行相关处理。对数据库进行相关处理。3.3.数据预处理：对步骤数据预处理：对步骤2 2中选出的数据进行再处理，中选出的数据进行再处理，检查数据的完整性及一致性，消除噪声及与数检查数据的完整性及一致性，消除噪声及与数据挖掘无关的冗余数据，根据时间序列和已知据挖掘无关的冗余数据，根据时间序列和已知的变化情况，利用统计等方法填充丢失的数据。的变化情况，利用统计等方法填充丢
6、失的数据。4/9/202384.4.数据变换：根据知识发现的任务对经过预处理的数据再处理，主要是通过投影或利用数据库的其它操作减少数据量。5.5.确定KDD目标：根据用户的要求，确定KDD要发现的知识类型。6.6.选择算法：根据步骤5确定的任务，选择合适的知识发现算法，包括选取合适的模型和参数。4/9/202397.7.数据挖掘：这是整个数据挖掘：这是整个KDDKDD过程中很重要的一个过程中很重要的一个步骤。运用前面的选择算法，从数据库中提取步骤。运用前面的选择算法，从数据库中提取用户感兴趣的知识，并以一定的方式表示出来。用户感兴趣的知识，并以一定的方式表示出来。8.8.模式解释：对在数据挖掘
7、步骤中发现的模式模式解释：对在数据挖掘步骤中发现的模式（知识）进行解释。通过机器评估剔除冗余或（知识）进行解释。通过机器评估剔除冗余或无关模式，若模式不满足，再返回到前面某些无关模式，若模式不满足，再返回到前面某些处理步骤中反复提取。处理步骤中反复提取。9.9.知识评价：将发现的知识以用户能了解的方式知识评价：将发现的知识以用户能了解的方式呈现给用户。其中也包括对知识一致性的检查，呈现给用户。其中也包括对知识一致性的检查，以确信本次发现的知识不会与以前发现的知识以确信本次发现的知识不会与以前发现的知识相抵触。相抵触。4/9/202310n n什么是数据挖掘1.1.数据挖掘（从数据中发现知识）数
8、据挖掘（从数据中发现知识）从海量的数据中抽取感兴趣的（有价值的、隐含的、从海量的数据中抽取感兴趣的（有价值的、隐含的、以前没有用但是潜在有用信息的）模式和知识。以前没有用但是潜在有用信息的）模式和知识。2.2.其它可选择的名字其它可选择的名字 数据库中知识挖掘、知识提取、数据数据库中知识挖掘、知识提取、数据/模式分析、数据模式分析、数据考古、数据捕捞、信息获取、事务智能等。考古、数据捕捞、信息获取、事务智能等。3.3.广义观点广义观点 数据挖掘是从存放在数据库、数据仓库中或其它信息数据挖掘是从存放在数据库、数据仓库中或其它信息库中的大量数据中挖掘有趣知识的过程。库中的大量数据中挖掘有趣知识的过
9、程。4/9/202311n n数据挖掘系统的组成数据库、数据仓库或其他信息库：是一个或一数据库、数据仓库或其他信息库：是一个或一组数据库、数据仓库、电子表格或其他类型的组数据库、数据仓库、电子表格或其他类型的信息库。可以在数据上进行数据清理和集成。信息库。可以在数据上进行数据清理和集成。数据库或数据仓库服务器：根据用户的挖掘请数据库或数据仓库服务器：根据用户的挖掘请求，数据库或数据仓库服务器负责提取相关数求，数据库或数据仓库服务器负责提取相关数据。据。知识库：是领域知识，用于指导搜索，或评估知识库：是领域知识，用于指导搜索，或评估结果模式的兴趣度。结果模式的兴趣度。4/9/202312数据挖掘
10、引擎：数据挖掘系统的基本部分，由数据挖掘引擎：数据挖掘系统的基本部分，由一组功能模块组成，用于特征化、关联、分类、一组功能模块组成，用于特征化、关联、分类、聚类分析以及演变和偏差分析。聚类分析以及演变和偏差分析。模式评估模块：使用兴趣度量，并与数据挖掘模式评估模块：使用兴趣度量，并与数据挖掘模块交互，以便将搜索聚焦在有趣的模式上，模块交互，以便将搜索聚焦在有趣的模式上，可能使用兴趣度阈值过滤发现的模式。可能使用兴趣度阈值过滤发现的模式。图形用户界面：该模块在用户和数据挖掘系统图形用户界面：该模块在用户和数据挖掘系统之间通信，允许用户与系统交互，指定数据挖之间通信，允许用户与系统交互，指定数据挖
11、掘查询或任务，提供信息，帮助搜索聚焦，根掘查询或任务，提供信息，帮助搜索聚焦，根据数据挖掘的中间结果进行探索式数据挖掘。据数据挖掘的中间结果进行探索式数据挖掘。4/9/202313数据挖掘系统结构数据挖掘系统结构数据仓库数据仓库数据清理数据清理 数据集成数据集成过滤过滤数据库数据库数据库或数据仓库服务器数据挖掘引擎模式评估图形用户界面 知识库4/9/2023143.1 3.1 可以分别按挖掘可以分别按挖掘任务任务、挖掘、挖掘对象对象和挖掘和挖掘方法方法来分来分类。类。1.1.按挖掘任务分类：包括分类或预测知识模型发按挖掘任务分类：包括分类或预测知识模型发现，数据总结，数据聚类，关联规则发现，时
12、现，数据总结，数据聚类，关联规则发现，时序模式发现，依赖关系或依赖模型发现，异常序模式发现，依赖关系或依赖模型发现，异常和趋势发现等。和趋势发现等。2.2.按挖掘对象分类：包括关系数据库，面向对象按挖掘对象分类：包括关系数据库，面向对象数据库，空间数据库，时态数据库，文本数据数据库，空间数据库，时态数据库，文本数据库，多媒体数据库，异构数据库，数据仓库，库，多媒体数据库，异构数据库，数据仓库，演绎数据库和演绎数据库和WebWeb数据库等。数据库等。三、数据挖掘方法三、数据挖掘方法4/9/2023153.3.按挖掘方法分类：包括统计方法，机器学习方法，神经按挖掘方法分类：包括统计方法，机器学习方
13、法，神经网络方法和数据库方法，其中：网络方法和数据库方法，其中：统计方法可分为：回归分析（多元回归、自回归等），统计方法可分为：回归分析（多元回归、自回归等），判别分析（贝叶斯判别、费歇尔判别、非参数判别等），判别分析（贝叶斯判别、费歇尔判别、非参数判别等），聚类分析（系统聚类、动态聚类等），探索性分析（主聚类分析（系统聚类、动态聚类等），探索性分析（主成分分析、相关分析等）等。成分分析、相关分析等）等。机器学习方法可分为：归纳学习方法（决策树、规则归机器学习方法可分为：归纳学习方法（决策树、规则归纳等），基于范例学习，遗传算法等。纳等），基于范例学习，遗传算法等。神经网络方法可以分为：前向神
14、经网络（神经网络方法可以分为：前向神经网络（BPBP算法等），算法等），自组织神经网络（自组织特征映射、竞争学习等）。自组织神经网络（自组织特征映射、竞争学习等）。数据库方法分为：多为数据分析和数据库方法分为：多为数据分析和OLAPOLAP技术，此外还技术，此外还有面向属性的归纳方法。有面向属性的归纳方法。4/9/2023163.2 3.2 数据挖掘方法1.1.粗糙集粗糙集 19821982年波兰数学家年波兰数学家Z.PawlakZ.Pawlak针对针对G.FregeG.Frege的边的边界线区域思想提出了粗糙集（界线区域思想提出了粗糙集（Rough SetRough Set），他），他把那些
15、无法确认的个体都归属于边界线区域，把那些无法确认的个体都归属于边界线区域，而这种边界线区域被定义为上近似集和下近似而这种边界线区域被定义为上近似集和下近似集之差集。集之差集。粗糙集理论主要特点在于它恰好反映了人粗糙集理论主要特点在于它恰好反映了人们用粗糙集方法处理不分明问题的常规性，即们用粗糙集方法处理不分明问题的常规性，即以不完全信息或知识去处理一些不分明现象的以不完全信息或知识去处理一些不分明现象的能力，或依据观察、度量到的某些不精确的结能力，或依据观察、度量到的某些不精确的结果而进行分类数据的能力。果而进行分类数据的能力。4/9/2023172.2.模糊集 经典集合理论对应二值逻辑，一个
16、元素要么属于、要么不属于给定集合。因此经典集合不能很好地描述具有模糊性和不确定性的问题。美国加利福尼亚大学的扎德教授于1965年提出了模糊集合论，用隶属程度来描述差异的中间过渡，是一种用精确的数学语言对模糊性进行描述的方法。4/9/202318 定义：论域X=x上的模糊集合A由隶属函数A(x)来表征。其中A(x)在实轴的闭区间0，1中取值，A(x)的大小反映x对于模糊集合A的隶属程度。A(x)的值接近1，表示x隶属于A的程度很高。A(x)的值接近0，表示x隶属于A的程度很低。特例，当A的值域取0，1闭区间的两个端点，亦即0，1两个值时，A便退化为一个普通的逻辑子集。隶属函数也就退化为普通逻辑值
17、。4/9/2023193.3.聚类分析聚类分析 聚类是对物理的或抽象的对象集合分组的过程。聚聚类是对物理的或抽象的对象集合分组的过程。聚类生成的组为簇，簇是数据对象的集合。簇内部任意两类生成的组为簇，簇是数据对象的集合。簇内部任意两个对象之间具有较高的相似度，而属于不同簇的两个对个对象之间具有较高的相似度，而属于不同簇的两个对象间具有较高的相异度。象间具有较高的相异度。相异度可以根据描述对象的属性值计算，对象间的相异度可以根据描述对象的属性值计算，对象间的距离是最常采用的度量指标。在实际应用中，经常将一距离是最常采用的度量指标。在实际应用中，经常将一个簇中的数据对象作为一个整体看待。用聚类生成
18、的簇个簇中的数据对象作为一个整体看待。用聚类生成的簇来表达数据集不可避免地会损失一些信息，但却可以使来表达数据集不可避免地会损失一些信息，但却可以使问题得到必要的简化。问题得到必要的简化。主要的数据挖掘聚类方法有：划分的方法、层次的主要的数据挖掘聚类方法有：划分的方法、层次的方法、基于密度的方法、基于网格的方法、基于模型的方法、基于密度的方法、基于网格的方法、基于模型的方法方法4/9/2023204.4.关联规则关联规则 关联规则反映一个事物与其它事物之间的相互依存关联规则反映一个事物与其它事物之间的相互依存性和关联性，如果两个事物或者多个事物之间存在一定性和关联性，如果两个事物或者多个事物之
19、间存在一定的关联关系，那么其中一个事物就能够通过其他事物预的关联关系，那么其中一个事物就能够通过其他事物预测到。测到。人们希望在海量的商业交易记录中发现感兴趣的数人们希望在海量的商业交易记录中发现感兴趣的数据关联关系，用以帮助商家作出决策。例如：据关联关系，用以帮助商家作出决策。例如：面包面包 2%2%牛奶牛奶 1.5%1.5%（占超市交易总数）（占超市交易总数）2%2%和和1.5%1.5%表明这两种商品在超市经营中的重要程度，称表明这两种商品在超市经营中的重要程度，称为支持度。商家关注高支持度的产品。为支持度。商家关注高支持度的产品。面包面包=牛奶牛奶 60%60%在购买面包的交易中，有在购
20、买面包的交易中，有60%60%的交易既买了面包又的交易既买了面包又买了牛奶，成买了牛奶，成60%60%为规则为规则“面包面包=牛奶牛奶”的信任度。的信任度。信任度反映了商品间的关联程度。信任度反映了商品间的关联程度。4/9/202321 项目构成的集合称为项集。项集在事物数据库中出项目构成的集合称为项集。项集在事物数据库中出现的次数占总事物的百分比叫做项集的支持度。如果现的次数占总事物的百分比叫做项集的支持度。如果项集的支持度超过用户给定的最小支持度阈值，就称项集的支持度超过用户给定的最小支持度阈值，就称该项集是频繁项集。该项集是频繁项集。关联规则就是支持度和信任度分别满足用户给定阈关联规则就
21、是支持度和信任度分别满足用户给定阈值的规则值的规则。发现关联规则需要经历如下两个步骤：。发现关联规则需要经历如下两个步骤：（1 1）找出所有的频繁项。）找出所有的频繁项。（2 2）由频繁项集生成满足最小信任度阈值的规则。）由频繁项集生成满足最小信任度阈值的规则。4/9/2023225.5.人工神经网络人工神经网络 人工神经网络是指由简单计算单元组成的广泛并行人工神经网络是指由简单计算单元组成的广泛并行互联的网络，能够模拟生物神经系统的结构和功能。组互联的网络，能够模拟生物神经系统的结构和功能。组成神经网络的单个神经元的结构简单，功能有限，但是，成神经网络的单个神经元的结构简单，功能有限，但是，
22、由大量神经元构成的网络系统可以实现强大的功能。由大量神经元构成的网络系统可以实现强大的功能。由于现实世界的数据关系相当复杂，非线性问题和由于现实世界的数据关系相当复杂，非线性问题和噪声数据普遍存在。将人工神经网络应用于数据挖掘，噪声数据普遍存在。将人工神经网络应用于数据挖掘，希望借助其非线性处理能力和容噪能力，得到较好的数希望借助其非线性处理能力和容噪能力，得到较好的数据挖掘结果。据挖掘结果。将人工神经网络应用于数据挖掘的主要障碍是，将人工神经网络应用于数据挖掘的主要障碍是，通过人工神经网络学习到的知识难于理解；学习时间太通过人工神经网络学习到的知识难于理解；学习时间太长，不适于大型数据集。长
23、，不适于大型数据集。4/9/2023236 6，分类与预测，分类与预测 分类和预测是两种重要的数据分析方法，在商业上分类和预测是两种重要的数据分析方法，在商业上的应用很多。分类和预测可以用于提取描述重要数据类的应用很多。分类和预测可以用于提取描述重要数据类型或预测未来的数据趋势。型或预测未来的数据趋势。分类的目的是提出一个分类函数或分类模型（即分分类的目的是提出一个分类函数或分类模型（即分类器）通过分类器将数据对象映射到某一个给定的类别类器）通过分类器将数据对象映射到某一个给定的类别中。数据分类可以分为两步进行。第一步建立模型，用中。数据分类可以分为两步进行。第一步建立模型，用于描述给定的数据
24、集合。通过分析由属性描述的数据集于描述给定的数据集合。通过分析由属性描述的数据集合来建立反映数据集合特性的模型。第二步是用模型对合来建立反映数据集合特性的模型。第二步是用模型对数据对象进行分类。数据对象进行分类。预测的目的是从历史数据记录中自动推导出对给定预测的目的是从历史数据记录中自动推导出对给定数据的推广描述，从而能够对事先未知的数据进行预测。数据的推广描述，从而能够对事先未知的数据进行预测。4/9/202324 分类的方法：分类的方法：决策树：决策树内部节点进行属性值测试，并根据属性值决策树：决策树内部节点进行属性值测试，并根据属性值判断由该节点引出的分支，在决策树的叶结点得到结论。判断
25、由该节点引出的分支，在决策树的叶结点得到结论。内部节点是属性或属性的集合，叶节点代表样本所属的类内部节点是属性或属性的集合，叶节点代表样本所属的类或类分布。或类分布。贝叶斯分类：是一种统计学分类方法，可以预测类成员关贝叶斯分类：是一种统计学分类方法，可以预测类成员关系关系的可能性，如给定样本属于一个特征类的概率。贝系关系的可能性，如给定样本属于一个特征类的概率。贝叶斯方法已在文本分类、字母识别、经济预测等领域获得叶斯方法已在文本分类、字母识别、经济预测等领域获得了成功的应用。了成功的应用。基于遗传算法分类：模拟生物进化过程中的计算模型，是基于遗传算法分类：模拟生物进化过程中的计算模型，是自然遗
26、传学与计算机科学互相结合、互相渗透而形成的新自然遗传学与计算机科学互相结合、互相渗透而形成的新的计算方法。利用选择、交叉、变异等操作对子代进行操的计算方法。利用选择、交叉、变异等操作对子代进行操作，优点是问题求解与初始条件无关，搜索最优解的能力作，优点是问题求解与初始条件无关，搜索最优解的能力极强，可以对各种数据挖掘技术进行优化。极强，可以对各种数据挖掘技术进行优化。4/9/202325n n预测预测 预测是构造和使用模型评估无标号样本类，或预测是构造和使用模型评估无标号样本类，或评估给定样本可能具有的属性值或区间值。预测评估给定样本可能具有的属性值或区间值。预测的目的是从历史数据中自动推导出
27、对给定数据的的目的是从历史数据中自动推导出对给定数据的推广描述，从而能对未来数据进行预测。例如，推广描述，从而能对未来数据进行预测。例如，金融系统可以根据顾客信誉卡消费量预测他未来金融系统可以根据顾客信誉卡消费量预测他未来的刷卡消费量或用于信誉证实。推销人员希望在的刷卡消费量或用于信誉证实。推销人员希望在开拓新客户时，找出顾客一些共同特征，预测出开拓新客户时，找出顾客一些共同特征，预测出潜在顾客群。潜在顾客群。预测的方法主要是回归统计，包括：线性回归、预测的方法主要是回归统计，包括：线性回归、非线性回归、多元回归、泊松回归、对数回归等。非线性回归、多元回归、泊松回归、对数回归等。分类也可以用来
28、预测。分类也可以用来预测。4/9/2023267 7，多媒体数据挖掘，多媒体数据挖掘 多媒体数据库系统由多媒体数据库管理系统和多媒多媒体数据库系统由多媒体数据库管理系统和多媒体数据库构成。其中多媒体数据库用于存储和管理多媒体数据库构成。其中多媒体数据库用于存储和管理多媒体数据，多媒体数据库管理系统负责对多媒体数据库进体数据，多媒体数据库管理系统负责对多媒体数据库进行管理。多媒体数据库包括结构化的数据、半结构化的行管理。多媒体数据库包括结构化的数据、半结构化的数据和非结构化的数据，如音频数据、视频数据、文本数据和非结构化的数据，如音频数据、视频数据、文本数据和图像数据等。数据和图像数据等。多媒体
29、数据挖掘就是通过综合分析多媒体数据的内容多媒体数据挖掘就是通过综合分析多媒体数据的内容和语义，从大量多媒体数据中发现隐含的、有效的、有和语义，从大量多媒体数据中发现隐含的、有效的、有价值的、可理解的模式，得出事件的发展趋向和关联关价值的、可理解的模式，得出事件的发展趋向和关联关系，为用户提供问题求解层次上的决策支持能力。系，为用户提供问题求解层次上的决策支持能力。4/9/202327 多媒体数据是指由多种不同类型多媒体数据组成的，多媒体数据是指由多种不同类型多媒体数据组成的，包括文本、图形、图像、声音、视频图像、动画等不同类包括文本、图形、图像、声音、视频图像、动画等不同类型的媒体数据。为了挖
30、掘多媒体数据，必须对两种或多种型的媒体数据。为了挖掘多媒体数据，必须对两种或多种类型的媒体数据进行综合挖掘。类型的媒体数据进行综合挖掘。多媒体挖掘的方法有两种：多媒体挖掘的方法有两种：一种是先从多媒体数据数据库中提取出结构化数据，一种是先从多媒体数据数据库中提取出结构化数据，然后用传统的数据挖掘工具在这些结构化的数据上进行挖然后用传统的数据挖掘工具在这些结构化的数据上进行挖掘。掘。另一种解决办法是研究开发可以直接对多媒体数据进另一种解决办法是研究开发可以直接对多媒体数据进行挖掘的工具。行挖掘的工具。4/9/202328四、数据挖掘系统与应用四、数据挖掘系统与应用 数据挖掘系统的开发工作十分复杂
31、，不仅要有大量的数据挖掘系统的开发工作十分复杂，不仅要有大量的数据挖掘算法，而且其应用领域往往取决于最终用户的知数据挖掘算法，而且其应用领域往往取决于最终用户的知识结构等因素。下面介绍几个数据挖掘系统：识结构等因素。下面介绍几个数据挖掘系统：SKICATSKICAT是是MITMIT喷气推进实验室与天文科学家合作开发的喷气推进实验室与天文科学家合作开发的用用于帮助天文学家发现遥远的类星体的工具于帮助天文学家发现遥远的类星体的工具。Health-KEFIRHealth-KEFIR是用于健康状况预警的知识发现系统是用于健康状况预警的知识发现系统。TASATASA是为预测通信网络故障是为预测通信网络故
32、障而开发的而开发的通信网络预警分析通信网络预警分析系统系统。会产生。会产生“如果在某一时间段内发生某些预警信息组如果在某一时间段内发生某些预警信息组合，那么其他类型的预警信息将在某个时间范围内发生合，那么其他类型的预警信息将在某个时间范围内发生”的规则。时间段大小由用户定义。的规则。时间段大小由用户定义。R-MINIR-MINI运用分类技术从噪声中提取有价值的信息。由于是运用分类技术从噪声中提取有价值的信息。由于是在微弱变化中获取信息，该系统也可以应用于在微弱变化中获取信息，该系统也可以应用于证券领域中证券领域中的股市行情预测的股市行情预测。4/9/202329KDWKDW是大型商业数据库中的
33、交互分析系统。包括聚类、是大型商业数据库中的交互分析系统。包括聚类、分类、总结、相关性分析等多种模式。分类、总结、相关性分析等多种模式。DBMinerDBMiner是加拿大是加拿大Simon FraserSimon Fraser大学开发的一个多任务大学开发的一个多任务KDDKDD系统。能够完成多种知识发现，综合了多种数据挖掘技术。系统。能够完成多种知识发现，综合了多种数据挖掘技术。ClementineClementine可以把直观的图形用户界面与多种分析技术结可以把直观的图形用户界面与多种分析技术结合在一起，包括神经网络、关联规则和规则归纳技术。合在一起，包括神经网络、关联规则和规则归纳技术。
34、DarwinDarwin包含神经网络、决策书和包含神经网络、决策书和K-K-邻近三种数据挖掘方法，邻近三种数据挖掘方法，处理分类、预测和预报问题。处理分类、预测和预报问题。DMWDMW是一个用在信用卡欺诈分析方面的数据挖掘工具，是一个用在信用卡欺诈分析方面的数据挖掘工具，支持反向传播神经网络算法，并能以自动和人工模式操作支持反向传播神经网络算法，并能以自动和人工模式操作Intelligent MinerIntelligent Miner是是IBMIBM开发的包括人工智能、机器学习、开发的包括人工智能、机器学习、语言分析和知识发现领域成果在内的复杂软件解决方案。语言分析和知识发现领域成果在内的复
35、杂软件解决方案。4/9/202330五，数据预处理五，数据预处理n n为什么需要数据预处理为什么需要数据预处理?n n数据清洗数据清洗 n n数据集成与转换数据集成与转换n n数据归约数据归约n n数据离散化与概念层次的构建数据离散化与概念层次的构建n n本章小结本章小结4/9/202331为什么需要数据预处理为什么需要数据预处理?n n在现实社会中，存在着大量的在现实社会中，存在着大量的“脏脏”数据数据n n不完整性不完整性（数据结构的设计人员、数据采集设备和数据录入人员）（数据结构的设计人员、数据采集设备和数据录入人员）n n缺少感兴趣的属性缺少感兴趣的属性n n感兴趣的属性缺少部分属性值
36、感兴趣的属性缺少部分属性值n n仅仅包含聚合数据，没有详细数据仅仅包含聚合数据，没有详细数据n n噪音数据（采集数据的设备、数据录入人员、数据传输）噪音数据（采集数据的设备、数据录入人员、数据传输）n n数据中包含错误的信息数据中包含错误的信息n n存在着部分偏离期望值的孤立点存在着部分偏离期望值的孤立点n n不一致性（数据结构的设计人员、数据录入人员）不一致性（数据结构的设计人员、数据录入人员）n n数据结构的不一致性数据结构的不一致性n nLabelLabel的不一致性的不一致性n n数据值的不一致性数据值的不一致性4/9/202332为什么需要数据预处理为什么需要数据预处理?n n数据挖
37、掘的数据源可能是多个互相独立的数据源数据挖掘的数据源可能是多个互相独立的数据源n n关系数据库关系数据库n n多维数据库（多维数据库（Data CubeData Cube）n n文件、文档数据库文件、文档数据库n n数据转换数据转换n n为了数据挖掘的方便为了数据挖掘的方便n n海量数据的处理海量数据的处理n n数据归约（在获得相同或者相似结果的前提下）数据归约（在获得相同或者相似结果的前提下）4/9/202333为什么需要数据预处理？为什么需要数据预处理？n n没有高质量的数据，就没有高质量的挖掘结果n n高质量的决策必须基于高质量的数据基础上高质量的决策必须基于高质量的数据基础上n n数据
38、仓库是在高质量数据上的集成数据仓库是在高质量数据上的集成4/9/202334数据预处理的主要任务数据预处理的主要任务n n数据清理数据清理n n填入缺失数据填入缺失数据n n平滑噪音数据平滑噪音数据n n确认和去除孤立点确认和去除孤立点n n解决不一致性解决不一致性n n数据集成数据集成n n多个数据库、多个数据库、Data CubeData Cube和文件系统的集成和文件系统的集成n n数据转换数据转换n n规范化、聚集等规范化、聚集等n n数据归约数据归约n n在可能获得相同或相似结果的前提下，对数据的容量进行有效的缩减在可能获得相同或相似结果的前提下，对数据的容量进行有效的缩减n n数据
39、离散化数据离散化n n对于一个特定的连续属性，尤其是连续的数字属性，可以把属性值划分对于一个特定的连续属性，尤其是连续的数字属性，可以把属性值划分成若干区间，以区间值来代替实际数据值，以减少属性值的个数成若干区间，以区间值来代替实际数据值，以减少属性值的个数.4/9/202335数据预处理的形式数据预处理的形式数据清理数据清理数据集成数据集成数据转换数据转换数据归约数据归约4/9/202336主要内容主要内容n n为什么需要数据预处理?n n数据清洗 n n数据集成与转换n n数据归约n n数据离散化与概念层次的构建n n本章小结4/9/202337数据清洗数据清洗n n主要任务n n补充缺失
40、数据补充缺失数据n n识别孤立点，平滑噪音数据识别孤立点，平滑噪音数据n n处理不一致的数据处理不一致的数据4/9/202338缺失数据的处理缺失数据的处理n n部分数据通常是不可用的部分数据通常是不可用的n n在许多元组中部分属性值为空。如：在客户表中的客户收入在许多元组中部分属性值为空。如：在客户表中的客户收入为空。为空。n n导致数据缺失的原因导致数据缺失的原因n n数据采集设备的故障数据采集设备的故障n n由于与其它信息的数据存在不一致性，因此数据项被删除由于与其它信息的数据存在不一致性，因此数据项被删除n n由于不理解或者不知道而未能输入由于不理解或者不知道而未能输入n n在当时数据
41、输入的时候，该数据项不重要而忽略在当时数据输入的时候，该数据项不重要而忽略n n数据传输过程中引入的错误数据传输过程中引入的错误n n缺失数据通常需要经过合理的推断予以添加缺失数据通常需要经过合理的推断予以添加4/9/202339缺失数据的处理方法缺失数据的处理方法n n忽略该记录（元组）忽略该记录（元组）n n通常在进行分类、描述、聚类等挖掘，但是元组缺失类标通常在进行分类、描述、聚类等挖掘，但是元组缺失类标识时识时n n该种方法通常不是最佳的，尤其是缺失数据比例比较大的该种方法通常不是最佳的，尤其是缺失数据比例比较大的时候时候n n手工填入空缺的值手工填入空缺的值n n枯燥、费时，可操作性
42、差，不推荐使用枯燥、费时，可操作性差，不推荐使用n n使用一个全局的常量填充空缺数值使用一个全局的常量填充空缺数值n n给定一个固定的属性值如：未知、不祥、给定一个固定的属性值如：未知、不祥、Unknown Unknown、NullNull等等n n简单，但是没有意义简单，但是没有意义4/9/202340n n使用属性的平均值填充空缺数值使用属性的平均值填充空缺数值n n简单方便、挖掘结果容易产生不精确的结果简单方便、挖掘结果容易产生不精确的结果n n使用与给定元组同一个类别的所有样本的平均值使用与给定元组同一个类别的所有样本的平均值n n分类非常重要，尤其是分类指标的选择分类非常重要，尤其是
43、分类指标的选择n n使用最有可能的值予以填充使用最有可能的值予以填充n n利用回归、基于推导的使用贝叶斯形式化的方法的工具或利用回归、基于推导的使用贝叶斯形式化的方法的工具或者判定树归纳确定者判定树归纳确定n n利用属性之间的关系进行推断，保持了属性之间的联系利用属性之间的关系进行推断，保持了属性之间的联系缺失数据的处理方法（续）缺失数据的处理方法（续）4/9/202341噪音数据噪音数据n n噪音数据噪音数据:一个度量（指标）变量中的随机错误或者一个度量（指标）变量中的随机错误或者偏差偏差n n主要原因主要原因n n数据采集设备的错误数据采集设备的错误n n数据录入问题数据录入问题n n数据
44、传输问题数据传输问题n n部分技术的限制部分技术的限制n n数据转换中的不一致数据转换中的不一致 n n数据清理中所需要处理的其它问题数据清理中所需要处理的其它问题n n重复的记录重复的记录n n不完整的数据不完整的数据n n不一致的数据不一致的数据4/9/202342噪音数据的处理噪音数据的处理n n分箱（Binning）的方法n n聚类方法n n检测并消除异常点检测并消除异常点n n线性回归n n对不符合回归的数据进行平滑处理对不符合回归的数据进行平滑处理n n人机结合共同检测n n由计算机检测可疑的点，然后由用户确认由计算机检测可疑的点，然后由用户确认4/9/202343处理噪音数据：分
45、箱方法处理噪音数据：分箱方法n n分箱（Binning）方法:n n基本思想：通过考察相邻数据的值，来平滑存储基本思想：通过考察相邻数据的值，来平滑存储数据的值数据的值n n基本步骤：基本步骤：n n首先，对数据进行排序，并分配到具有相同宽度首先，对数据进行排序，并分配到具有相同宽度/深深度的不同的度的不同的“箱子箱子”中中n n其次，通过箱子的平均值（其次，通过箱子的平均值（MeansMeans）、）、中值中值（MedianMedian）、）、或者边界值等来进行平滑处理或者边界值等来进行平滑处理4/9/202344分箱（分箱（BinningBinning）方法举例方法举例n n对数据进行排序
46、对数据进行排序:4,8,9,15,21,21,24,25,26,28,29,34:4,8,9,15,21,21,24,25,26,28,29,34n n对数据进行分割对数据进行分割(相同深度相同深度):):n n-Bin 1:4,8,9,15-Bin 1:4,8,9,15n n-Bin 2:21,21,24,25-Bin 2:21,21,24,25n n-Bin 3:26,28,29,34-Bin 3:26,28,29,34n n根据根据binbin中的平均值进行离散化中的平均值进行离散化:n n-Bin 1:9,9,9,9-Bin 1:9,9,9,9n n-Bin 2:23,23,23,23
47、-Bin 2:23,23,23,23n n-Bin 3:29,29,29,29-Bin 3:29,29,29,294/9/202345基于聚类分析的平滑处理基于聚类分析的平滑处理4/9/202346通过线性回归的平滑处理通过线性回归的平滑处理xyy=x+1X1Y1Y14/9/202347主要内容主要内容n n为什么需要数据预处理n n数据清洗 n n数据集成与转换n n数据归约n n数据离散化与概念层次的构建n n本章小结4/9/202348数据集成数据集成n n数据集成的概念数据集成的概念n n将多个数据源中的数据结合起来存放在一个一致的数据存储中将多个数据源中的数据结合起来存放在一个一致的
48、数据存储中n n数据源包括：多个数据库、多维数据库和一般的文件数据源包括：多个数据库、多维数据库和一般的文件n n数据集成也是数据仓库建设中的一个重要问题数据集成也是数据仓库建设中的一个重要问题n n数据集成的内容数据集成的内容n n模式集成模式集成n n利用数据库和数据仓库的元数据信息利用数据库和数据仓库的元数据信息n n主要工作是识别现实世界中的实体定义主要工作是识别现实世界中的实体定义n n冗余数据的处理冗余数据的处理n n检测和解决数值冲突检测和解决数值冲突n n对于现实世界中的同一实体，来自于不同数据源的属性值可能不同对于现实世界中的同一实体，来自于不同数据源的属性值可能不同n n主
49、要原因：不同的数据表示、度量单位、编码方式以及语义的不同主要原因：不同的数据表示、度量单位、编码方式以及语义的不同4/9/202349模式集成模式集成n n数据类型冲突数据类型冲突n n性别：性别：string(Malestring(Male、Female)Female)、CharChar（MM、F F）、）、IntergerInterger（0 0、1 1）n n日期：日期：DateDate、DateTimeDateTime、StringStringn n数据标签冲突：解决同名异义、异名同义数据标签冲突：解决同名异义、异名同义n n学生成绩、分数学生成绩、分数n n度量单位冲突度量单位冲突n
50、 n学生成绩学生成绩n n百分制：百分制：100 0100 0n n五分制：五分制：A A、B B、C C、DD、E En n字符表示：优、良、及格、不及格字符表示：优、良、及格、不及格n n概念不清概念不清n n最近交易额：前一个小时、昨天、本周、本月？最近交易额：前一个小时、昨天、本周、本月？n n聚集冲突：根源在于表结构的设计聚集冲突：根源在于表结构的设计 4/9/202350冗余数据的处理冗余数据的处理n n从多个数据源中抽取不同的数据，容易导致数据的冗余从多个数据源中抽取不同的数据，容易导致数据的冗余n n不同的属性在不同的数据源中是不同的命名方式不同的属性在不同的数据源中是不同的命