《上课用课件：数据挖掘sas(关联规则).ppt》由会员分享，可在线阅读，更多相关《上课用课件：数据挖掘sas(关联规则).ppt（27页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、数据库中的关联规则挖掘数据库中的关联规则挖掘什么是关联规则挖掘？什么是关联规则挖掘？n关联规则挖掘：关联规则挖掘：q从事务数据库，关系数据库和其他信息存储中的大从事务数据库，关系数据库和其他信息存储中的大量数据的项集之间发现有趣的、频繁出现的模式、量数据的项集之间发现有趣的、频繁出现的模式、关联和相关性。关联和相关性。n应用：应用：q购物篮分析、分类设计、捆绑销售等购物篮分析、分类设计、捆绑销售等“尿布与啤酒尿布与啤酒”典型关联分析案典型关联分析案例例n采用关联模型比较典型的案例是采用关联模型比较典型的案例是“尿布与啤酒尿布与啤酒”的故事。在美国，一些年轻的父亲下班后经的故事。在美国，一些年轻
2、的父亲下班后经常要到超市去买婴儿尿布，超市也因此发现了常要到超市去买婴儿尿布，超市也因此发现了一个规律，在购买婴儿尿布的年轻父亲们中，一个规律，在购买婴儿尿布的年轻父亲们中，有有30%40%的人同时要买一些啤酒。超市随的人同时要买一些啤酒。超市随后调整了货架的摆放，把尿布和啤酒放在一起，后调整了货架的摆放，把尿布和啤酒放在一起，明显增加了销售额。同样的，我们还可以根据明显增加了销售额。同样的，我们还可以根据关联规则在商品销售方面做各种促销活动。关联规则在商品销售方面做各种促销活动。购物篮分析购物篮分析n在商店中所有商品的集合中，对每种商品都可以用一在商店中所有商品的集合中，对每种商品都可以用一
3、个布尔量来表示该商品是否被顾客购买，则每个购物个布尔量来表示该商品是否被顾客购买，则每个购物篮都可以用一个布尔向量表示；而通过分析布尔向量篮都可以用一个布尔向量表示；而通过分析布尔向量则可以得到商品被频繁关联或被同时购买的模式，这则可以得到商品被频繁关联或被同时购买的模式，这些模式就可以用关联规则表示些模式就可以用关联规则表示关联规则：问题描述关联规则：问题描述n为了简洁的表示商品销售的关联规则，我们用为了简洁的表示商品销售的关联规则，我们用以下图示表示：以下图示表示：n左边商品集合左边商品集合右边商品集合右边商品集合n左边商品集合又称为左边商品集合又称为Left Hand Set,简称简称L
4、HS,类似的，右边商品集合又称为类似的，右边商品集合又称为Right HandSet,简称简称RHS。例如：。例如：n 尿布尿布啤酒啤酒n 啤酒、尿布啤酒、尿布 奶酪、巧克力奶酪、巧克力关联规则：评判规则的标准关联规则：评判规则的标准n支持度支持度q支持度（支持度（Support）指的是）指的是LHS 和和 RHS 所包括的商品所包括的商品都同时出现的概率。即，包含规则都同时出现的概率。即，包含规则qLHS和和RHS商品的交易次数商品的交易次数/总的交易次数。总的交易次数。n置信度置信度q可信度可信度(Confidence)是指在所有的购买了左边商品的交是指在所有的购买了左边商品的交易中，同时
5、又购买了右边商品的交易机率。易中，同时又购买了右边商品的交易机率。q即，包含规则两边商品的交易次数即，包含规则两边商品的交易次数/包含规则左边商品包含规则左边商品的交易次数。的交易次数。关联规则：评判规则的标准关联规则：评判规则的标准n提升度提升度q提升度指的是是两种可能性的比较，一种是在已知购买提升度指的是是两种可能性的比较，一种是在已知购买了左边商品情况下购买右边商品的可能性，另一种是任了左边商品情况下购买右边商品的可能性，另一种是任意情况下购买右边商品的可能性。两种可能性比较方式意情况下购买右边商品的可能性。两种可能性比较方式可以定义为两种可能性的概率之差值，或者两种可能性可以定义为两种
6、可能性的概率之差值，或者两种可能性的概率之比值。的概率之比值。q在在SAS 软件中定义的提升度为两种可能性的概率之比软件中定义的提升度为两种可能性的概率之比值。值。q即规则的可信度即规则的可信度/包含规则右边商品的交易次数占总交包含规则右边商品的交易次数占总交易量的比例。易量的比例。关联规则：评判规则的标准关联规则：评判规则的标准n例：假设数据库中销售商品的交易次数为例：假设数据库中销售商品的交易次数为1000 次，在这次，在这些交易中购买尿布的交易量为些交易中购买尿布的交易量为200 次，购买啤酒的交易量次，购买啤酒的交易量为为50 次，同时购买尿布和啤酒的交易量为次，同时购买尿布和啤酒的交
7、易量为20 次。那么规次。那么规则：则：尿布尿布啤酒啤酒的提升度是多少？的提升度是多少？（1）包含啤酒的交易次数占总交易次数的比例）包含啤酒的交易次数占总交易次数的比例=50/1000=5%，（2）尿布尿布 啤酒啤酒的信任度的信任度=20/200=10%，（3）提升度）提升度=10%/5%=2。（4）总结：提升度高于）总结：提升度高于1 意味着当顾客购买了尿布，他们有意味着当顾客购买了尿布，他们有较高的可能性去购买啤酒。如果提升度小于较高的可能性去购买啤酒。如果提升度小于1 意味着啤酒意味着啤酒本身就是一个畅销产品，并不是因为尿布的销售促进了其本身就是一个畅销产品，并不是因为尿布的销售促进了其
8、销售量。销售量。SAS中关联规则应用举例：中关联规则应用举例：n（1）问题分析：银行提供的服务如下，现在）问题分析：银行提供的服务如下，现在根据客户数据分析客户组合消费的情况。根据客户数据分析客户组合消费的情况。n数据集有数据集有7991个观测值，有个观测值，有3个变量个变量模型角色：模型角色：测量水平：测量水平：SAS中关联规则应用举例：中关联规则应用举例：n（2）在）在EM中建立项目和流程图中建立项目和流程图n（3）添加节点）添加节点n（4）打开和修改输入数据源）打开和修改输入数据源SAS中关联规则应用举例：中关联规则应用举例：n（5）打开和修改）打开和修改ASSOCIATE节点：注意几节
9、点：注意几个参数的设置个参数的设置SAS中关联规则应用举例：中关联规则应用举例：n（6）运行）运行ASS节点节点注意：注意：理解理解SUPPORT CONFIDENCELIFT排序排序设置查看置信度预设置查看置信度预期置信度期置信度生成子表集生成子表集SAS中序列关联分析中序列关联分析n例如：客户上周购买了例如：客户上周购买了A商品，下周是否会买商品，下周是否会买B商品商品?n序列关联分析要设置序列变量序列关联分析要设置序列变量理解：支持度、置理解：支持度、置信度信度生成生成AUTO的子集的子集关联规则挖掘算法关联规则挖掘算法(1)n基本概念基本概念qk项集项集：包含：包含k个项的集合个项的集
10、合n牛奶，面包，黄油牛奶，面包，黄油是个是个3项集项集q项集的频率项集的频率是指包含项集的事务数是指包含项集的事务数q如果项集的频率大于（最小支持度如果项集的频率大于（最小支持度D中的事务总数）中的事务总数），则称该项集为，则称该项集为频繁项集频繁项集关联规则挖掘算法关联规则挖掘算法(2)n大型数据库中的关联规则挖掘包含两个过程：大型数据库中的关联规则挖掘包含两个过程：q找出所有频繁项集找出所有频繁项集n大部分的计算都集中在这一步大部分的计算都集中在这一步q由频繁项集产生强关联规则由频繁项集产生强关联规则n即满足最小支持度和最小置信度的规则即满足最小支持度和最小置信度的规则关联规则挖掘算法关联
11、规则挖掘算法(3)n最简单的关联规则挖掘，即单维、单层、布尔关联规则的挖掘。最简单的关联规则挖掘，即单维、单层、布尔关联规则的挖掘。n交易号交易号 项集项集最小支持度 50%最小置信度 50%n对规则对规则A C，其支持度其支持度 =50%n置信度置信度Apriori算法算法(1)nApriori算法是挖掘布尔关联规则频繁项集的算法算法是挖掘布尔关联规则频繁项集的算法nApriori算法利用的是算法利用的是Apriori性质：性质：频繁项集的所有非频繁项集的所有非空子集也必须是频繁的。空子集也必须是频繁的。q 模式不可能比模式不可能比A更频繁的出现更频繁的出现qApriori算法是反单调的，即
12、一个集合如果不能通过测试，则算法是反单调的，即一个集合如果不能通过测试，则该集合的所有超集也不能通过相同的测试。该集合的所有超集也不能通过相同的测试。qApriori性质通过减少搜索空间，来提高频繁项集逐层产生的性质通过减少搜索空间，来提高频繁项集逐层产生的效率效率Apriori算法算法(2)nApriori算法利用频繁项集性质的先验知识算法利用频繁项集性质的先验知识（prior knowledge），通过逐层搜索的迭代），通过逐层搜索的迭代方法，即将方法，即将k-项集用于探察项集用于探察(k+1)-项集，来穷项集，来穷尽数据集中的所有频繁项集。尽数据集中的所有频繁项集。q先找到频繁先找到频繁
13、1-项集集合项集集合L1,然后用然后用L1找到频繁找到频繁2-项集项集集合集合L2，接着用，接着用L2找找L3，直到找不到频繁，直到找不到频繁k-项集，项集，找每个找每个Lk需要一次数据库扫描。需要一次数据库扫描。Apriori算法步骤算法步骤nApriori算法由算法由连接连接和和剪枝剪枝两个步骤组成。两个步骤组成。n连接连接：为了找为了找Lk，通过，通过Lk-1与自己连接产生候选与自己连接产生候选k-项项集的集合，该集的集合，该候选候选k项集项集记为记为Ck。qLk-1中的两个元素中的两个元素L1和和L2可以执行连接操作可以执行连接操作 的条件是的条件是nCk是是Lk的超集，即它的成员可能
14、不是频繁的，但是所的超集，即它的成员可能不是频繁的，但是所有频繁的有频繁的k-项集都在项集都在Ck中（为什么？）。因此可以通中（为什么？）。因此可以通过扫描数据库，通过计算每个过扫描数据库，通过计算每个k-项集的支持度来得到项集的支持度来得到Lk。q为了减少计算量，可以使用为了减少计算量，可以使用Apriori性质，即如果一个性质，即如果一个k-项集项集的的(k-1)-子集不在子集不在Lk-1中，则该候选不可能是频繁的，可以直中，则该候选不可能是频繁的，可以直接从接从Ck删除。删除。Apriori算法步骤：举例算法步骤：举例TIDID列表列表T10 A,B,ET20 B,DT30 B,CT40
15、 A,B,DT50 A,CT60 B,CT70 A,CT80 A,B,C,ET90 A,B,C项集项集支持频度支持频度A6B7C6D2E2算法第算法第1次扫描：最小支持频度次扫描：最小支持频度21-项集项集C1项集项集支持频度支持频度A6B7C6D2E2频繁频繁1-项集项集L1Apriori算法步骤：举例算法步骤：举例项集项集支持频度支持频度A6B7C6D2E2项集项集支持频度支持频度A,B4A,C4A,D1A,E2B,C4B,D2B,E2C,D0C,E1D,E0算法第算法第2次扫描：最小支持频度次扫描：最小支持频度22-项集项集C2频繁频繁1-项集项集L1项集项集支持频度支持频度A,B4A,
16、C4A,E2B,C4B,D2B,E2频繁频繁2-项集项集L2Apriori算法步骤：举例算法步骤：举例连接项集连接项集可用否可用否A,B,CYA,B,EYA,C,ENB,C,DNB,C,EN(B,D,EN项集项集支持频度支持频度A,B4A,C4A,E2B,C4B,D2B,E2算法第算法第3次扫描：最小支持频度次扫描：最小支持频度23-项集项集C3频繁频繁2-项集项集L2项集项集支持频度支持频度A,B,C2A,B,E2频繁频繁3-项集项集L3项集项集支持频度支持频度A,B,C2A,B,E2候选候选C4=A,B,C,E,但是但是B,C,E不是频繁项集，因不是频繁项集，因此，此，C4为空，算法无法发
17、现新的频繁项集而终止为空，算法无法发现新的频繁项集而终止由频繁项集产生关联规则由频繁项集产生关联规则n同时满足最小支持度和最小置信度的才是强关同时满足最小支持度和最小置信度的才是强关联规则，从频繁项集产生的规则都满足支持度联规则，从频繁项集产生的规则都满足支持度要求，而其置信度则可由一下公式计算：要求，而其置信度则可由一下公式计算：n每个关联规则可由如下过程产生：每个关联规则可由如下过程产生：q对于每个频繁项集对于每个频繁项集l，产生，产生l的所有非空子集；的所有非空子集；q对于每个非空子集对于每个非空子集s，如果，如果 则输出规则则输出规则“”由频繁项集产生关联规则由频繁项集产生关联规则n例
18、如频繁项集例如频繁项集A、B、E的非空子集的非空子集A、B、A、E、B、E、A、B、E n得到的关联规则得到的关联规则（1）AB=E 的置信度：的置信度：2/4=50%（2）AE=B 的置信度：的置信度：2/2=100%（3）BE=A 的置信度：的置信度：2/2=100%（4）A=BE 的置信度：的置信度：2/6=33%（5）B=AE 的置信度：的置信度：2/7=29%（6）E=AB 的置信度：的置信度：2/2=100%n在最小置信度为在最小置信度为70%情况下，只有规则情况下，只有规则（2）（）（3）（）（6）符合要求保留下来）符合要求保留下来关联规则的兴趣度度量关联规则的兴趣度度量n客观度
19、量客观度量q两个流行的度量指标两个流行的度量指标n支持度支持度n置信度置信度n主观度量主观度量q最终，只有用户才能确定一个规则是否有趣的，而且这种判最终，只有用户才能确定一个规则是否有趣的，而且这种判断是主观的，因不同的用户而异；通常认为一个规则（模式）断是主观的，因不同的用户而异；通常认为一个规则（模式）是有趣的，如果：是有趣的，如果：n它是出人意料的它是出人意料的n可行动的（用户可以使用该规则做某些事情）可行动的（用户可以使用该规则做某些事情）n挖掘了关联规则后，哪些规则是用户感兴趣的？强关挖掘了关联规则后，哪些规则是用户感兴趣的？强关联规则是否就是有趣的？联规则是否就是有趣的？书面作业：一个商场的交易记录数据书面作业：一个商场的交易记录数据如下，利用如下，利用APRIORI算法计算所有的算法计算所有的频繁项集和关联规则（最小支持频数频繁项集和关联规则（最小支持频数2，最小置信度为，最小置信度为60%）Tid列表列表T10A,C,DT20B,C,ET30A,B,C,ET40B,E