机器学习-01引言ppt课件.ppt

《机器学习-01引言ppt课件.ppt》由会员分享，可在线阅读，更多相关《机器学习-01引言ppt课件.ppt（32页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。

1、“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。1机器学习主讲：张莉 第一章 引言“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。2什么是机器学习 什么是机器学习什么是机器学习计算机程序如何随着经验积累自动提高性能计算机程序如何随着经验积累自动提高性能系统自我改进的过程系统自我改进的过程 成功应用成功应用学习识别人类讲话学习识别人类讲话学习驾驶车辆学习驾驶车辆学

2、习分类新的天文结构学习分类新的天文结构学习对弈西洋双陆棋学习对弈西洋双陆棋“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。3 人工智能人工智能 学习概念的符号表示学习概念的符号表示 作为搜索问题的机器学习作为搜索问题的机器学习 作为提高问题求解能力的学习作为提高问题求解能力的学习 利用先验知识和训练数据来引导学习利用先验知识和训练数据来引导学习 计算复杂性理论计算复杂性理论 复杂性的理论边界复杂性的理论边界 计算量、训练数据量、错分量计算量、训练数据量、错分量相关学科相关学科“

3、雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。4 控制论控制论 为了优化预定目标，学习对各种处理过程进行控制，为了优化预定目标，学习对各种处理过程进行控制，学习预测被控过程的下一状态学习预测被控过程的下一状态 信息论信息论 熵和信息内容的度量熵和信息内容的度量 学习最小描述长度方法学习最小描述长度方法 统计学统计学 根据有限数据样本，给定精度时，估计误差根据有限数据样本，给定精度时，估计误差 置信区间、统计检验置信区间、统计检验相关学科相关学科“雪亮工程是以区（县）、乡（镇）、

4、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。5 定义定义 如果一个计算机针对某类任务如果一个计算机针对某类任务T的用的用P衡量的性能根据衡量的性能根据经验经验E来自我完善，那么我们称这个计算机程序在从经来自我完善，那么我们称这个计算机程序在从经验验E中学习，针对某类任务中学习，针对某类任务T，它的性能用，它的性能用P来衡量。来衡量。 西洋跳棋学习问题的解释西洋跳棋学习问题的解释 任务任务T：参与比赛：参与比赛 性能标准性能标准P：比赛成绩（或赢棋能力，击败对手的百分：比赛成绩（或赢棋能力，击败对手的百分比）

5、比） 经验经验E：和自己下棋：和自己下棋学习问题的标准描述学习问题的标准描述“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。6 手写识别学习问题手写识别学习问题 任务任务T：识别和分类手写文字：识别和分类手写文字 性能标准：分类的正确率性能标准：分类的正确率 经验：已知类别的手写体文字数据库经验：已知类别的手写体文字数据库 机器人驾驶学习问题机器人驾驶学习问题 任务：通过视觉传感器在四车道高速公路上行使任务：通过视觉传感器在四车道高速公路上行使 性能标准：平均无差错行使里程（差

6、错由人来监督性能标准：平均无差错行使里程（差错由人来监督裁定）裁定） 训练经验训练经验E：注视人类驾驶时录制的一系列图像和驾驶：注视人类驾驶时录制的一系列图像和驾驶指令指令学习问题的标准描述（学习问题的标准描述（2）“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。7 定义太广泛定义太广泛 甚至包括了以非常直接的方式通过经验自我提高的计算机程甚至包括了以非常直接的方式通过经验自我提高的计算机程序序 科技型定义科技型定义 通过经验提高性能的某类程序通过经验提高性能的某类程序 目的目

7、的 定义一类问题定义一类问题 探索解决这类问题的方法探索解决这类问题的方法 理解学习问题的基本结构和过程理解学习问题的基本结构和过程学习问题的标准描述（学习问题的标准描述（3）“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。8设计一个学习系统设计一个学习系统 基本设计方法和学习途径基本设计方法和学习途径（以西洋跳棋为例）（以西洋跳棋为例） 选择训练经验选择训练经验 选择目标函数选择目标函数 选择目标函数的表示选择目标函数的表示 选择函数逼近算法选择函数逼近算法 最终设计最终设计

8、“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。9 第一个关键属性，训练经验能否为系统的决策提供第一个关键属性，训练经验能否为系统的决策提供直接或间接的反馈直接或间接的反馈 第二个重要属性，学习器在多大程度上控制样例序第二个重要属性，学习器在多大程度上控制样例序列列 第三个重要属性，训练样例的分布能多好地表示实第三个重要属性，训练样例的分布能多好地表示实例分布，通过样例来衡量最终系统的性能例分布，通过样例来衡量最终系统的性能选择训练经验选择训练经验“雪亮工程是以区（县）、乡（镇

9、）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。10 西洋跳棋学习问题西洋跳棋学习问题 任务任务T，下西洋跳棋，下西洋跳棋 性能标准性能标准P，击败对手的百分比，击败对手的百分比 训练经验训练经验E，和自己进行训练对弈，和自己进行训练对弈 学习系统需要选择学习系统需要选择 要学习的知识的确切类型要学习的知识的确切类型 对于这个目标知识的表示对于这个目标知识的表示 一种学习机制一种学习机制选择训练经验（续）选择训练经验（续）“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑

10、、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。11 目标函数目标函数ChooseMove ChooseMove: BM，接受合法棋局集合中的棋盘状态，接受合法棋局集合中的棋盘状态作为输入，并从合法走子集合中选择某个走子作为输作为输入，并从合法走子集合中选择某个走子作为输出出 问题转化问题转化 我们把提高任务我们把提高任务T的性能的性能P的问题转化（或简化）为学的问题转化（或简化）为学习像习像ChooseMove这样某个特定的目标函数这样某个特定的目标函数选择目标函数选择目标函数“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支

11、撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。12 ChooseMove的评价的评价 学习问题很直观地转化成这个函数学习问题很直观地转化成这个函数 这个函数的学习很困难，因为提供给系统的是间接训这个函数的学习很困难，因为提供给系统的是间接训练经验练经验 另一个目标函数另一个目标函数V 一个评估函数，一个评估函数，V: BR，它为任何给定棋局赋予一个它为任何给定棋局赋予一个数值评分，数值评分，给好的棋局赋予较高的评分给好的棋局赋予较高的评分 优点，学习简单优点，学习简单 V的应用的应用 根据根据V能够轻松地找到当前棋局的最佳走法能够轻松地找到当前棋局的最佳走法

12、选择目标函数（选择目标函数（2）“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。13 V的设计，对于集合的设计，对于集合B中的任意棋局中的任意棋局b，V(b)定义如下定义如下 如果如果b是一最终的胜局，那么是一最终的胜局，那么V(b)=100 如果如果b是一最终的负局，那么是一最终的负局，那么V(b)=-100 如果如果b是一最终的和局，那么是一最终的和局，那么V(b)=0 如果如果b不是最终棋局，那么不是最终棋局，那么V(b)=V(b)，其中，其中b是从是从b开开始双方都采取

13、最优对弈后可达到的终局始双方都采取最优对弈后可达到的终局选择目标函数（选择目标函数（3）“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。14 上面设计的缺陷上面设计的缺陷 递归定义递归定义 运算效率低运算效率低 不可操作不可操作 简评简评 学习任务简化成发现一个理想目标函数学习任务简化成发现一个理想目标函数V的可操作描述的可操作描述 通常要完美地学习这样一个通常要完美地学习这样一个V的可操作的形式是非常困的可操作的形式是非常困难的难的 一般地，我们仅希望学习算法得到近似的目标函

14、数一般地，我们仅希望学习算法得到近似的目标函数V，因此学习目标函数的过程常称为函数逼近因此学习目标函数的过程常称为函数逼近选择目标函数（选择目标函数（4）“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。15 函数的表示函数的表示 一张大表，对于每个唯一的棋盘状态，表中有唯一的一张大表，对于每个唯一的棋盘状态，表中有唯一的表项来确定它的状态值表项来确定它的状态值 规则集合规则集合 二项式函数二项式函数 人工神经网络人工神经网络选择目标函数的表示选择目标函数的表示“雪亮工程是以区（

15、县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。16 重要的权衡过程重要的权衡过程 希望选取一个非常有表现力的描述，以最大可能地逼希望选取一个非常有表现力的描述，以最大可能地逼近理想的目标函数近理想的目标函数 越有表现力的描述需要越多的训练数据，使程序能从越有表现力的描述需要越多的训练数据，使程序能从它表示的多种假设中选择它表示的多种假设中选择选择目标函数的表示（选择目标函数的表示（2）“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以

16、公共安全视频监控联网应用为重点的“群众性治安防控工程”。17 简单表示法简单表示法对于任何给定的棋盘状态，函数对于任何给定的棋盘状态，函数V可可以通过以下棋盘参数的线性组合来计算以通过以下棋盘参数的线性组合来计算 x1，黑子的数量，黑子的数量 x2，红子的数量，红子的数量 x3，黑王的数量，黑王的数量 x4，红王的数量，红王的数量 x5，被红子威胁的黑子数量，被红子威胁的黑子数量 x6，被黑子威胁的红子数量，被黑子威胁的红子数量选择目标函数的表示（选择目标函数的表示（3）“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监

17、控联网应用为重点的“群众性治安防控工程”。18 目标函数目标函数 V(b)=w0+w1x1+w2x2+w6x6 其中，其中，w0w6是权值，表示不同棋局特征的相对重要是权值，表示不同棋局特征的相对重要性性 至此，问题转化为学习目标函数中的系数（即权值）至此，问题转化为学习目标函数中的系数（即权值）选择目标函数的表示（选择目标函数的表示（4）“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。19 每个训练样例表示成二元对每个训练样例表示成二元对 b是棋盘状态，是棋盘状态，Vtrai

18、n(b)是训练值是训练值 比如，比如，,100 训练过程训练过程 从学习器可得到的间接训练经验中导出上面的训练样从学习器可得到的间接训练经验中导出上面的训练样例例 调整系数调整系数wi，最佳拟合这些训练样例，最佳拟合这些训练样例选择函数逼近算法选择函数逼近算法“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。20选择函数逼近算法（选择函数逼近算法（2） 估计训练值估计训练值 困难处困难处 一个简单的方法，一个简单的方法，Vtrain(b)=V(Successor(b) 调整权值调

19、整权值 最佳拟合的定义，比如误差平方和最小最佳拟合的定义，比如误差平方和最小 寻找算法，比如最小均方方法，寻找算法，比如最小均方方法，LMS Least Mean Squares2,( ) ( )( )traintrainb Vbtraining examplesEVbV b“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。21LMS权值更新法则 对于每个训练样本对于每个训练样本 使用当前的权计算使用当前的权计算V (b) 对每个权值对每个权值wi 进行如下更新进行如下更新( )

20、( )iitrainiwwVbV bx“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。22最终设计最终设计实验生成器实验生成器执行系统执行系统泛化器泛化器鉴定器鉴定器新问题新问题解答路线解答路线假设假设训练样例训练样例“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。23 执行系统执行系统 用学会的目标函数来解决给定的任务用学会的目标函数来解决给定的任务 鉴定器鉴

21、定器 以对弈的路线或历史记录作为输入，输出目标函数的以对弈的路线或历史记录作为输入，输出目标函数的一系列训练样例。一系列训练样例。 泛化器泛化器 以训练样例为输入，产生一个输出假设，作为它对目以训练样例为输入，产生一个输出假设，作为它对目标函数的估计。标函数的估计。 实验生成器实验生成器 以当前的假设作为输入，输出一个新的问题，供执行以当前的假设作为输入，输出一个新的问题，供执行系统去探索。系统去探索。最终设计（最终设计（2）“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。24

22、 图图1-2 第第13章理论上的保证章理论上的保证 这种学习技术是否确保发现一个非常接近的近似。这种学习技术是否确保发现一个非常接近的近似。 更复杂的目标函数更复杂的目标函数 其他学习算法其他学习算法 最近邻算法，存储训练样例，寻找保存的最接近的情最近邻算法，存储训练样例，寻找保存的最接近的情形来匹配新的情况形来匹配新的情况 遗传算法，产生大量候选的西洋跳棋程序，让它们相遗传算法，产生大量候选的西洋跳棋程序，让它们相互比赛，保留最成功的程序并进一步用模拟进化的方互比赛，保留最成功的程序并进一步用模拟进化的方式来培育或变异它们式来培育或变异它们 基于解释的学习，分析每次成败的原因基于解释的学习，

23、分析每次成败的原因西洋跳棋学习的更多讨论西洋跳棋学习的更多讨论“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。25 一个有效的观点一个有效的观点 机器学习问题归结于搜索问题机器学习问题归结于搜索问题 本书给出了对一些基本表示定义的假设空间的搜索本书给出了对一些基本表示定义的假设空间的搜索算法算法 通过搜索策略和搜索空间的内在结构来刻画学习方通过搜索策略和搜索空间的内在结构来刻画学习方法法机器学习的一个观点机器学习的一个观点“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心

24、为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。26 存在什么样的算法能从特定的训练数据学习一般存在什么样的算法能从特定的训练数据学习一般的目标函数呢？如果提供了充足的训练数据，什的目标函数呢？如果提供了充足的训练数据，什么样的条件下，会使特定的算法收敛到期望的函么样的条件下，会使特定的算法收敛到期望的函数？哪个算法对哪些问题和表示的性能最好？数？哪个算法对哪些问题和表示的性能最好？ 多少训练数据是充足的？怎样找到学习到假设的多少训练数据是充足的？怎样找到学习到假设的置信度与训练数据的数量及提供给学习器的假设置信度与训练数据的数量及

25、提供给学习器的假设空间特性之间的一般关系？空间特性之间的一般关系？ 学习器拥有的先验知识是怎样引导从样例进行泛学习器拥有的先验知识是怎样引导从样例进行泛化的过程的？当先验知识仅仅是近似正确时，它化的过程的？当先验知识仅仅是近似正确时，它们会有帮助吗？们会有帮助吗？机器学习的问题机器学习的问题“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。27 关于选择有效的后验训练经验，什么样的策略最好？关于选择有效的后验训练经验，什么样的策略最好？这个策略的选择会如何影响学习问题的复杂性。这

26、个策略的选择会如何影响学习问题的复杂性。 怎样把学习任务简化为一个或多个函数逼近问题？怎样把学习任务简化为一个或多个函数逼近问题？换一种方式，系统该试图学习哪些函数？这个过程换一种方式，系统该试图学习哪些函数？这个过程本身能自动化吗？本身能自动化吗？ 学习器怎样自动地改变表示法来提高表示和学习目学习器怎样自动地改变表示法来提高表示和学习目标函数的能力？标函数的能力？机器学习的问题机器学习的问题“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。28 第第2章，基于符号和逻辑表示的概

27、念学习章，基于符号和逻辑表示的概念学习 第第3章，决策树章，决策树 第第4章，人工神经网络章，人工神经网络 第第5章，统计和估计理论的基础概念章，统计和估计理论的基础概念 第第6章，贝叶斯理论章，贝叶斯理论 第第7章，计算学习章，计算学习 第第8章，基于实例的学习章，基于实例的学习 第第9章，遗传算法章，遗传算法 第第10章，规则学习章，规则学习 第第11章，基于解释的学习章，基于解释的学习 第第12章，近似知识与现有数据的结合章，近似知识与现有数据的结合 第第13章，增强学习章，增强学习全书内容简介全书内容简介“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为

28、支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。29 涉及学科涉及学科 搜索的观点搜索的观点 相关杂志、会议、国际组织相关杂志、会议、国际组织小结和补充读物小结和补充读物“雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。30 针对下面的学习任务，给出它们的学习系统设计方案 手写识别学习问题 机器人驾驶学习问题 。 （自定义）Discussion for introduction “雪亮工程是以区（县）、乡（镇）、村（社区）三级综治中心为指挥平台、以综治信息化为支撑、以网格化管理为基础、以公共安全视频监控联网应用为重点的“群众性治安防控工程”。31设计过程