《1.2机器学习与深度学习.pptx》由会员分享，可在线阅读，更多相关《1.2机器学习与深度学习.pptx（18页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、机器学习与深度学习,授课人：,目录,01,机器学习的要义,02,深度学习的崛起,03,神经网络的魅力,PART 01,机器学习的要义,机器学习专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。机器学习最基本的做法，就是使用算法来解析数据、从中学习，然后对真实世界中的事件做出决策和预测。与传统的为解决特定任务、硬编码的软件程序不同，机器学习是用大量的数据来“训练”，通过各种算法从数据中学习如何完成任务。,机器学习的要义,举个例子,我们邮箱里有自动垃圾分类程序，它的工作就是收到一封邮件后，通过查看内容，然后判断它是否为垃圾邮件。那么，它
2、是如何来判断的呢？首先，我们需要一堆邮件，提取判别邮件正常与否的特征数据（如关键词，词频等），并对其中的普通邮件和垃圾邮件进行标注，有了这些数据后，我们可以通过某种算法来构建一个模型，然后用数据进行训练，得到一条回归曲线，收到一封信邮件后，判断它在曲线的位置，如果远离正常邮件，则认为是垃圾邮件。,垃圾分类过程,机器学习的要义,机器学习直接来源于早期的人工智能领域。传统算法包括决策树学习、推导逻辑规划、聚类、分类、回归、强化学习和贝叶斯网络等等。,机器学习最成功的应用领域是计算机视觉，人们需要手工编写分类器、边缘检测滤波器，形状检测程序，分类器。使用这些手工编写的分类器，人们可以开发算法来感知图
3、像。但是它太僵化，太容易受环境条件的干扰。,机器学习的要义,PART 02,深度学习的崛起,AI与真人的又一场较量,2017年4月6日，人工智能与真人对打的扑克赛事 “冷扑大师”VS“中国龙之队”德州扑克牌表演赛在海南生态 软件园开赛。“冷扑大师”相对于“阿尔法围棋”的不同在于，前者不需要提前背会大量棋（牌）谱，也不局限于在公开的完美信息场景中进行运算，而是从零开始，基于扑克游戏规则针对游戏中对手劣势进行自我学习，并通过博弈论来衡量和选取最优策略。经过为期5天的角逐，人工智能“冷扑大师”最终以792327总记分牌的战绩完胜并赢得200万奖金。,深度学习的崛起,“冷扑大师”人工智能系统又一次颠覆
4、了AI在人们心中的印象和地位，那么究竟是什么神奇的力量支撑了人工智能，使其具有如此高的智商和巨大威力？,深度学习的崛起,在此，就不得不提到深度学习，它是人工智能发展的高级阶段产物，是人工智能的幕后英雄，是AI背后的算法支持。,深度学习的横空出世，将机器学习的预测能力提高到一个空前的高度。人工神经网络（Artificial Neural Networks，ANN）是早期机器学习中的一个重要的算法，历经数十年风风雨雨。神经网络的原理是受我们大脑的生理结构互相交叉相连的神经元启发。但与大脑中一个神经元可以连接一定距离内的任意神经元不同，人工神经网络具有离散的层、连接和数据传播的方向。例如，我们可以把
5、一幅图像切分成图像块，输入到神经网络的第一层。在第一层的每一个神经元都把数据传递到第二层。第二层的神经元也是完成类似的工作，把数据传递到第三层，以此类推，直到最后一层，然后生成结果。,每一个神经元都为它的输入分配权重，这个权重的正确与否与其执行的任务直接相关。最终的输出由这些权重加总来决定。我们仍以停止（S-t-o-p）标志牌为例。将一个停止标志牌图像的所有元素都打碎，然后用神经元进行“检查”：八边形的外形、救火车般的红颜色、鲜明突出的字母、交通标志的典型尺寸和静止不动运动特性等等。神经网络的任务就是给出结论，它到底是不是一个停止标志牌。神经网络会根据所有权重，给出一个经过深思熟虑的猜测“概率
6、向量”。,深度学习的崛起,标牌识别例子里，系统可能会给出这样的结果：86%可能是一个停止标志牌；7%的可能是一个限速标志牌；5%的可能是一个风筝挂在树上等等。然后网络结构告知神经网络，它的结论是否正确。即使是这个例子，也算是比较超前了。浅层的神经网络也还是为人工智能圈所淡忘。其实在人工智能出现的早期，神经网络就已经存在了，但神经网络对于“智能”的贡献微乎其微。主要问题是，即使是最基本的神经网络，也需要大量的运算。神经网络算法的运算需求难以得到满足。,不过，还是有一些虔诚的研究团队，以多伦多大学的Geoffrey Hinton为代表，坚持研究，实现了以超算为目标的并行算法的运行与概念证明。但也直
7、到GPU得到广泛应用，这些努力才见到成效。我们回过头来看这个停止标志识别的例子。神经网络是调制、训练出来的，时不时还是很容易出错的。它最需要的，就是训练。需要成百上千甚至几百万张图像来训练，直到神经元的输入的权值都被调制得十分精确，无论是否有雾，晴天还是雨天，每次都能得到正确的结果。只有这个时候，我们才可以说神经网络成功地自学习到一个停止标志的样子；或者在Facebook的应用里，神经网络自学习了你妈妈的脸；又或者是2012年吴恩达（Andrew Ng）教授在Google实现了神经网络学习到猫的样子等等。,深度学习的崛起,吴教授的突破在于，把这些神经网络从基础上显著地增大了。层数非常多，神经元
8、也非常多，然后给系统输入海量的数据，来训练网络。在吴教授这里，数据是一千万YouTube视频中的图像。吴教授为深度学习加入了“深度”（deep）。这里的“深度”就是说神经网络中众多的层。现在，经过深度学习训练的图像识别，在一些场景中甚至可以比人做得更好：从下图所示的识别猫，到辨别血液中癌症的早期成分，到识别核磁共振成像中的肿瘤，这些是深度学习的杰出表现。Google的AlphaGo先是学会了如何下围棋，然后与它自己下棋训练。它训练自己神经网络的方法，就是不断地与自己下棋，反复地下，永不停歇，这种学习能力和精力专注是人类无法比拟的。,利用深度学习从视频中找出猫的图片,深度学习的崛起,由以上的叙述
9、中我们不难总结出人工智能、机器学习和深度学习的关系，三者之间的关系如下图所示。,由此可见，机器学习属于人工智能的一个分支，是一种实现人工智能的方法，也是人工智能的基础，机器学习主要是设计和分析一些让计算机可以自动“学习”的算法。深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，如图象、声音、文本等，是一种基于神经网络的深度结构学习的技术。,深度学习的崛起,PART 03,神经网络的魅力,无论是机器学习，还是深度学习，都离不开神经网络（Neural Network），起源于人们对生物体神经的认知，生物神经网络是由神经元、突触等结构
10、组成，大量的神经元通过无数的突触连接在一起构成一个更大规模的神经网络，能处理人的思维和记忆，神经元的结构如下图所示。,神经元结构,神经网络的魅力,人们通过模仿生物神经网络的工作原理构建了人工神经网络，其中的神经元模型早期称为感知机，后来将所有的感知机连接起来，形成网络。人工神经元的结构如下图所示。,人工神经元结构,上图中，x1,x2, xn是输入向量，w1,w2, wn是对应的权重向量，f是激活函数，加权和为： S=x1w1+x2w2+xnwn 然后经过线性或者非线性函数进行激活： Y=f(S+b) 上式中b为偏置变量，Y是输出向量。,神经网络的魅力,我们把多个神经元组成一层神经元，并增加神经元的层数，那么就构成一个神经网络，如下图所示。,多层神经网络,理论已经证明，通过增加神经网络 的层数和改变激活函数，并利用相应学习算 法不断迭代改变损失误差，就可以用多层神经网络 来拟合任意函数，解决线性和非线性问题，也就是通过增加 网络的深度和宽度来提高神经网络模型的健壮性和预测的准确性。 因此，多层神经网络结构的出现，以及相关算法的完善，为人工智能的普及和应用做出了突破性贡献。,神经网络的魅力,携手同行，走向辉煌！,