《基于卷积神经网络的手写数字识别优秀PPT.pptx》由会员分享,可在线阅读,更多相关《基于卷积神经网络的手写数字识别优秀PPT.pptx(19页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、基于卷积神经网络的手写数字识别卷积神经网络基于人工神经网络运用卷积核作为特征抽取器自动训练特征抽取器(即卷积核,即阈值参数)卷积核一次训练多次运用,可以在线学习(模型在训练好之后,在运用中接着训练)。局部感受野+权值共享+下采样 使模型参数大幅减小。7卷积w13w12w11w23w22w21w33w32w3110-110-110-1Convolve withThresholdw13w12w11w23w22w21w33w32w31卷积其实是一个图像处理核卷积用于增加图像的某种特征,降低噪音8卷积features9卷积子采样利用图像局部相关性的原理,削减训练维数,同时保留了有用信息降低图像辨别率增
2、加网络对大小变更的适用性子采样为什么不把S2中的每个特征图连接到每个C3的特征图呢?缘由有2点。第一,不完全的连接机制将连接的数量保持在合理的范围内。其次,也是最重要的,其破坏了网络的对称性。由于不同的特征图有不同的输入,所以迫使他们抽取不同的特征。训练过程 训练算法与传统的BP算法差不多。主要包括4步,这4步被分为两个阶段:第一阶段,向前传播阶段:a)从样本集中取一个样本(X,Yp),将X输入网络;b)计算相应的实际输出Op。在此阶段,信息从输入层经过逐级的变换,传送到输出层。这个过程也是网络在完成训练后正常运行时执行的过程。在此过程中,网络执行的是计算(事实上就是输入与每层的权值矩阵相点乘
3、,得到最终的输出结果):Op=Fn(F2(F1(XpW(1)W(2)W(n)其次阶段,向后传播阶段 a)算实际输出Op与相应的志向输出Yp的差;b)按微小化误差的方法反向传播调整权矩阵。15LeNet516LeNet5优点卷积神经网络较一般神经网络在图像处理方面有如下优点:a)输入图像和网络的拓扑结构能很好的吻合;b)特征提取和模式分类同时进行,并同时在训练中产生;c)权重共享可以削减网络的训练参数,使神经网络结构变得更简洁,适应性更强。缺点实践中,具有类标号的数据较少,而不具有类标号的数据特别丰富,为每个数据人工设置类标号是特别费时和枯燥的。然而,为了使得监督卷积神经网络通过训练具有较高的泛化实力,须要大量具有类标号的训练样本,这也是制约临督卷积神经网络在实践巾应用的主要因素。卷积神经网络的非监督深层网络含有较多的权值,当具有类标号的训练样本较少时,仅运用监督训练的方法不能充分训练深层网络。近年来,深层学习的探讨表明,可以先运用没有类标号的训练样本逐层非脆督训练深层网络,而后,再运用少量具有类标号的训练样本监督训练深层网络,进行权值微调,这样在具有类标号的训练样本较少时,也能训练出泛化实力较高的深层网络。卷积神经网络的非监督训练算法主要有三种:预料稀疏分解PSD,不变预料稀疏分解IPSD和卷积预料稀疏分解CPSD。