《人工神经网络入门.ppt》由会员分享，可在线阅读，更多相关《人工神经网络入门.ppt（32页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、关于人工神经网络入门关于人工神经网络入门现在学习的是第1页，共32页一、概述一、概述1.生物神经网络人工神经网络2.生物神经元3.人工神经元模型4.人工神经网络结构5.神经网络特点6.神经网络学习方式现在学习的是第2页，共32页1、生物神经网络、生物神经网络人工神经网络人工神经网络 生物神经系统的某些结构和功能是天生的，如某些本能动作，但大多数功能需要后天学习才能获得。构造“人工神经元”模拟生物细胞，并以某种方式进行连接，从而模拟“人脑”的某些功能。现在学习的是第3页，共32页2、生物神经元、生物神经元 生物神经元是人脑神经系统的基本单元，相互之间通过神经末梢连接，神经元信息是宽度和幅度相同的
2、脉冲串，兴奋的神经元，输出高频率的脉冲串，引起下一个神经元兴奋；否则输出频率就低，抑制下一个神经元。现在学习的是第4页，共32页3、人工神经网络模型、人工神经网络模型 人工神经元是人工神经网络的基本单元。依据生物神经元的结构和功能，可以把它看作一个多输入单输出的非线性阈值器件。现在学习的是第5页，共32页p2p1pRfaw1w2wRP：其它神经元的输出，即该神经元输入向量；w：其它神经元与该神经元的连接强度，即权值向量；：神经元的阈值，判断输入向量加权和与其大小；f：神经元输入输出关系函数，即传输函数，传输函数 不同构成了不同的神经网络模型；a：神经元输出现在学习的是第6页，共32页p2p1p
3、Raw1w2wRfnb人工神经元一般模型现在学习的是第7页，共32页4、人工神经网络结构、人工神经网络结构 单个人工神经元不能完成输入信号的处理，需要按照一定的规则连接成网络，并让网络中每个神经元的权值和阈值按照一定的规则变化，才能实现一定的功能要求。可分为分层型和互连型两种。现在学习的是第8页，共32页 分层型神经网络按照功能分为输入层、中间层和输出层，中间层也称为隐层，隐层可以有多层（一般不超过2层），也可以没有。现在学习的是第9页，共32页5、神经网络特点、神经网络特点n n分布式存储信息n n并行协同处理信息n n信息处理与存储合而为一n n对信息处理具有自组织、自学习特点，便于联想、
4、综合和推广。现在学习的是第10页，共32页6、神经网络学习方式、神经网络学习方式 与生物神经网络一样，人工神经网络必须经过学习，才具有智能特性。人工神经网络的学习过程是在不断调节权值和阈值的过程。模仿人的学习过程，提出三种学习方法：监督学习、无监督学习、强化学习。现在学习的是第11页，共32页1）监督学习）监督学习 给出了与所有输入模给出了与所有输入模式式p p对应的输出模式的对应的输出模式的“正正确答案确答案”，即期望输出，即期望输出t t（目标），每次学习后，（目标），每次学习后，根据实际输出根据实际输出a a与期望输出与期望输出t t的差别（误差的差别（误差e e），决定），决定是否再次
5、学习和学习方是否再次学习和学习方法，最终使法，最终使e e满足要求。满足要求。神经网络神经网络（学习系统）（学习系统）误差分析误差分析 P输入 a实际输出e 误差信号 t 期望输出现在学习的是第12页，共32页监督学习的误差信号定义：监督学习的误差信号定义：均方误差均方误差msemse平均绝对误差平均绝对误差maemae误差平方和误差平方和ssesse现在学习的是第13页，共32页2）无监督学习n n没有信息作为响应的校正，依据网络结构和学习规则调节自身参数和结构，使网络输出反映输入的某些固有特性。3）强化学习n n介于两者之间，外部环境对学习后的输出结果只给出评价信息，而无答案，网络学习系统
6、通过强化正面评价行为来改善自身性能。现在学习的是第14页，共32页二、神经网络模型二、神经网络模型1.感知器2.BP网络3.线性神经网络4.径向基网络5.竞争型神经网络6.自组织神经网络7.反馈型神经网络现在学习的是第15页，共32页1、感知器、感知器特点感知器神经元及感知器神经网络模型感知器学习局限性感知器网络设计现在学习的是第16页，共32页特点特点n n在解决线性可分问题时，感知器保持了运算速度快，性能可靠的优点；n n理解感知器的训练算法，能够为更好理解其它复杂的神经网络模型奠定基础。现在学习的是第17页，共32页感知器神经元及感知器神经网络模型感知器神经元及感知器神经网络模型n n神
7、经元传输函数f：阈值型传输函数n n感知器网络输出：0，1n n感知器学习规则：规则，eta，网络训练目的是使t a现在学习的是第18页，共32页感知器学习感知器学习 感知器神经网络的训练，需要提供训练样本集，每个样本由神经网络的输入向量和输出向量对组成，n n个训练样本构成的训练样本集为：个训练样本构成的训练样本集为：每一步学习，对于各层感知器神经元的权值和阈值的调整算法表示为：现在学习的是第19页，共32页 通过有限步数的学习后，网络实际输出和期望输出的误差将减小到0，此时，完成网络训练。训练结果使网络训练样本模式分布记忆在权值和阈值之中，当给定网络一个输入模式时，网络将计算出相应输出，从
8、而判断这一输入模式属于记忆中的哪一种模式或接近于哪一种模式。现在学习的是第20页，共32页感知器局限性感知器局限性n n输出值n n单层感知器网络只用于解决线性可分问题n n感知器学习算法只适用于单层感知器网络现在学习的是第21页，共32页感知器网络设计感知器网络设计n n确定输入向量的取值范围、维数、网络层的神经元数目、传输函数和学习函数；n n构造训练样本集，确定每个样本的输入向量和目标向量，训练样本，得到满足误差性能指标的神经网络；n n构造测试样本集，仿真网络的性能。现在学习的是第22页，共32页 举例：判断数字的奇偶性。现在学习的是第23页，共32页2、BP网络网络特点BP网络学习B
9、P网络设计现在学习的是第24页，共32页特点特点n n感知器神经网络学习规则和LMS学习算法只能训练单层神经网络，只能解决线性可分问题，多层神经网络可用于非线性分类n nBP神经元传输函数为非线性函数n nBP网络一般为多层网络n n在人工神经网络应用中，绝大部分的神经网络模型采用了BP网络及其变化形式现在学习的是第25页，共32页BP网络学习网络学习n n第一阶段：输入已知学习样本，通过设置的网络结构和前一次迭代的权值和阈值，从网络第一层向后计算各神经元输出n n第二阶段：从最后一层向前计算各权值和阈值对总误差的影响，并据此修改n n以上两个过程反复交替，直到达到收敛：误差反向传播（back
10、 propagation）。现在学习的是第26页，共32页BP网络设计网络设计n n网络层数n n输入层节点数n n输出层节点数n n隐层节点数现在学习的是第27页，共32页网络层数网络层数 理论上已经证明，在不限制隐层节点数的情况下，两层（只有一个隐层）BP网络可以实现任意非线性映射，BP网络隐层一般不超过两层。现在学习的是第28页，共32页输入层节点数输入层节点数 输入层起缓冲存储器作用，它接收外部输入数据，其节点数取决于输入矢量的维数，如以3232大小图像像素作为输入数据时，输入节点为1024现在学习的是第29页，共32页输出层节点数输出层节点数 当神经网络用于模式分类时，可以二进制形式表示不同模式的输出结果，输出节点数可根据待分类模式数来确定。现在学习的是第30页，共32页隐层节点数隐层节点数 隐层节点数往往根据前人设计所得经验和自己的试验来确定。一般来说，隐层节点数与求解问题要求，输入输出单元数有关，可以参照以下公式设计：现在学习的是第31页，共32页感感谢谢大大家家观观看看现在学习的是第32页，共32页