《神经网络计算精品文稿.ppt》由会员分享,可在线阅读,更多相关《神经网络计算精品文稿.ppt(14页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、神经网络计算神经网络计算第1页,本讲稿共14页概述概述pElmanElman神经网络由神经网络由Jeffrey L.Elman Jeffrey L.Elman 于于19901990年提出年提出p是一种反馈神经网络是一种反馈神经网络 p具有很强的计算能力具有很强的计算能力 Hello,Im Jeffrey L.Elman第2页,本讲稿共14页2.8.1 Elman神经网络结构pElmanElman网络由网络由4 4层组成层组成输入层 信号传输作用隐含层承接层 也称上下文单元或状态层,承接层从隐含层接收反馈信号,用来记忆隐含层神经元前一时刻的的输出值,承接层神经元的输出经延迟与存储,再输入到隐含层
2、。这样就使其对历史数据具有敏感性,增加了网络自身处理动态信息的能力。输出层 仅起线性加权作用。第3页,本讲稿共14页2.8.2 Elman2.8.2 Elman神经网络学习算法神经网络学习算法 pElmanElman神经网络各层输入输出公式神经网络各层输入输出公式如果输入向量 为 维向量,输出向量 为 维,隐含层输出向量 为 维,承接层输出向量 为 维,分别为隐含层到输出层、输入层到隐含层、承接层到隐含层的连接权值。为输出神经元的激活函数,是隐含层输出的线性组合。为隐含层神经元的激活函数,为承接层的海派函数,表示某层的净输入,用A表示输入层,用B表示承接层,表示迭代次序则各层之间的表达式如下图
3、所示。第4页,本讲稿共14页2.8.2 Elman2.8.2 Elman神经网络学习算法神经网络学习算法Output yr12Input uInput un1n1m1输出层用紫色表示输出层用紫色表示隐含层用黄色表示隐含层用黄色表示承接层用白色表示承接层用白色表示第5页,本讲稿共14页2.8.2 Elman2.8.2 Elman神经网络学习算法神经网络学习算法pElmanElman神经网络学习算法采用神经网络学习算法采用BPBP算法算法判断算法是否结束的误差函数为:其中 为期望输出Elman神经网络学习算法流程图第6页,本讲稿共14页ElmanElman神经网络学习算法流程图神经网络学习算法流程
4、图计算输出层输出计算输出层输出计算输出层输出计算输出层输出初始化各层权值初始化各层权值初始化各层权值初始化各层权值输入样本值输入样本值输入样本值输入样本值计算输入层计算输入层计算输入层计算输入层输出输出输出输出计算误差函数计算误差函数计算误差函数计算误差函数更新权值更新权值更新权值更新权值计算承接层输出计算承接层输出计算承接层输出计算承接层输出计算隐含层计算隐含层计算隐含层计算隐含层输出输出输出输出第7页,本讲稿共14页2.8.3 Elman2.8.3 Elman神经网络学习算法的神经网络学习算法的MATLABMATLAB实现实现 pElmanElman神经网络的重要函数和基本功能神经网络的重
5、要函数和基本功能 函 数 名功 能newelm()生成一个Elman神经网络trains()根据已设定的权值和阈值对网络进行顺序训练traingdx()自适应学习速率动量梯度下降反向传播训练函数learngdm()动量梯度下降权值和阈值学习函数第8页,本讲稿共14页2.8.3 Elman2.8.3 Elman神经网络学习算法的神经网络学习算法的MATLABMATLAB实现实现p例例2-7 2-7 下表为某单位办公室七天上午下表为某单位办公室七天上午9 9点到点到1212点的空调负荷数据,数据已经做了点的空调负荷数据,数据已经做了归一化处理,预测方法采用前归一化处理,预测方法采用前6 6天的数据
6、天的数据作为网络的训练样本,每作为网络的训练样本,每3 3天的负荷作为天的负荷作为输入向量,第输入向量,第4 4天的负荷作为目标向量,天的负荷作为目标向量,第七天的数据作为网络的测试数据。第七天的数据作为网络的测试数据。第9页,本讲稿共14页2.8.3 Elman2.8.3 Elman神经网络学习算法的神经网络学习算法的MATLABMATLAB实现实现p空调负荷数据表空调负荷数据表 时间9时负荷10时负荷11时负荷12时负荷第1天0.44130.47070.69530.8133第2天0.43790.46770.69810.8002第3天0.45170.47250.70060.8201第4天0.
7、45570.47900.70190.8211第5天0.46010.48110.71010.8298第6天0.46120.48450.71880.8312第7天0.46150.48910.72010.8330第10页,本讲稿共14页2.8.3 Elman2.8.3 Elman神经网络学习算法的神经网络学习算法的MATLABMATLAB实现实现p例例2-72-7程序程序第11页,本讲稿共14页2.8.3 Elman2.8.3 Elman神经网络学习算法的神经网络学习算法的MATLABMATLAB实现实现p例例2-72-7误差曲线误差曲线第12页,本讲稿共14页小结小结p概述概述pElmanElman神经网络结构神经网络结构pElmanElman神经网络学习算法神经网络学习算法pElmanElman神经网络学习算法神经网络学习算法MATLABMATLAB实现实现pElmanElman神经网络与前向神经网络之间的区神经网络与前向神经网络之间的区别别第13页,本讲稿共14页谢谢谢谢!第14页,本讲稿共14页