《多层前馈网络与BP学习算法-神经网络控制(第三版)课件.ppt》由会员分享,可在线阅读,更多相关《多层前馈网络与BP学习算法-神经网络控制(第三版)课件.ppt(13页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
2-5 多层前馈网络与BP学习算法 多层前馈网络的反向传播(BP)学习算法,简称BP算法,是有导师的学习,它是梯度下降法在多层前馈网中的应用。2-5-1 网络结构见图,u、y是网络的输入、输出向量,神经元用节点表示,网络由输入层、隐层和输出层节点组成,隐层可一层,也可多层(图中是单隐层),前层至后层节点通过权连接。由于用BP学习算法,所以常称BP神经网络。BP神经网络12-5-2 BP学习算法 已知网络的输入/输出样本,即导师信号。BP学习算法由正向传播和反向传播组成:正向传播是输入信号从输入层经隐层,传向输出层,若输出层得到了期望的输出,则学习算法结束;否则,转至反向传播。反向传播是将误差(样本输出与网络输出之差)按原连接通路反向计算,由梯度下降法调整各层节点的权值和阈值,使误差减小。正向传播反向传播BP神经网络2 学习算法步骤:正向传播3正向传播目标函数4反向传播常用:三层BP网络,且输出层节点为线性。6演示梯度下降法7 BP算法演示8演示例2-5-1M 构建三层BP网络10演示例2-5-2M BP网络的BP学习算法11演示例2-5-4M BP网络逼近非线性函数13