《RBF神经网络模型与学习算法.pptx》由会员分享,可在线阅读,更多相关《RBF神经网络模型与学习算法.pptx(22页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、概述 1985年,Powell提出了多变量插值的径向基函数(Radical Basis Function,RBF)方法 1988年,Moody和Darken提出了一种神经网络结构,即RBF神经网络RBF网络是一种三层前向网络RBF网络的基本思想 用RBF作为隐单元的“基”构成隐含层空间,将输入矢量直接(即不需要通过权连接)映射到隐空间 当RBF的中心点确定后,映射关系也就确定隐含层空间到输出空间的映射是线性的 第1页/共22页2.5.1 RBF神经网络模型 径向基神经网络的神经元结构激活函数采用径向基函数 以输入和权值向量之间的 距离作为自变量 第2页/共22页2.5.1 RBF神经网络模型径
2、向基神经网络结构 第3页/共22页2.5.1 RBF神经网络模型RBF网络与BP网络比较:RBF网络的输出是隐单元输出的线性加权和,学习速度加快 BP网络使用sigmoid()函数作为激活函数,这样使得神经元有很大的输入可见区域 径向基神经网络使用径向基函数(一般使用高斯函数)作为激活函数,神经元输入空间区域很小,因此需要更多的径向基神经元 第4页/共22页2.5.2 RBF神经网络工作原理RBF的非线性分类能力是什么?第5页/共22页第6页/共22页2.5.2 RBF神经网络工作原理 空间1 空间2不易解决问题 易解决问题变换 空间空间1 1 空间空间2 2线性不可分线性不可分 线性可分线性
3、可分空间变换第7页/共22页2.5.2 RBF神经网络工作原理RBFRBF解决异或问题解决异或问题第8页/共22页2.5.2 RBF神经网络工作原理RBFRBF解决异或问题解决异或问题第9页/共22页2.5.2 RBF神经网络工作原理逼近任意曲线(程序演示)第10页/共22页2.5.2 RBF网络的学习算法 学习算法需要求解的参数径向基函数的中心方差隐含层到输出层的权值 学习方法分类(按RBF中心选取方法的不同分)随机选取中心法自组织选取中心法有监督选取中心法正交最小二乘法等第11页/共22页2.5.2 RBF网络的学习算法自组织选取中心学习方法 第一步,自组织学习阶段无导师学习过程,求解隐含
4、层基函数的中心与方差;第二步,有导师学习阶段求解隐含层到输出层之间的权值。高斯函数作为径向基函数第12页/共22页2.5.2 RBF网络的学习算法网络的输出(网络结构如图2-21所示)设d是样本的期望输出值,那么基函数的方差可表示为:第13页/共22页2.5.2 RBF网络的学习算法自组织选取中心算法步骤1.基于K-均值聚类方法求取基函数中心(1)网络初始化。随机选取 个训练样本作为聚类中心 。(2)将输入的训练样本集合按最近邻规则分组。按照 与中心为 之间的欧氏距离将 分配到输入样本的各个聚类集合 中。(3)重新调整聚类中心。计算各个聚类集合 中训练样本的平均值,即新的聚类中心 ,如果新的聚
5、类中心不再发生变化,则所得到的即为RBF神经网络最终的基函数中心,否则返回(2),进入下一轮的中心求解。第14页/共22页2.5.2 RBF网络的学习算法2.求解方差 RBF神经网络的基函数为高斯函数时,方差可由下式求解:式中 为中所选取中心之间的最大距离。3.计算隐含层和输出层之间的权值隐含层至输出层之间神经元的连接权值可以用最小二乘法直接计算得到,计算公式如下:第15页/共22页2.5.3 RBF网络学习算法的MATLAB实现 函函 数数 名名功功 能能newrb()newrb()新建一个径向基神经网络新建一个径向基神经网络newrbe()newrbe()新建一个严格的径向基神经网络新建一
6、个严格的径向基神经网络newgrnn()newgrnn()新建一个广义回归径向基神经网络新建一个广义回归径向基神经网络newpnn()newpnn()新建一个概率径向基神经网络新建一个概率径向基神经网络pRBFRBF网络的网络的MATLABMATLAB函数及功能函数及功能第16页/共22页2.5.3 RBF网络学习算法的MATLAB实现newrb()功能 建立一个径向基神经网络格式 net=newrb(P,T,GOAL,SPREAD,MN,DF)说明 P为输入向量,T为目标向量,GOAL为圴方误差,默认为0,SPREAD为径向基函数的分布密度,默认为1,MN为神经元的最大数目,DF为两次显示之
7、间所添加的神经元神经元数目。第17页/共22页2.5.3 RBF网络学习算法的MATLAB实现newrbe()功能 建立一个严格的径向基神经网络,严格是指径向基神经网络的神经元的个数与输入值的个数相等。格式 (1)net=newrb(P,T,SPREAD)说明 各参数的含义见Newrb。第18页/共22页2.5.3 RBF网络学习算法的MATLAB实现例2-4 建立一个径向基神经网络,对非线性函数y=sqrt(x)进行逼近,并作出网络的逼近误差曲线。第19页/共22页2.5.3 RBF网络学习算法的MATLAB实现例2-4误差曲线和逼近曲线程序演示第20页/共22页小结背景RBF网络的基本思想RBF神经网络模型RBF神经网络工作原理高斯函数RBF网络的学习算法RBF网络的MATLAB实现RBF网络的应用第21页/共22页感谢您的观看!第22页/共22页