《人工神经网络课件2.ppt》由会员分享，可在线阅读，更多相关《人工神经网络课件2.ppt（10页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、人工神经网络人工神经网络及其经济管理应用及其经济管理应用(2)The Application of ANN to Economics&Management 学习算法学习：学习：因经验而发生的持久的行为改变。神经网络学习神经网络学习：学习是一个过程，通过该过程神经网络的自由参数在其嵌入的环境的激励过程中得到调节。学习的类型由参数改变的方式决定。（Mendal&McClaren,1970)学习算法学习算法：解决学习问题的一个恰当定义的规则集合。学习算法不唯一。学习的基本范式有教师学习无教师学习：（1）增强式学习/神经动态规划（2）无监督学习/自组织学习有教师学习环境环境状态向量教师教师状态向量无教
2、师学习：（1）增强式学习/神经动态规划环境评价学习系统环境输入向量操作原始增强信号启迪增强信号特点：存在和环境之间的特点：存在和环境之间的交互作用。即：学习过程交互作用。即：学习过程影响环境。影响环境。目标：目标：Cost to go 函数最函数最小化。小化。Cost to go 函数：系统按函数：系统按照一个时间序列采取动作照一个时间序列采取动作所造成代价的累积期望值。所造成代价的累积期望值。体现一种逐步决策但要达体现一种逐步决策但要达到整体最优的思想。到整体最优的思想。以上可以认为是以上可以认为是Bellman法则的一种应用。法则的一种应用。无教师学习：（2）无监督学习/自组织学习环境学习
3、系统状态向量网络内部组织规则特点：学习过程是网络的自主行为，神经网内部存在大量互联，相互关特点：学习过程是网络的自主行为，神经网内部存在大量互联，相互关系存在一定的规则。系存在一定的规则。除非施加外部干预，学习过程将持续下去。除非施加外部干预，学习过程将持续下去。目标：神经网络试图寻找输入数据的统计特征并与之保持一致。目标：神经网络试图寻找输入数据的统计特征并与之保持一致。举例：竞争网络的举例：竞争网络的“赢者通吃赢者通吃”规则。规则。典型学习算法：误差修正学习P(t)A(t)T(t)E(t)W(t)误差E(t)=T(t)A(t)误差E(t)驱动控制机制，最终使得A(t)T(t)为此可定义能量
4、函数 通过使能量函数逐步趋近于0，使网络达到稳定状态。以上规则的特例：WidrowHoff规则基本学习算法：Hebb学习规则1、如果连接两侧的神经元被同步激活，该连接的强度将被增强。2、如果连接两侧的神经元被异步激活，该连接的强度将被减弱。Hebb规则的特点：规则的特点：1、时间依赖：依赖于突触前后信号出现的确切时间。2、局部机制：基于相邻时空的局部信息。3、交互机制：改变取决于交互而非一方的单独行为。4、关联机制：具有统计意义上的相关。Hebb假设协方差假设基本学习算法：竞争学习规则神经网络输出神经元通过竞争来成为活跃神经元。在任意时刻，只有一个输出神经元是激活的。适合于发现统计上的特征。ak基本学习算法：Boltzman学习递归网络，二值方式运行。构造能量函数：在某一个时刻t，以某一个概率sd,把任意一个神经元从所处状态a翻转到状态a.定义这个翻转导致的能量改变为E，则sd是E的函数。可以证明反复使用则个规则，网络将达到平衡状态。