《基于bp神经网络的铝合金变质研究--大学毕业设计论文.doc》由会员分享，可在线阅读，更多相关《基于bp神经网络的铝合金变质研究--大学毕业设计论文.doc（48页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、摘 要炉前对铝合金变质效果的预测，是提高铸件质量，降低废品率，实现生产监控的重要环节。本文主要介绍人工神经网络（Artificial Neural Network,ANN）在铸造铝合金变质效果预测的应用研究工作，主要研究基于反向传播（Back Propagation）BP神经网络在课题中的应用。论文在进行基于人工神经网络（ANN）的铝合金变质效果研究过程中，主要进行以下工作：介绍和分析国内外对铝合金变质效果的研究现状；简要说明铝合金变质的热分析理论；人工神经网络（ANN）概述；BP网络介绍和算法选择；决定神经网络的输入、输出变量以及网络训练样本、测试样本的选取和数据归一化处理；比较两种BP网络
2、改进算法对网络训练结果的影响，然后选择最优值；检验新的预测模型对于测试数据的应用效果；提出预测模型的实际应用存在的问题和后续的研究工作的见解。关键词：铝合金变质；人工神经网络；BP算法AbstractThe prediction of the aluminum alloy modification effect before furnace is an important link to improve casting quality and reduce scrap rate in production monitoring.This paper presents my work chief
3、ly on the research of the prediction of casting alumin-um alloy modification effect based on Artificial Neural Network, and I largely do my researchon the application of Back-Propagation neural network in this task.This paper mainly introduced the work as the following in the the prediction of casti
4、ng aluminum alloy modification effect based on Artificial Neural Network: to introduce and to a-nalysis domestic and foreign research status of aluminum alloy modification level; to briefly describe the thermal analysis theory of aluminum alloy modification; to briefly introduce AN-N; to introduce p
5、opular Back-Propagation network and to choose the learning algorithm; to decide the input variables of the artificial neural network, to decide the training simples and to normalize the data; to compare the training results of two BP networks with different improv-ed BP algorithm and to choose the b
6、est; to test the new module with the testing samples; to put forward the problems existing in the practical application of the model and the improvem-ent to further study. Keywords: aluminum alloy modification; artificial neural network; BP algorithmIV目 录摘 要IAbstractII1 绪论1 1.1 课题的研究意义1 1.2 课题研究背景和现
7、状1 1.3 课题主要内容12 铝合金变质检测方法综述3 2.1 铝合金变质的传统测量方法3 2.1.1 断口观察法3 2.1.2 电导率法3 2.1.3 金相法4 2.1.4 热分析法4 2.2 铝合金变质检测技术的新进展53 人工神经网络介绍7 3.1 人工神经网络综述7 3.1.1 人工神经网络基本模型7 3.1.2 人工神经网络结构9 3.1.3 人工神经网络的特征10 3.1.4 人工神经网络的发展10 3.2 BP神经网络12 3.2.1 BP神经网络基本思想12 3.2.2 BP网络的学习过程12 3.2.3 BP神经网络的主要应用及特点14 3.2.4 BP网络的局限性及改进措
8、施154 基于BP网络的铝合金变质效果研究19 4.1 MATLAB及BP神经网络工具箱函数19 4.1.1 MATLAB简介19 4.1.2 BP神经网络工具箱函数20 4.2 应用 BP网络对铝合金变质效果预测建模的一般步骤21 4.3 铝合金变质效果预测神经网络模型的分析22 4.4 铝合金变质效果预测的BP网络建模及仿真23结 论29致 谢30参考文献31附录A 英文原文32附录B 汉语翻译38附录C MATLAB仿真程序431 绪论1.1 课题的研究意义在金属材料中，铝及其合金以其密度小、塑性高、导电导热性好、耐蚀性好、资源丰富，容易加工等优点，已广泛应用于各行各业及日常生活的各个方
9、面。在铸造铝合金生产中，常采用加入微量元素（称做变质剂）进行变质处理的方法，来改善并细化组织，消除铸造缺陷，提高合金性能1。炉前对铝合金变质效果的预测，是提高铸件质量，降低废品率，实现生产监控的重要环节2,3。为此，有必要探索得到一种精度高、稳定性好、能实现快速在线检测铝合金变质效果的方法。1.2 课题研究背景和现状目前，对于铝合金变质效果的检测方法有断口观察法、电导率法、金相法以及热分析法等。断口观察法、金相法主观随意性大，而电导率法工艺复杂，速度慢，不适宜在线检测。针对金相法中操作者的主观性及观察区域的有限性等局限性因素，H.Jiang、M.Djurdjevic等人提出了图像分析法，这种图
10、像分析法实现了合金变质效果定量评估，精确度极高，并且M.Djurdjevic将它作为后热分析判据的检验标准。然而，其测量过程复杂、周期长，不能在恶劣环境下工作，所以不能实现熔体变质质量的在线检测。热分析法由于精度高、稳定性好，适于在线检测，因此在铸造中的应用越来越广泛。目前国内外对热分析判据研究有两种动向，一种是综合温度特性参数、时间参数和固相分数判据，包括探求计算热分析零曲线和计算凝固潜热的新方法；另一种是基于热分析技术，引进先进的计算机算法4-6。但不论哪种发展动向都依赖于建立准确的凝固冷却曲线。人工神经网络由于高度容错、自我学习、强适应性等独特优势，与成熟的热分析技术结合，在铝合金变质效
11、果评估上具有广阔的应用前景。1.3 课题主要内容设计主要基于MATLAB软件中神经网络工具箱的铝合金变质效果预测研究。在获得铝合金变质处理凝固冷却曲线的3个特征值（共晶平台温度TE、共晶平台温差TE、共晶平台持续时间te）与变质等级数据的基础上，根据MATLAB软件的特性，建立人工神经网络，实现炉前铝合金变质效果的检测。本文一共分为四章：第一章主要介绍了本课题的相关背景、研究现况等；第二章是对炉前铝合金变质检测的传统方法的综述，重点介绍铝合金变质热分析理论；第三章主要是对人工神经网络的简介以及对本文用到的BP算法的介绍；第四章详细写了基于BP神经网络的铝合金变质效果的研究的过程。2 铝合金变质
12、检测方法综述由于炉前铝合金变质效果的检测对提高铸件质量、降低废品率、实现生产监控的重要性，人们希望得到一种精度高、稳定性好、能实现快速在线检测铝合金变质效果的方法。目前，对于铝合金变质效果的检测方法有断口观察法、电导率法、金相法以及热分析法等。前三种方法均由于检测精度不高、操作较复杂或测量过程时间长等因素，不适合实现炉前铝合金变质快速、精确检测。热分析法通过热分析装置测定铝合金试样的凝固冷却曲线，曲线上的特征值及其他凝固特性可以很好地反映变质前后的变化，进而对合金变质程度作出判别。而且，随着电子计算机技术的发展，热分析法在铝合金铸造生产中得到了较为广泛的应用。人工神经网络由于高度容错、自我学习
13、、强适应性等独特优势，与成熟的热分析技术结合，在铝合金变质效果评估上具有广阔的应用前景4。本文研究的就是通过测得铝合金变质试样的凝固冷却曲线上的特征值，应用人工神经网络（ANN）对铝合金试样变质效果进行预测。2.1 铝合金变质的传统测量方法2.1.1 断口观察法断口观察法是最为传统的一种方法，将液态铝合金浇铸成三角试样或棒状试样，待试样凝固冷却后再剖开，观察断口形貌。若断口呈白色、平整、组织细密、无明显硅亮点，有时还可见分布均匀的细小硅亮点，则说明变质良好4。该方法对铝合金变质程度不能定量分析，且主观随意性大，将被逐渐淘汰。2.1.2 电导率法硅的导电能力远小于铝。铝硅合金在变质前，共晶硅以片
14、状或者针状存在，初生-Al相较少，对电子流有很强的阻碍作用；而在变质后，初生-Al相随变质程度提高数量增多，共晶硅呈短小的纤维状分布，电子能顺利通过，导电能力大大增强。因此，通过测试变质前后电导率的变化可得出其变质效果。但是电导率法的工艺复杂、速度慢，不适宜在线检测。此外，电导率法对气孔、夹杂和铝合金试样尺寸敏感，不适用于含Mg量较高的合金4。2.1.3 金相法美国铸造协会根据亚共晶铝硅合金微观组织图中共晶硅的大小将变质水平划分为 6个等级：56级表示变质充分，24级表示部分变质，1级表示未变质。金相法就是将待评估的铝合金制备成标准金相试样，观察其显微组织再与上述种图像比较，然后归类得出变质水
15、平。这种方法的最大缺点是操作者的主观性及观察区域的有限性，这些因素将影响评估质量。针对以上局限性因素，H.Jiang、M.Djurdjevic等人提出了图像分析法，这种图像分析法实现了合金变质效果定量评估，精确度极高，并且M.Djurdjevic将它作为后热分析判据的检验标准4-6。然而，其测量过程复杂、周期长，不能在恶劣环境下工作，所以不能实现铝合金熔体变质程度的在线检测。2.1.4 热分析法热分析技术在铸造中有着广泛的用途，已发展成系统性的分析方法，是研究材料的一种有力工具。热分析是通过测定物质温度的变化所引起的物性变化来确定物质状态变化的一种测试分析方法。热分析的测试原理是：合金在冷却过
16、程中发生的任何一种变化(凝固及固态相变)，都伴随有热量的释放或吸收，从而使合金试样温度变化的连续性受到破坏，显示出特征值，即在加热或冷却线上形成“拐点”或“平台”。因此，根据冷却(或加热)曲线就可确定合金转变温度和转变特点并测定其成分、组织和性能特征7。下图2.1所示为铝合金变质前后的凝固冷却曲线。图2.1 铝合金变质前后的凝固冷却曲线铝合金变质处理后，热分析曲线上共晶平台会下降，变质理论的解释为：铝硅合金未变质时，共晶硅呈板片状，具有111惯习面，当生长速度较慢时，具有择优生长方向，有少量的孪晶作为内缺陷存在。当共晶硅按孪晶凹槽机制(TPRE)生长时，TK1K（动力学过冷度），而按固有的台阶
17、机制生长时，TK10-2K。实际上，在变质前，共晶硅是靠硅原子在固有台阶上堆积长大。当合金中加入钠盐(Na)或锶(Sr)变质后，钠或锶可以吸附在共晶硅的固有台阶上，当达到一定浓度时，台阶的生长被阻止，系统将进一步过冷，并产生大量孪晶，共晶硅改变为以孪晶凹槽机制生长。在冷却曲线上表现为共晶平台温度的下降2。另一种观点认为：Al-Si合金经过钠盐变质处理后，变质剂中的钠提高了熔体中铝的化学位，导致铝提前形核，然后硅在初生的基体上形核而开始共晶生长，形成纤维状。共晶平台下降。 变质剂的加入量不够时，钠或锶未达到一定浓度时，过冷度的改变不明显，在冷却曲线上表明为平台温度下降较少。所以常用变质前后共晶平
18、台的温度差TE作为铝合金变质效果的判据。经过大量试验检测，认为当TE =57（变质前共晶平台温度减变质后共晶平台温度的差），变质合格。另外一个判断铝合金变质效果所用的是共晶平台持续的时间te，毛有武等人认为变质效果越好，te越长。而刘云等人研究发现变质良好的试样的冷却曲线共晶平台持续时间反而比未变质和变质不足的要短2。综上述可知，单用铝合金试样的凝固冷却曲线上的时间参数对于检测合金的变质效果具有不稳定性。为此，刘云等人用微机辅助微分热分析法，记录分析了Al-10%Sr 变质剂处理ZL104合金的冷却曲线及其微分曲线，确定了变质效果与冷却曲线特征值，即未变质合金与变质合金共晶温度之差TE、一次微
19、分曲线共晶阶段结束峰值S、共晶生长时间te之间的关系2。在本文中，基于人工神经网络（ANN）的铝合金变质效果研究采用铝合金试样的凝固冷却曲线上的固相线段的三个特征值(共晶平台温度TE、共晶平台温差TE、共晶平台持续时间te)对合金变质效果进行综合判断。2.2 铝合金变质检测技术的新进展近年来，随着人工神经网络预测理论和铝合金变质热分析技术的日益成熟，将两者结合起来，在铝合金变质效果评估上具有广阔的应用前景。下面简要说明基于人工神经网络（ANN）的铝合金变质效果预测方法。由于人工神经网络（ANN）具有高度非线性泛化和并行处理能力，不依赖于人工的经验，通过学习获得系统输入和输出之间的子函数连接关系
20、。此外，它具有信息记忆、自主学习、知识推理和优化计算的特点。神经网络不是首先确定一个子函数形式，而是通过训练历史数据，得出铝合金试样的凝固冷却曲线上的特征值与其变质效果之间的关系。用于预测的人工神经网络主要有反向传播(Back Propagation)BP网络、径向基函数(Radical Basis Function)RBF网络、动态反馈（Diagonal Recurrent Neural Network)DRNN网络等。本文主要研究基于反向传播（Back Propagation）BP神经网络在铝合金变质效果预测中的应用。接下来的两章将对其进行详细介绍。3 人工神经网络介绍人工神经网络（Art
21、ificial Neural Networks，ANN），一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的8。人工神经网络具有自学习和自适应的能力，可以通过历史的输入-输出数据，分析掌握两者之间潜在的规律，最终根据这些规律，用新的输入数据推算输出结果。ANN特有的非线性适应性信息处理能力，克服了传统人工智能方法对于直觉，如模式、语音识别、非结构化信息处理方面的缺陷，使之在神经专家系统、模式识别、智能控制、组合优化、预测等领域得到成功应用。3.1 人工神经网络综述3.1.1 人工神经网络
22、基本模型来自其他神经元轴突神经末梢神经生理学和神经解剖学的研究表明，人脑大约由1012个神经元组成，神经元互相连接成神经网络。神经元是大脑处理信息的基本单元，以细胞体为主体，由许多向周围延伸的不规则树枝状纤维构成的神经细胞，其形状很像一棵枯树的枝干。它主要由细胞体、树突、轴突和突触(Synapse)组成。如图3.1所示。神经末梢突触细胞体轴突树突细胞核 图3.1 生物神经元从神经元各组成部分的功能来看，信息的处理与传递主要发生在突触附近。当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到一定强度，即超过其阈值电位后，突触前膜将向突触间隙释放神经传递的化学物质9。归纳一下生物神经元传递信息的过程：
23、生物神经元是一个多输入、单输出单元。对于这样一种多输入、单输出的基本单元可以进一步从生物化学、电生物学、数学等方面给出描述其功能的模型。从信息处理观点考察，为神经元构造了各种形式的数学模型。下面介绍常用的人工神经元模型，如图3.2所示9。. 图3.2 人工神经元模型当神经元有多个输入(=1，2,m)和单个输出时，输入和输出的关系可表示为： (3.1)式中神经元的净输入； 阈值； 从神经元到神经元的连接权值； 神经元的激励函数。这里重点讨论一下激活函数，因为它是神经网络及神经元的核心10。激活函数的基本作用是：（1）控制输入对输出的激活作用；（2）对输入、输出进行函数转换；（3）将可能无限域的输
24、入变换成指定的有限范围内的输出。下面是几种常见的激活函数：1、阈值型这种函数将任意输入转化成0或1的输出，函数为单位阶跃函数。该函数的输入、输出关系如下：8 (3.2)2、线性型线性激活函数使网络的输出等于加权净输入与阈值之和，其数学关系为： (3.3)3、Sigmoid型Sigmoid型激活函数将任意输入值压缩到（-1,1）的范围内，常有正切sigmoid函数和对数sigmoid函数，这两个函数方程表示如下： (3.4) (3.5)本文中使用到的BP网络隐含层的各神经元激活函数均采用Sigmoid型。3.1.2 人工神经网络结构神经元的模型确定之后，一个神经网络的特性及能力主要取决于网络的拓
25、扑结构及学习方法。Y3Y1输入输出X1X2X3Y2. . .Y1Y2输出层隐含层输入层X1X2X3Y3 .经过多年的发展，目前的神经网络模型已经有40多种。这些模型按照网络拓扑结构可以分为两类：前向网络和反馈网络。 图3.3 前向神经网络 图3.4 反馈神经网络在前向神经网络中，神经元分层排列，组成输入层、隐含层和输出层。每一层的神经元只接受前一级的神经元的输入，并输出到下一级，网络中不存在反馈，可以用一个有向无环路图表示，如图3.3所示。这种网络实现信号从输入空间到输出空间的变换，它的信息处理能力来自于简单非线性函数的多次复合。前向网络的结构简单，且易于实现。在反馈神经网络中，输出信号通过与
26、输入连接而返回到输入端，从而形成一个回路，如图3.4所示。这种神经网络的信息处理是状态的变换，可以用动力学系统理论处理。该反馈动力学系统的稳定性与联想记忆功能有密切关系9。在前向神经网络中，有单层感知器、自适应线性网络和BP网络。在反馈网络中，有离散型和连续型hopfield网络。在实际的应用中，BP网络应用最为普遍，本文中将采用的也是这种网络模型。3.1.3 人工神经网络的特征人工神经网络（ANN）模拟生物神经网络的结构和行为，因而有其固有的特征：（1）高度的并行性人工神经网络是由许多相同的简单处理单元并联组合而成，虽然每个单元的功能简单，但大量简单处理单元的并行活动，使其具有强大的信息处理
27、与存储能力。（2）高度的非线性全局作用人工神经网络中的每个神经元接受大量其他神经元的输入，并通过并行网络产生输出，影响其他神经元。网络之间的这种相互制约和相互影响，实现了从输入状态到输出状态空间的非线性映射。从全局的观点看，网络整体性能不是网络局部性能的简单迭加，而表现出某种集体性的行为。（3）良好的容错性与联想记忆功能人工神经网络通过自身的网络结构能够实现对信息的记忆。而所记忆的信息是存储在神经元之间的权值中。从单个权值中看不出所储存的信息内容，因而是分布式的存储方式。这使得网络具有良好的容错性，并能进行聚类分析、特征值提取、缺损、复原等模式信息处理工作；又宜于模式分类、模式联想等识别工作。
28、（4）强大的自适应、自学习功能人工神经网络可以通过训练和学习来获得网络的权值与结构，呈现出很强的学习能力和对环境的自适应能力。3.1.4 人工神经网络的发展神经网络的研究始于20世纪40年代，半个世纪以来，它经历了一条由兴起到衰退，又由衰退到兴盛的曲折发展历程，这一过程大致可以分为以下阶段9,10：1、起步阶段自1943年M-P模型开始，至20世纪60年代为止，这一段时间可以称为神经网络系统理论发展的初期阶段。这个时期的主要特点是多种网络的模型的产生与学习算法的确定。具体说明如下：1943年，心理学家W. S. McCulloch和数学家W. Paitts在研究生物神经元的基础上提出了“MP模
29、型”，虽然该模型过于简单，且只能完成一些简单的逻辑运算，但它的出现开创了神经网络研究的先河，并为以后的研究提供了依据。1949年，心理学家D. O. Hebb发表了论著行为自组织，首先提出了一种调整神经网络连接权值的规则著名的Hebb学习律。直到现在，Hebb学习律仍然是神经网络中一个极为重要的学习规则。1957年，F. Rosenblant提出了著名的感知器（Perceptron）模型，这是第一个真正的人工神经网络。这个模型由简单的阈值神经元构成，初步具备了诸如并行处理、分布存储和学习等神经网络的一些基本特性，从而确立了从系统角度研究神经网络的基础。 1960年，B. Widrow和M. E
30、. Hoff提出恶浪自适应线性单元（Adaline）网络，不仅在计算机上对该网络进行了模拟，而且还做成了硬件。同时，他们还提出了B. Widrow学习算法，改进了网络公值的学习速度和精度，后来这个算法被称为LMS算法，即数学上的最速下降法，这种算法在以后的BP神经网络及其他信号处理系统中得到了广泛的应用。2、低潮阶段到了20世纪60年代，人们发现感知器存在一些缺陷，例如，它不能解决异或问题，因而研究工作趋向低潮。不过仍有不少学者继续对神经网络进行研究。Grossberg 提出了至今为止最复杂的基于自适应共振理论的ART神经网络；Kohenen 提出了自组织映射的SOM模型；Fukushima
31、提出了神经认知网络理论；Anderson提出了BSB模型；Webos 提出了BP理论等。这些都是在20世纪70年代和20世纪80年代初进行的工作。3、快速发展阶段进入20世纪80年代，神经网络研究取得了突破性进展。这个时期最具有标志性的人物是美国加州工学院的物理学家Hopfield。他于1982年和1984年在美国科学院院刊上发表了两篇文章，提出了模拟人脑的神经网络模型，即最著名的Hopfield模型。该模型通过引入能量函数，实现了问题优化求解，成功地解决了旅行商路径优化问题（TSP)。20世纪80年代后期到90年代初，神经网络系统理论形成了发展的热点，多种模型、算法和应用被提出，其中包括BP
32、网络，使得研究者们完成了很多有意义的工作。4、发展高潮阶段20世纪80年代中期以来，神经网络的应用研究取得了很大的成绩，涉及面非常广泛。伴随神经网络芯片和神经计算机的出现，神经网络逐渐在模式识别与图像处理（语音、指纹、故障诊断和图像压缩等）、控制与优化、预测与管理（市场预测、风险分析）、通信等领域得到了成功的应用。3.2 BP神经网络BP神经网络是目前应用最为广泛和成功的神经网络之一，本研究中将用到BP神经网络对铝合金变质效果进行仿真预测，在这里详细介绍该网络。3.2.1 BP神经网络基本思想BP (Back Propagation)神经网络是一种多层前馈神经网络，由输入层、隐含层和输出层组成
33、，其结构如图3.3所示。该网络是一种基于“逆推”学习算法的多层神经网络。其基本思想是，学习过程由信号的正向传播与误差的反向传播两个过程组成。正向传播时，输入样本从输入层传入，经隐含层逐层处理后传向输出层。若输出层的实际输出得不到期望输出（教师信号），则转向误差的反向传播阶段。误差的反向传播是将输出误差以某种形式通过隐含层向输入逐层反传，并将误差分摊给各层的所有单元，从而获得各层单元的误差信号，此误差信号即作为修正各单元权值的依据。这种信号正向传播与误差反向传播的各层权值调整过程是周而复始地进行。权值不断调整的过程，也就是网络的学习训练过程。此过程一直进行到网络输出的误差减少到可以接受的程度，或
34、进行到预先设定的学习次数为止10。3.2.2 BP网络的学习过程重述一下BP网络的学习过程如下：正向传播是输入信号从输入层经隐含层传向输出层，若输出层得到了期望的输出，则学习算法结束；否则，转至反向传播。为了明确起见，现以图3.5所示的典型3层BP网络为例进行BP网络的学习算法推导9。如图3.5所示，输入层神经元的输入为，隐含层神经元的输入为，隐含层神经元的输出为，输出层神经元的输出为，为从输入层神经元到隐含层神经元的连接权值，为从隐含层神经元到输出层神经元的连接权值，隐含层神经元采用对数sigmoid函数，输出层神经元采用线性激活函数。 图3.5 典型3层BP神经网络结构BP网络的学习算法如
35、下：（1）前向传播：计算网络的输出隐含层神经元的输入为所有输入的加权之和，即 (3.6) 隐含层神经元的输出，采用S函数激发，得 (3.7)则 (3.8) 输出层神经元的输出为 (3.9) 网络第个输出与相应理想输出的误差为 (3.10) 第个学习样本的误差性能指标函数为 (3.11) 式中网络输出层的神经元个数。（2）反向传播：采用梯度下降法，调整各层间的权值输出层及隐含层的连接权值学习算法为 (3.12)式中学习速率，。 时刻网络的权值为 (3.13)隐含层及输入层连接权值学习算法为 (3.14)式中。时刻网络的权值为 (3.15)网络的学习过程通过这种正向计算输出、反向传播误差的多次迭代
36、过程，系统误差将随着迭代的次数增加而减少，过程将收敛到一组稳定的权。BP网络的学习算法的具体步骤归纳如下11： 从训练样本集中取出某一样本，把它的输入信息输入到网络中； 由网络正向计算出各层节点的输出； 计算网络的实际输出与期望输出的误差； 从输出层起始反向计算到第一个隐含层，按一定原则向减少误差方向调整网络的各个连接权值。 对训练样本集中的每一个样本重复以上步骤，直到对整个训练样本集的误差达到要求为止。通过网络训练，达到要求后，网络各节点间互连权值就完全确定，则称BP网络已经学习好。此时，便可对未知样本进行识别预测。3.2.3 BP神经网络的主要应用及特点目前，在人工神经网络的实际应用中。绝
37、大部分的神经网络模型都采用BP神经网络及其变化形式。它也是前向网络的核心部分，体现了人工神经网络的精华。BP网络主要用于以下四方面8。（1）函数逼近：用输入向量和相应的输出向量训练一个网络以逼近一个函数。（2）模式识别：用一个待定的输出向量将它与输入向量联系起来。（3）分类：把输入向量所定义的合适方式进行分类。（4）数据压缩：减少输出向量维数以便传输或存储。 BP网络的特点：（1）输入和输出是并行的模拟量；（2）网络的输入输出关系是各层连接的权因子决定，没有固定的算法；（3）权因子是通过学习信号调节的，这样学习越多，网络越聪明；（4）隐含层越多，网络输出精度越高，且个别权因子的损坏不会对网络输
38、出产生大的影响。在本次研究中，主要研究应用BP神经网络对变质铝合金的变质效果进行预测，该过程类似于模式识别，其基本思想是：根据标准的变质铝合金凝固冷却曲线上的特征参数与其相对应的变质效果的输入-输出模式，采用BP神经网络学习算法，以标准的模式作为学习样本进行训练，通过学习调整神经网络的连接权值。当训练满足要求后，得到的神经网络权值构成了模式识别的知识库，最后利用神经网络并行推理算法对实际的变质铝合金的输入模式进行识别。3.2.4 BP网络的局限性及改进措施1、BP网络的限制与不足虽然反向传播法得到广泛的应用，但它也存在自身的限制与不足，其主要表现在于它的训练过程的不确定性上。具体的表现如下10
39、：（1）需要较长的训练时间对于一些复杂的问题，标准的BP神经网络可能要进行几小时甚至更长的时间训练。这主要是由于学习效率太低造成的，可采用变化的学习速率或自适应的学习速率加以改进。（2）完全不能训练这主要表现为网络对输入的麻痹现象上。在网络的训练过程中，当其权值调得过大，可能使得所有的或大部分神经元的加权总和（“净输入”，）偏大，这使得激活函数的输入工作在S型函数的饱和区，从而导致其导数非常小，从而使得对网络权值的调节过程几乎停顿下来。通常为了避免这种现象的发生，一是选取较小的初始权值，二是采用较小的学习速率，但这也会增加网络的训练时间。（3）局部极小值 BP算法可以是网络权值收敛到一个解，但
40、它并不能保证所求为误差超平面的全局最小解，很可能是一个局部极小解。这是因为BP算法采用的是梯度下降法，训练是从某一起点沿误差函数的斜面逐渐达到误差的最小值。对于复杂的网络，其误差函数为多维空间的曲面，就像一个碗，其碗底是最小值点。但是这个碗的表面是凹凸不平的，因而在对其训练过程中，可能陷入某一小谷区，而这一小谷区产生的是一个局部极小值。由此点向各方向变化均使误差增加，以致于使训练无法逃出这一局部极小值。2、BP算法的改进措施 针对BP网络算法的缺陷，目前国内外不少学者提出了许多改进算法，下面就介绍几种典型的改进算法10。（1）增加动量项 标准的BP算法在调整权值时，只按时刻误差的梯度下降方向调
41、整，而没有考虑t时刻以前的梯度方向，从而常使训练过程发生振荡，收敛缓慢。为了提高训练速度，可以在权值调整公式中加一动量项： (3.16)其中，W为某层权值矩阵，O为某层输出向量，称为动量系数（），定义动量项反映了以前积累的调整经验。当误差梯度出现局部极小时，虽然，但，使其跳出局部极小区域，加快迭代收敛速度。目前，大多数BP算法中都增加了动量项，以至于有动量项的BP算法成为一种新的标准算法。（2）可变学习速度的反向传播算法（Variable Learning rate Back Propagation，VLBP）可变学习速度的VLBP算法有许多不同的方法来改变学习速度。这是介绍一种非常直观的批处
42、理过程，它的学习速度是根据算法的性能改变的。可变学习速度反向传播VLBP算法的规则如下：a. 如果平方误差（在整个训练集上）在权值更新后增加了，且超过了某个设置的百分数（典型值为1%5%），则权值更新被取消，学习速度被乘以一个因子（01），并且动量系数（如果有的话）被设置为0。b. 如果平方误差在权值更新后减少，则权值更新被接受，而且学习速度将乘以一个因子。如果被设置为0，则恢复到以前的值。c. 如果平方误差的增长小于，则权值更新被接受，但学习速度保持不变。如果过去被设置为0，则恢复到以前的值。（3）学习速率的自适应调节上面给出的可变学习速度VLBP算法需要设置多个参数，算法的性能对这些参数的改变往往十分敏感，另外，处理起来也比较麻烦。这里给出一个乘法的学习速率的自调节算法。学习速率的调整只与网络总误差有关。学习速率也称步长，在标准BP中是一个常数，但在实际计算中，很难给出一个从始至终都很合适的最佳学习速率。从误差曲面可以看出，在平坦区内太小会使训练次数增加，这时希望值大一些；而在误差变化剧烈的区域，太大会因调整过量而路过较窄的“凹坑”处，使训练出现振荡而使得迭代次数增加。为了加速收敛过程，最好是能自适应调整学习速率，使其该大则大，该小则小。比如可以根据网络总误差来调整：在网络经过批次可预付调整后，若，则本次调整无效，且：