《神经元与网络结构_幻灯片.ppt》由会员分享,可在线阅读,更多相关《神经元与网络结构_幻灯片.ppt(20页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、神经元与网络结构_第1页,共20页,编辑于2022年,星期一31 生物神经元及生物神经网络 311 生物神经元人脑大约由1012个神经元组成,神经元互相连接成神经网络神经元是大脑处理信息的基本单元,以细胞体为主体,由许多向周围延伸的不规则树枝状纤维构成的神经细胞,其形状很像一棵枯树的枝干。它主要由细胞体、树突、轴突和突触(Synapse,又称神经键)组成。第2页,共20页,编辑于2022年,星期一图31 生物神经元示意图 第3页,共20页,编辑于2022年,星期一从神经元各组成部分的功能来看,信息的处理与传递主要发生在突触附近。当神经元细胞体通过轴突传到突触前膜的脉冲幅度达到一定强度,即超过其
2、阈值电位后,突触前膜将向突触间隙释放神经传递的化学物质。突触有两种:兴奋性突触和抑制性突触。前者产生正突触后电位,后者产生负突触后电位。第4页,共20页,编辑于2022年,星期一突触传递信息的功能和特点归纳为:信息传递有时延,一般为0.3lms。信息的综合有时间累加和空间累加。突触有兴奋性和抑制性两种类型。具有脉冲电位信号转换功能。神经纤维传导的速度,即脉冲沿神经纤维传递的速度,在1150ms之间 存在不应期。不可逆性,脉冲只从突触前传到突触后,不逆向传递。可塑性,突触传递信息的强度是可变的,即具有学习功能。存在遗忘或疲劳效应。第5页,共20页,编辑于2022年,星期一312 人脑神经网络系统
3、图32脑神经系统的主要组成部分 第6页,共20页,编辑于2022年,星期一313 人脑神经网络信息处理的特点1分布存储与冗余性 2并行处理 3信息处理与存储合一 4可塑性与自组织性 5鲁棒性 第7页,共20页,编辑于2022年,星期一32 人工神经网络 神经网络直观理解 神经网络是一个并行和分布式的信息处理网络结构,它一般由许多个神经元组成,每个神经元只有一个输出,它可以连接到很多其他的神经元,每个神经元输入有多个连接通道,每个连接通道对应于一个连接权系数。第8页,共20页,编辑于2022年,星期一321 人工神经元模型归纳一下生物神经元传递信息的过程:生物神经元是一个多输入、单输出单元。常用
4、的人工神经元模型可用图33模拟。图33 人工神经元模型 第9页,共20页,编辑于2022年,星期一响应函数的基本作用:1、控制输入对输出的激活作用;2、对输入、输出进行函数转换;3、将可能无限域的输入变换成指定的有限范围内的输出。第10页,共20页,编辑于2022年,星期一根据响应函数的不同,人工神经元有以下几种类型:图34 人工神经元的响应函数 第11页,共20页,编辑于2022年,星期一1、阈值单元 2、线性单元 3、非线性单元:Sigmoid函数 第12页,共20页,编辑于2022年,星期一上述模型能反映生物神经元的基本特性,但还有如下不同之点:(1)生物神经元传递的信息是脉冲,而上述模
5、型传递的信息是模拟电压。(2)由于在上述模型中用一个等效的模拟电压来模拟生物神经元的脉冲密度,所以在模型中只有空间累加而没有时间累加(可以认为时间累加已隐含在等效的模拟电压之中)。(3)上述模型未考虑时延、不应期和疲劳等。第13页,共20页,编辑于2022年,星期一322 人工神经网络的构成神经元的模型确定之后,一个神经网络的特性及能力主要取决于网络的拓扑结构及学习方法。人工神经网络连接的几种基本形式:1前向网络 网络中的神经元是分层排列的,每个神经元只与前一层的神经元相连接。2从输出到输入有反馈的前向网络 3层内互连前向网络 4互连网络 第14页,共20页,编辑于2022年,星期一图35 神
6、经网络的典型结构 第15页,共20页,编辑于2022年,星期一323 人工神经网络的学习 学习方法是人工神经网络研究中的核心问题。人工神经网络连接权的确定通常有两种方法:一种是根据具体要求:直接计算出来,如Hopfield网络作优化计算时就属于这种情况;另一种是通过学习得到的,大多数人工神经网络都用这种方法。第16页,共20页,编辑于2022年,星期一1Hebb学习规则 是Donall Hebb根据生理学中条件反射机理,于1949年提出的神经元连接强度变化的规则。如果两个神经元同时兴奋(即同时被激活),则它们之间的突触连接加强。Hebb学习规则是人工神经网络学习的基本规则,几乎所有神经网络的学习规则都可以看作Hebb学习规则的变形。第17页,共20页,编辑于2022年,星期一2误差校正规则用已知样本作为教师对网络进行学习。式(38)和式(39)的学习规则可由二次误差函数的梯度法导出,故误差校正学习规则实际上是一种梯度方法。第18页,共20页,编辑于2022年,星期一3相近学习规则 第19页,共20页,编辑于2022年,星期一324 人工神经网络与生物神经网络的比较 1单元上的差别 2信息上的差别 3规模与智能上的差别 第20页,共20页,编辑于2022年,星期一