《2022年神经网络期末习题 .pdf》由会员分享,可在线阅读,更多相关《2022年神经网络期末习题 .pdf(6页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、1某个神经元从其它4 个神经元接受的输入分别是-1.33,1.15, 0.3和-2.3 。该神经元的 4 个联接权值分别为0.8, 0.4, - 1.2和0.6。计算下列几种情况下该神经元的输出:(1) 转移函数是? (? ) = ? ,阈值是 0.27;(2) 转移函数是符号函数,阈值是0.58;(3) 转移函数是双极性S 型函数,阈值是 0.76。解: (1) ?= ? (-1.330.8 + 1.15 0.4 + 0.3 (-1.2 ) + (-2.3 ) 0.6 - 0.27) =? (-2.614 ) = -2.614;(2) o = sgn(-1.33 0.8 + 1.15 0.4
2、 + 0.3 (-1.2 ) + (-2.3 ) 0.6 - 0.58) =sgn(-2.924 ) = -1 ;(3) ?= ? (-1.330.8 + 1.15 0.4 + 0.3 (-1.2 ) + (-2.3 ) 0.6 - 0.76) =? (-3.104 ) =1-?3.1041+?3.104;2一个前馈层次型神经网络有2 个源节点, 2 个隐藏层,第一个隐藏层有4 个神经元,第二个有 2 个神经元,以及3 个输出神经元。画出这个网络的结构图。解:3某单计算节点感知器有3个输入。给定3 对训练样本如下:?1= (1.1, -1,2)T,?1= -1?2= (1.3, 2.5, -
3、2)T, ?2= 1 ?3= (-1,1.7, 1.5)T,?3= 1设初始权值分别是0.15, - 1, 0,设初始阈值为 0.1,学习率是 0.6,试用感知器学习规则训练这个感知器。解:输入 ?1:?1= ?(0.15 1.1 + (-1 ) (-1 ) + 0 2 - 0.1) = 1;?W = (?1- ?1)?1= 0.6 (-1 - 1) (1.1, -1,2, -1)?= (-1.32,1.2,-2.4,1.2)?;?(1)= ?(0)+ ?= (-1.17,0.2,-2.4,1.3)?;名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - -
4、 - - - - - 名师精心整理 - - - - - - - 第 1 页,共 6 页 - - - - - - - - - 输入?2:?2= ?(-1.171.3 + 0.2 2.5 + (-2.4 ) (-2 ) + 1.3 (-1) ) = 1;?W = (?2- ?2)?2= 0.6 (1 - 1)?2= (0,0,0,0)?;?(2)= ?(1)+ ?= ?(1)= (-1.17,0.2,-2.4,1.3)?;输入 ?3: ?3= ?(?3) = ?( (-1.17 ) (-1 ) + 0.2 1.7 + (-2.4 ) 1.5 + 1.3 (-1)= -1 ;?W = (?3- ?3
5、)?3= 0.6 (1 - (-1) ) (-1,1.7, 1.5,-1)?= (-1.2,2.04,1.8,-1.2)?;?(3)= ?(2)+ ?= (-2.37,2.24,-0.6,0.1)?;继续输入 ?1,直到 ?1= ?1,?2= ?2,?3= ?3。4下图中是一个单隐层的感知器,各联接权值如图中所示,输入?1= 0.5, ?2= 0.7,假设所有神经元的初始阈值都是0.1,转移函数都是双极性S 型函数。(1) 计算网络的输出 ?1和?2;(10 分) (2) 已知网络的期望输出是?1= -0.2,?2= 0.3,学习率是 0.5,利用标准BP 算法计算隐层神经元更新后的权值及阈值
6、。(结果保留 3位有效数字 ) 解: (1) ?1= ? (0.4?1+ 0.1?2- 0.1) = ? (0.17) =1-?-0.171+?-0.17= 0.0848 ;?2= ? (-0.2?1- 0.5?2- 0.1) = ? (-0.55 ) =1-?0.551+?0.55= -0.2683 ;?1= ? (0.6?1- 0.3?2- 0.1) = ? (0.03137 ) =1-?-0.031371+?-0.03137= 0.01568 ;?2= ? (0.2?1+ 0.5?2- 0.1) = ? (-0.21719) =1-?0.217191+?0.21719= -0.1082
7、;(2) 最后一层误差信号:?= (?- ?)?(?) = (?- ?)12(1 + ?)(1 - ?),则有,?1?= (?1- ?1)12(1 + ?1)( 1 - ?1) = (-0.2 - 0.01568 ) 12(1 + 0.01568 ) (1 -0.01568 ) = -0.1078 ;?2?= (?2- ?2)12(1 + ?2)( 1 - ?2) = (0.3 - (-0.1082) 12(1 - 0.1082 ) (1 +0.1082 ) = 0.2017 ;中间层误差信号:?= (?)?(?)名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - -
8、 - - - - - - - - 名师精心整理 - - - - - - - 第 2 页,共 6 页 - - - - - - - - - 则 有 : ?1?= (0.6?1?+ 0.2?2?)12(1 + ?1)( 1 - ?1) = (0.6 (-0.1078 ) + 0.2 0.2017 ) 12(1 + 0.0848) (1 - 0.0848) = -0.01208;?2?= (-0.3?1?+ 0.5?2?)12(1 + ?2)( 1 - ?2) = (-0.3(-0.1078 ) + 0.5 0.2017) 12(1 - 0.2683) (1 + 0.2683 ) = 0.06180
9、;隐层权值更新:?111= 0.4 + ?1?1= 0.4 + 0.5 (-0.01208)0.5 = 0.397;?211= 0.1 + ?1?2= 0.1 + 0.5 (-0.01208)0.7 = 0.0958 ;?011= 0.1 + ?1?0= 0.1 + 0.5 (-0.01208)(-0.1)= 0.160;?121= -0.2 + ?2?1= -0.2+ 0.5 0.0618 0.5 = -0.185 ;?221= -0.5 + ?2?2= -0.5 + 0.5 0.0618 0.7 = -0.478 ;?021= 0.1 + ?2?0= 0.1 + 0.5 0.0618 (-
10、1)= 0.0691 ;5设有 4 输入单输出神经元,其阈值?= 0,学习率 ?= 1,3 个输入样本向量为?1=(1, -2,1.5,0 )?, ?2= (1, -0.5, -2, -1.5 )?,?3= (0,1, -1,1.5 )?,初始权向量为 ?(0) = (1,-1,0,0.5 )?。转移函数为符号函数。按照?1,?2, ?3的顺序以 Hebb 学习规则调整权值。解: Hebb 学习规则是, ? = ? (?) = ? ,输入?1:?1= ?(?(0)?1) = ?(1 1 + (-1 ) (-2 ) + 0 1.5 + 0.5 0) = 1;?(1)= ?(0)+ ?1?1= (
11、1, -1,0,0.5 )?+ 1 1 (1, -2,1.5,0 )?= (2,-3,1.5,0.5 )?;输入?2:?2= ?(?(1)?2) = ?(2 1 + (-3 ) (-0.5 ) + 1.5 (-2)+ 0.5 (-1.5) ) = -1 ;?(2)= ?(1)+ ?2?2= (2,-3,1.5,0.5 )?+ 1 (-1 ) (1, -0.5, -2, -1.5 )?=(1, -2.5,3.5,2)?;输入?3:?3= ?(?(2)?3) = ?(1 0 + (-2.5 ) 1 + 3.5 (-1 ) + 2 1.5) = -1 ;?(3)= ?(2)+ ?3?3= (1, -
12、2.5,3.5,2)?+ 1 (-1 ) (0,1, -1,1.5 )?= (1, -3.5,4.5,0.5)?;(注:调整一轮就够了,因为Hebb 规则是无导师的学习规则,没有期望输出) 6自组织网由输入层与竞争层组成,初始权向量为:?1(0) = 30 , ?2(0) = 1.61.6设训练集中共有4 个输入模式,均为单位向量:?1, ?2,?3,?4 = 136,162,1256,1312 试用胜者为王学习算法调整权值,学习率为0.2,写出按 ?1, ?2, ?3, ?4的顺序训练一遍名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - -
13、 - - 名师精心整理 - - - - - - - 第 3 页,共 6 页 - - - - - - - - - 的调整结果。解:初始权向量归一化:?1(0) = 10,?2(0) = 145;胜者为王权值调整算法:?(? + 1) = ?(? ) + ?(?- ?),? = ?;?(? + 1) = ?(? ),j ?;输入?1:?2(0)获胜, ?1(1) = ?1(0) = 10,?2(1) = ?2(0) + ?(?1- ?2(0) =145 + 0.2(136 - 145) = 143.2 输入?2:?2(1)获胜, ?1(2) = ?1(1) = 10,?2(2) = ?2(1) +
14、 ?(?2- ?2(1)=143.2 + 0.2(162 - 143.2 ) = 146.96 ;输入?3:?1(2)获胜, ?1(3) = ?1(2) + ?(?3- ?1(2)= 10 + 0.2(1256 -1360) = 1- 20.8 ,?2(3) = ?2(2) = 146.96 ;输入?4:?1(3)获胜, ?1(4) = ?1(3) + ?(?4- ?1(3)= 1- 20.8 +0.2(1312 - 1339.2 ) = 1- 26.24 ,?2(4) = ?2(3) = 146.96 ;7按照 1,2,3,4的顺序以 Oja 学习规则调整权值:,。解: Oja 学习规则:
15、? (?+ 1) = ? (? ) + ?(? ) ? (? ) - ? (? )?(?) ;第一步, y(1) = ?(0)?(1) = 0.35 0 + 0.5 (-2 ) + 0.48 0 = -1 ,? (1) = ? (0) + ?(1) ?(1) - ? (1)?(0) = 0.35,0.5,0.48?+ 0.05 (-1 ) 0,-2,0 ?- (-1 ) 0.35,0.5,0.48 ? = 0.3325,0.575,0.456?;第二步, y(2) = ?(1)?(2) = 0.3325 1 + 0.575 1 + 0.456 0 = 0.9075,? (2) = ? (1)
16、+ ?(2) ?(2) - ? (2)?(1) = 0.3325,0.575,0.456?+ 0.05 0.9075 1,1,0?- 0.9075 0.3325,0.575,0.456? = 0.3642,0.5967,0.4372?;第三步, y(3) = ?(2)?(3) = 0.3642 (-1 ) + 0.5967 (-1 ) + 0 = -0.9609 ,? (3) = ? (2) + ?(3) ?(3) - ? (3)?(2) = 0.3642,0.5967,0.4372?+ 0.05 (-0.9609 ) -1, -1,0 ?- (-0.9609 ) 0.3642,0.5967,
17、0.4372 ? =0.3954,0.6172,0.4170?;第四步, y(4) = ?(3)?(4) = 0.3954 0 + 0.6172 2 + 0.4170 0 = 1.2344,? (4) = ? (3) + ?(4) ?(4) - ? (4)?(3) = 0.3954,0.6172,0.4170?+ 0.05 1.2344 ?(1) = 0-20 , ?(2) = 110 , ?(3) = -1-10 , ?(4) = 020?= 0.05,?(0) = 0.350.5 0.48?名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - -
18、 - - - 名师精心整理 - - - - - - - 第 4 页,共 6 页 - - - - - - - - - 0,2,0?- 1.2344 0.3954,0.6172,0.4170 ? = 0.3653,0.6936,0.3852?;8DHNN 网络如下图所示,部分权值已标在图中。试求:(1) 该网络的权值矩阵?;(2) 从初始状态开始按1,2,3,4,5 顺序进行异步更新,给定初始状态为:?1(0) = -1,1,1, -1,1 T, ?2(0) = 1, -1,1, -1,1 T(3) 判断上面两个状态是否为网络的吸引子,并分别计算它们对应的能量值。解: (1) 00.5-12-0.
19、40.500.310.3-10.300.50.2210.501-0.40.30.210;(2) 对状态 ?1(0):更新?1,?(0 (-1 ) + 0.5 1 + (-1 ) 1 + 2 (-1 ) + (-0.4 ) 1) = -1 ,?1(1) =-1,1,1, -1,1 T;更新?2,?(0.5 (-1 ) + 0 1 + 0.3 1 + 1 (-1 ) + 0.3 1) = -1 ,?1(2) =-1, -1,1, -1,1 T;更新?3,?(-1 ) (-1 ) + 0.3 (-1 ) + 0 1 + 0.5 (-1 ) + 0.2 1) = 1,?1(3) =-1, -1,1,
20、-1,1 T;更新?4,?(2(-1 ) + 1 (-1 ) + 0.5 1 + 0 (-1 ) + 1 1) = -1 ,?1(4) =-1, -1,1, -1,1 T;更新?5,?(-0.4 ) (-1 ) + 0.3 (-1 ) + 0.2 1 + 1 (-1 ) + 0 1) = -1 ,?1(5) = -1, -1,1, -1, -1 T;对状态 ?2(0):更新?1,?(0 1 + 0.5 (-1)+ (-1 ) 1 + 2 (-1 ) + (-0.4 ) 1) = -1 ,?2(1) =-1, -1,1, -1,1 T;更新?2,?(0.5 (-1 ) + 0 (-1 ) + 0
21、.3 1 + 1 (-1 ) + 0.3 1) = -1 ,?2(2) =名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 5 页,共 6 页 - - - - - - - - - -1, -1,1, -1,1 T;更新?3,?(-1 ) (-1 ) + 0.3 (-1 ) + 0 1 + 0.5 (-1 ) + 0.2 1) = 1,?2(3) =-1, -1,1, -1,1 T;更新?4,?(2(-1 ) + 1 (-1 ) + 0.5 1 + 0 (-1 ) + 1 1) = -1
22、 ,?2(4) =-1, -1,1, -1,1 T;更新?5,?(-0.4 ) (-1 ) + 0.3 (-1 ) + 0.2 1 + 1 (-1 ) + 0 1) = -1 ,?2(5) = -1, -1,1, -1, -1 T;再更新 ?1,?(0 (-1)+ 0.5 (-1)+ (-1 ) 1 + 2 (-1 ) + (-0.4 ) 1) = -1 ,?2(6) = -1, -1,1, -1,1 T;(3) 判断吸引子:因为?1(5) ?1(0),?2(5) ?2(0),故?1(0),?2(0)均不是网络的吸引子;能量: ?(?1(0) = -12?(0)1?(0)1+ ?(0)1?T
23、= -12?(0)1?(0)1= -1.2 ;?(?2(0) = -12?(0)2?(0)2+ ?(0)2?T = -12?(0)2?(0)2= 4.8;9现有如下 2 类训练数据:第一类:(-1,0 ), (0,1), (-1,2 ); 第二类: (0,-1 ), (0,-2 ),(-1,-2)(1)画出这 6 个点,这 2 类点线性可分吗?(2)写出最优分类直线的方程及对应的支持向量。(3)如果去掉一个支持向量,分离边缘将会怎样变化?解: (1)如下图,这 2 类点线性可分;(2) 最优分类直线方程:?= ? ;四个支持向量: (0,1) ,(-1,0),(0, -1) ,(-1,-2) ;(3) 若去掉 (0,1) ,分离边缘不变;若去掉 (-1,0),分离边缘由 22变为 1;若去掉 (0, -1) ,分离边缘由 22变为 1;若去掉 (-1,-2) ,分离边缘不变。-2.5-2-1.5-1-0.500.511.522.5-1.5-1-0.50名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 6 页,共 6 页 - - - - - - - - -