《第4章-不确定性知识的表示与推理技术优秀PPT.pptx》由会员分享,可在线阅读,更多相关《第4章-不确定性知识的表示与推理技术优秀PPT.pptx(112页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、2022/11/41第第4章章 不确定性学问的表示与推理技术不确定性学问的表示与推理技术引言引言2022/11/422022/11/43内容内容4.1 不确定性学问表示与推理概述不确定性学问表示与推理概述4.2 确定性理论确定性理论4.3 主观贝叶斯方法主观贝叶斯方法4.4 证据理论(选学)证据理论(选学)4.5 基于贝叶斯网络的推理基于贝叶斯网络的推理4.6 模糊推理模糊推理4.7 不确定性推理的应用不确定性推理的应用2022/11/444.1不确定性学问表示与推理概述不确定性学问表示与推理概述n一般的(确定性)推理过程:一般的(确定性)推理过程:n运用已有的学问由已知事实推出结论运用已有的
2、学问由已知事实推出结论.n如已知如已知:n事实事实 A,Bn学问学问 A BCn可以推出结论可以推出结论C。n 此时,只要求事实与学问的前件进行匹配。此时,只要求事实与学问的前件进行匹配。n问题:假如问题:假如A可能为真,可能为真,B比较真,学问比较真,学问A BC只在确只在确定程度上为真,结论如何?定程度上为真,结论如何?2022/11/454.1不确定性学问表示与推理概述不确定性学问表示与推理概述n通过几个例子相识不确定性:通过几个例子相识不确定性:n今日有可能下雨今日有可能下雨n假如乌云密布并且电闪雷鸣,则很可能要下暴雨。假如乌云密布并且电闪雷鸣,则很可能要下暴雨。n小王是高个子小王是高
3、个子n“秃子悖论秃子悖论”2022/11/464.1不确定性学问表示与推理概述不确定性学问表示与推理概述4.1.1 4.1.1 不确定性及其类型不确定性及其类型4.1.2 4.1.2 不确定性推理概述不确定性推理概述2022/11/474.1.1 不确定性及其类型不确定性及其类型(1)不确定性:不确定性:学问和信息中含有的不愿定、不行靠、不精确、不精学问和信息中含有的不愿定、不行靠、不精确、不精确、不严格、不严密、不完全甚至不一样的成分。确、不严格、不严密、不完全甚至不一样的成分。按性质分类:按性质分类:随机不确定性随机不确定性模糊不确定性模糊不确定性不完全性不完全性不一样性不一样性2022/
4、11/484.1.1 不确定性及其类型不确定性及其类型(2)1.随机不确定性随机不确定性2.随机不确定性是基于概率的一种衡量,即随机不确定性是基于概率的一种衡量,即已知一个事务发生有多个可能的结果。虽然在该已知一个事务发生有多个可能的结果。虽然在该事务发生之前,无法确定哪个结果会出现,但是,事务发生之前,无法确定哪个结果会出现,但是,可以预先知道每个结果发生的可能性。可以预先知道每个结果发生的可能性。3.例如:例如:4.“这场球赛甲队可能取胜这场球赛甲队可能取胜”5.“假如头疼发烧,则或许是患了感冒。假如头疼发烧,则或许是患了感冒。”6.2.模糊不确定性模糊不确定性7.模糊不确定性就是一个命题
5、中所出现的某模糊不确定性就是一个命题中所出现的某些言词其涵义不够准确,从概念角度讲,就是其些言词其涵义不够准确,从概念角度讲,就是其代表的概念的内涵没有硬性的标准或条件,其外代表的概念的内涵没有硬性的标准或条件,其外延没有硬性的边界。延没有硬性的边界。8.例如:例如:9.“小王是高个子。小王是高个子。”10.“张三和李四是好挚友。张三和李四是好挚友。”11.把涵义不准确的言词所代表的概念称为把涵义不准确的言词所代表的概念称为软概念。软概念。2022/11/494.1.1 不确定性及其类型不确定性及其类型(3)3.不完全性不完全性 对某事物了解得不完全或相识不够完整。对某事物了解得不完全或相识不
6、够完整。如,刑侦过程的某些阶段往往要针对不完全的如,刑侦过程的某些阶段往往要针对不完全的证据进证据进 行推理。行推理。4.不一样性不一样性 随着时间或空间的推移,得到了前后不相容或随着时间或空间的推移,得到了前后不相容或不一样的结论。不一样的结论。如,人们对太空的相识等。如,人们对太空的相识等。2022/11/4104.1.2 不确定性推理(不确定性推理(1)1.不确定性推理方法的分类不确定性推理方法的分类限制方法模型方法非数值方法数值方法模糊推理基于概率纯概率可信度方法证据理论主观Bayes通过识别领域内引通过识别领域内引起不确定性的某些起不确定性的某些特征及相应的限制特征及相应的限制策略来
7、限制或削减策略来限制或削减确定性对系统产生确定性对系统产生的影响。的影响。贝叶斯网络2022/11/4114.1.2 不确定性推理概述(不确定性推理概述(2)2.不确定性推理须要解决的问题不确定性推理须要解决的问题1)不确定性的表示与度量)不确定性的表示与度量证据的不确定性证据的不确定性规则(学问)的不确定性规则(学问)的不确定性结论的不确定性结论的不确定性2)不确定性的匹配算法)不确定性的匹配算法3)不确定性的计算与传播)不确定性的计算与传播组合证据的不确定性计算组合证据的不确定性计算(最大最小方法、概率方法、有界方法最大最小方法、概率方法、有界方法)证据和学问的不确定性的传递证据和学问的不
8、确定性的传递不同证据支持同一结论时其不确定性的合成不同证据支持同一结论时其不确定性的合成因此,不确定性推理的一般模式也可以简洁地表示为:因此,不确定性推理的一般模式也可以简洁地表示为:不确定性推理不确定性推理=符号推演符号推演+不确定性计算不确定性计算2022/11/4124.2确定性理论确定性理论4.2.1 4.2.1 学问的不确定性表示学问的不确定性表示4.2.2 4.2.2 证据的不确定性表示证据的不确定性表示4.2.3 4.2.3 不确定性的传播与计算不确定性的传播与计算4.2.4 4.2.4 确定性理论的特点及进一步发展确定性理论的特点及进一步发展 2022/11/4134.2.14
9、.2.1学问的不确定性表示(学问的不确定性表示(1 1)不确定性度量不确定性度量学问的不确定性表示:学问的不确定性表示:if E then H (CF(H,E)CF(H,E):是该条学问的可信度,称为可信度:是该条学问的可信度,称为可信度因子或规则强度,它指出当前提条件因子或规则强度,它指出当前提条件 E 所对应所对应的证据为真时,它对结论为真的支持程度。的证据为真时,它对结论为真的支持程度。如:如:“假如头疼且流鼻涕,则患了感冒;假如头疼且流鼻涕,则患了感冒;(0.7)。”“假如乌云密布并且电闪雷鸣,则很可能要下暴雨。假如乌云密布并且电闪雷鸣,则很可能要下暴雨。(0.9)”2022/11/4
10、144.2.14.2.1学问的不确定性表示(学问的不确定性表示(2 2)n在在CF模型中,模型中,CF的定义为的定义为n CF(H,E)=MB(H,E)-MD(H,E)n 用用P(H)表示表示H的先验概率;的先验概率;P(H/E)表示在前提表示在前提条件条件E对应的证据出现的状况下,结论对应的证据出现的状况下,结论H的条件概率。的条件概率。n MB(Measure Belief):称为信任增长度,它表):称为信任增长度,它表示因与前提条件示因与前提条件 E 匹配的证据的出现,使结论匹配的证据的出现,使结论H为真的为真的信任增长度。信任增长度。n MB定义为:定义为:n 2022/11/4154
11、.2.14.2.1学问的不确定性表示(学问的不确定性表示(3 3)MDMD(Measure DisbeliefMeasure Disbelief):):称为不信任增长度,它称为不信任增长度,它表示因与前提条件表示因与前提条件E E匹配的证据的出现,使结论匹配的证据的出现,使结论H H为真的不为真的不信任增长度。信任增长度。MDMD定义为:定义为:2022/11/4164.2.14.2.1学问的不确定性表示(学问的不确定性表示(4 4)n由由MB、MD得到得到CF(H,E)CF(H,E)的计算公式的计算公式:2022/11/4174.2.14.2.1学问的不确定性表示(学问的不确定性表示(5 5
12、)nCF公式的意义公式的意义n当当MB(H,E)0时,时,MD(H,E)0,CF(H,E)0,表示由于证据表示由于证据E的出现增加了对的出现增加了对H的信任程度。的信任程度。n当当MD(H,E)0时,时,MB(H,E)0,CF(H,E)0,证据的出现越是支持,证据的出现越是支持 H 为真,就使为真,就使CF(H,E)的值越大;的值越大;n反之,使反之,使CF(H,E)0,证据的出现越是支持,证据的出现越是支持 H 为假,就使为假,就使CF(H,E)的值越小;的值越小;n若证据的出现与否与若证据的出现与否与 H 无关,则使无关,则使 CF(H,E)=0。2022/11/4194.2.14.2.1
13、学问的不确定性表示(学问的不确定性表示(7 7)例例 假如假如感染体是血液,且感染体是血液,且细菌的染色体是革兰氏阴性,且细菌的染色体是革兰氏阴性,且细菌的外形是杆状,且细菌的外形是杆状,且病人有严峻发烧,病人有严峻发烧,则则 该细菌的类别是假单细胞菌属(该细菌的类别是假单细胞菌属(0.4)。这就是专家系统这就是专家系统MYCIN中的一条规则。这里的中的一条规则。这里的0.4就是就是规则结论的规则结论的CF值。值。2022/11/420证据的不确定性表示证据的不确定性表示(1 1)证据的不确定性表示证据的不确定性表示初始证据初始证据CF(E)CF(E)由用户给出由用户给出证据证据E E确定为真
14、,确定为真,CF(E)=1 CF(E)=1证据证据E E确定为假,确定为假,CF(E)=-1 CF(E)=-1对证据一窍不通,对证据一窍不通,CF(E)=0 CF(E)=0证据证据E E以某种程度为真,以某种程度为真,0CF(E)1 0CF(E)1证据证据E E以某种程度为假,以某种程度为假,-1CF(E)0-1CF(E)0从前推出的结论作为推理的证据,其可信度由推从前推出的结论作为推理的证据,其可信度由推出该结论时通过不确定性传递算法而来。出该结论时通过不确定性传递算法而来。2022/11/421不确定性的传播与计算(不确定性的传播与计算(1)n组合证据组合证据 前提证据事实总前提证据事实总
15、CF值计算(最大最小法)值计算(最大最小法)nE=E1 E2 EnCF(E)=minCF(E1),CF(E2),CF(En)nE=E1 E2 EnCF(E)=maxCF(E1),CF(E2),CF(En)nE=E1CF(E)=-CF(E1)2022/11/422不确定性的传播与计算(不确定性的传播与计算(2)n推理结论的推理结论的CF值计算值计算n C-F 模型中的不确定性推理是从不确模型中的不确定性推理是从不确定的初始证据动身,通过运用相关的不确定的初始证据动身,通过运用相关的不确定性学问,最终推出结论并求出结论的可定性学问,最终推出结论并求出结论的可信度值。信度值。n 结论结论 H 的可信
16、度由下式计算:的可信度由下式计算:n CF(H)=CF(H,E)max 0,CF(E)当当CF(E)0,它们是不独立的,且有如下约它们是不独立的,且有如下约束关系:束关系:n当当LS1时,时,LN1;n当当LS1;n当当LS=1时,时,LN=1;实际系统中,实际系统中,LS、LN值是有专家给出的值是有专家给出的。2022/11/437 4.3.2 证据的不确定性表示(证据的不确定性表示(1)证据的不确定性也是用概率表示的。对于初始证据 E,由用户依据视察 S 给出 P(E/S),它相当于动态强度。具体应用中接受变通的方法,在 PROSPECTOR 中引进了可信度的概念,用C(E/S)刻画证据的
17、不确定性。让用户在 5 至 5 之间的 11 个整数中选一个数作为初始证据的可信度C(E/S)。初始可信度 C(E/S)与 概率 P(E/S)的对应关系如下:C(E/S)=-5,表示在视察 S 下证据 E 确定不存在,即 P(E/S)=0;C(E/S)=0,表示 S 与 E 无关,即 P(E/S)=P(E);C(E/S)=+5,表示在视察 S 下证据 E 确定存在,即 P(E/S)=1;2022/11/4384.3.2 证据的不确定性表示(证据的不确定性表示(2)lC(E/S)=其它数值时,与其它数值时,与 P(E/S)的对应关系可通过对上述三点进的对应关系可通过对上述三点进行分段线性行分段线
18、性 插值得到,如下图。插值得到,如下图。P(E/S)1P(E)C(E/S)-5 -4 -3 -2 -1 0 1 2 3 4 5由上图可得到由上图可得到 C(E/S)与与 P(E/S)的关系式,即由的关系式,即由C(E/S)计算计算 P(E/S):P(E/S)=若若 0 C(E/S)5若若 5 C(E/S)0C(E/S)+P(E)(5 C(E/S)55P(E)(C(E/S)+5)2022/11/439不确定性的传播与计算不确定性的传播与计算 在主观 Bayes 方法的学问表示中,P(H)是专家对结论 H 给出的先验概率,它是在没有考虑任何证据的状况下依据阅历给出的。随着新证据的获得,对 H 的信
19、任程度应当有所变更。主观 Bayes 方法推理的任务就是依据证据 E 的概率 P(E)及 LS,LN 的值,把 H的先验概率 P(H)更新为后验概率 P(H/E)或 P(H/E)。即:P(H)P(H/E)或 P(H/E)P(E)LS,LN2022/11/440不确定性的传播与计算不确定性的传播与计算(1)在现实中,证据确定存在或确定不存在的极端在现实中,证据确定存在或确定不存在的极端状况是不多的,状况是不多的,更多的是介于两者之间的不确定状况。更多的是介于两者之间的不确定状况。现在要在现在要在 0 P(E/S)1 的状况下确定的状况下确定 H 的后验概率的后验概率 P(H/S)。在证据不确定的
20、状况下,不能再用上面的在证据不确定的状况下,不能再用上面的公式计算后验概率,而需运用公式计算后验概率,而需运用 R.O.Doda 等人等人1976年证明的如下公式:年证明的如下公式:P(H/S)=P(H/E)P(E/S)+P(H/E)P(E/S)2022/11/441不确定性的传播与计算不确定性的传播与计算(2)下面分四种状况探讨:下面分四种状况探讨:1)P(E/S)=1 当当 P(E/S)=1 时,时,P(E/S)=0,此时公式,此时公式 变为:变为:P(H/S)=P(H/E)=这是证据确定存在的状况。这是证据确定存在的状况。2)P(E/S)=0 当当 P(E/S)=0 时,时,P(E/S)
21、=1,此时公式,此时公式 变为:变为:P(H/S)=P(H/E)=这是证据确定不存在的状况。这是证据确定不存在的状况。LS P(H)(LS 1)P(H)+1 LN P(H)(LN 1)P(H)+12022/11/442不确定性的传播与计算不确定性的传播与计算(3)3)P(E/S)=P(E)当当 P(E/S)=P(E)时,此时公式时,此时公式 变为:变为:P(H/S)=P(H/E)P(E)+P(H/E)P(E)=P(H)表示表示 H 与与 S 无关。无关。4)当当 P(E/S)=其它值时其它值时,通过分段线性插值可得到计,通过分段线性插值可得到计算算P(H/S)的公式。的公式。全概率公式全概率公
22、式2022/11/443不确定性的传播与计算不确定性的传播与计算(4)0 P(E)1 P(E/S)P(H/E)P(H)P(H/E)P(H/S)P(H/E)+P(E/S)若若 0 P(E/S)P(E)P(H)+P(E/S)P(E)若若 P(E)P(E/S)1P(H)P(H/E)P(E)P(H/E)P(H)1 P(E)P(H/S)=该公式称为该公式称为EH公式公式。2022/11/444不确定性的传播与计算不确定性的传播与计算(5)n由前面可知由前面可知P(E/S)、P(H/S)的计算公式分别为:的计算公式分别为:P(E/S)=若若 0 C(E/S)5若若 5 C(E/S)0C(E/S)+P(E)
23、(5 C(E/S)55P(E)(C(E/S)+5)P(H/E)+P(E/S)若若 0 P(E/S)01515P(H/S)=2022/11/446不确定性的传播与计算不确定性的传播与计算(7)相同结论的后验概率合成:相同结论的后验概率合成:若有若有n条学问都支持相同的结论条学问都支持相同的结论H,而且每条学问的前提,而且每条学问的前提条件所对应的证据条件所对应的证据Ei(i=1,2,n)都有相应的视察)都有相应的视察Si 与之与之对应对应,此时只要先求出每条学问的此时只要先求出每条学问的O(H/Si),然后运用下述,然后运用下述公式求出公式求出 O(H/S1,S2,Sn)。O(H/S1)O(H)
24、O(H/S2)O(H)O(H/Sn)O(H)O(H/S1,S2,Sn)=O(H)最最终终,再再利利用用P(H/S1,S2,Sn)P(H/S1,S2,Sn)与与O(H/S1,S2,Sn)O(H/S1,S2,Sn)的的关关系:系:P(H/S1,S2,Sn)=O(H/S1,S2,Sn)/(1+P(H/S1,S2,Sn)=O(H/S1,S2,Sn)/(1+O(H/S1,S2,Sn)O(H/S1,S2,Sn)计算计算P(H/S1,S2,Sn)P(H/S1,S2,Sn)。2022/11/447不确定性的传播与计算不确定性的传播与计算(8)例例4.2 设有如下规则:设有如下规则:r1:IF E1 THEN
25、(65,0.01)H1 r2:IF E2 THEN (300,0.001)H1 r3:IF H1 THEN (200,0.002)H2已知:已知:P(E1)=0.1,P(E2)=0.03,P(H1)=0.1,P(H2)=0.05,用户供应证据:,用户供应证据:C(E1/S1)=2,C(E2/S2)=1,计算,计算P(H2/S1,S2)。2022/11/448不确定性的传播与计算不确定性的传播与计算(9)分析:自下而上计算:分析:自下而上计算:依据依据LSLS值,将值,将H H的先验概率转换为后验概率,计算的先验概率转换为后验概率,计算P(H1/E1)P(H1/E1)、P(H1/E2)P(H1/
26、E2)运用运用CPCP公式计算公式计算P(H1/S1)P(H1/S1)、P(H1/S2)P(H1/S2),计算计算O(H1/S1)O(H1/S1)、O(H1/S2)O(H1/S2)对对H1H1合成。计算合成。计算 O(H1/S1,S2)O(H1/S1,S2)、P(H1/S1,S2)P(H1/S1,S2)。依据依据LSLS值,将值,将H H的先验概率转换为后验概率,计算的先验概率转换为后验概率,计算P(H2/H1)P(H2/H1)运用运用EHEH公式计算公式计算P(H2/S1P(H2/S1,S2)S2)(1)(1)计算计算 P(HP(H1 1/E/E1 1)、P(HP(H1 1/S/S1 1)和
27、和 O(HO(H1 1/S/S1 1)2022/11/449不确定性的传播与计算不确定性的传播与计算(10)对于初始证据,运用对于初始证据,运用CPCP公式:公式:P(H/E)+P(H)P(H/E)C(E/S)+1,若若C(E/S)0P(H)+P(H/E)P(H)C(E/S),若若C(E/S)01515P(H/S)=C(E1/S1)=2 0 C(E1/S1)=2 0 运用运用CPCP公式的后半部。公式的后半部。2022/11/450不确定性的传播与计算不确定性的传播与计算(11)300300 0.10.1(300-1)300-1)0.01+10.01+1P(HP(H1 1/E/E2 2)=)=
28、LSLS2 2 P(HP(H1 1)(LS(LS2 2-1)-1)P(HP(H1 1)+1)+1=0.9709(2)(2)计算计算P(HP(H1 1/E/E2 2)、P(HP(H1 1/S/S2 2)、(O(H(H1 1/S/S2 2)对于初始证据,运用对于初始证据,运用CPCP公式,公式,C(E2/S2)=1 0 C(E2/S2)=1 0 运用运用CPCP公式的后半部。公式的后半部。P(HP(H1 1)+P(H)+P(H1 1/E/E2 2)P(HP(H1 1)C(E C(E2 2/S/S2 2)1 15 5P(HP(H1 1/S/S2 2)=)=0.1+0.9709-0.09=0.1+0.
29、9709-0.09 1 1 1/51/5=0.=0.27422742O(H(H1 1/S/S2 2)=)=P(H1/S2)1-P(H1/S2)0.2 0.27427421-0.21-0.2742742=0.3778=2022/11/451不确定性的传播与计算不确定性的传播与计算(12)(3)(3)计算计算 P(P(H H1 1/S/S1 1,S,S2 2)、O(H(H1 1/S/S1 1,S,S2 2)2022/11/452不确定性的传播与计算不确定性的传播与计算(13)(4)(4)计算计算 P(HP(H2 2/S/S1 1,S,S2 2)(O(H(H2 2/S/S1 1,S,S2 2)运用运
30、用EHEH公式公式 P(H1/S1,S2)P(H1)P(H1/S1,S2)P(H1)运用运用EHEH公式的后半部。公式的后半部。200 200 0.050.05(200-1)(200-1)0.05+10.05+1P(HP(H2 2/H/H1 1)=)=LSLS3 3 P(HP(H2 2)(LS(LS3 31)1)P(HP(H2 2)+1)+1=0.9132P(HP(H1 1/S/S1 1,S,S2 2)P(H P(H1 1)1 1 P(H P(H1 1)P(HP(H2 2/S/S1 1,S,S2 2)=)=P(HP(H2 2)+)+P(HP(H2 2/H/H1 1)P(H P(H2 2)=0.
31、0=0.05+(0.9132-0.05)/(1-0.1)5+(0.9132-0.05)/(1-0.1)(0.7038-0.01)(0.7038-0.01)=0.6291=0.6291H2的先验概率为的先验概率为0.05,而最终算出的后验概率为,而最终算出的后验概率为0.6291 P(H/E)+P(E/S)若若 0 P(E/S)P(E)P(H)+P(E/S)P(E)若若 P(E)P(E/S)1P(H)P(H/E)P(E)P(H/E)P(H)1 P(E)P(H/S)=2022/11/4534.3.4 主观贝叶斯方法的特点主观贝叶斯方法的特点主要优点:主要优点:其计算公式大多是在概率论的基础上推导出
32、来的,具有其计算公式大多是在概率论的基础上推导出来的,具有 较坚实理论基础;较坚实理论基础;学问的静态强度学问的静态强度LSLS、LN LN 由领域专家依据实际阅历得由领域专家依据实际阅历得 到,避开了大量的数据统计工作;到,避开了大量的数据统计工作;给出了在证据不确定状况下更新先验概率为后验概率的给出了在证据不确定状况下更新先验概率为后验概率的 方法,且从推理过程中看,的确是实现了不确定性的传递方法,且从推理过程中看,的确是实现了不确定性的传递.主要缺点:主要缺点:它要求领域专家在给出学问时,同时给出它要求领域专家在给出学问时,同时给出 H H 的先验概的先验概 率,这是比较困难的。率,这是
33、比较困难的。Bayes Bayes定理中要求事务间相互独立,限制了该方法的应用。定理中要求事务间相互独立,限制了该方法的应用。2022/11/4544.44.4证据理论证据理论选学选学n2020世纪世纪6060年头年头DempsterDempster把证据的信任函数与概率的上下把证据的信任函数与概率的上下值相联系,从而供应了一个构造不确定性推理模型的一值相联系,从而供应了一个构造不确定性推理模型的一般框架。般框架。n2020世纪世纪7070年头中期,年头中期,ShaferShafer对对DempsterDempster的理论进行了扩的理论进行了扩充,在此基础上形成了处理不确定信息的证据理论,出
34、充,在此基础上形成了处理不确定信息的证据理论,出版了证据的数学理论。版了证据的数学理论。n证据理论又称证据理论又称Dempster-ShaferDempster-Shafer理论(理论(D-SD-S理论)或信任理论)或信任函数理论。是经典概率论的一种扩充形式。函数理论。是经典概率论的一种扩充形式。n证据理论能充分区分证据理论能充分区分“不确定不确定”和和“不知道不知道”的差异,的差异,并能处理由并能处理由“不知道不知道”引起的引起的“不确定不确定”性,具有较大性,具有较大的敏捷性。的敏捷性。2022/11/4554.5 基于贝叶斯网络的推理基于贝叶斯网络的推理4.5.1 什么是贝叶斯网络什么是
35、贝叶斯网络4.5.2 贝叶斯网络推理贝叶斯网络推理2022/11/4564.5.1 什么是贝叶斯网络(什么是贝叶斯网络(1)n贝叶斯网络是一种以随机变量为节点,以条件概率为节贝叶斯网络是一种以随机变量为节点,以条件概率为节点间关系强度的有向无环图(点间关系强度的有向无环图(Directed Acyclic Graph,DAG)。)。n设设V1,V2,Vk是贝叶斯网络中的节点,满足贝叶斯是贝叶斯网络中的节点,满足贝叶斯网络的条件独立性假设,则网络中全部节点的联合概率网络的条件独立性假设,则网络中全部节点的联合概率为:为:n贝叶斯网络中的节点一般代表事务、对象、属性或状态;贝叶斯网络中的节点一般代
36、表事务、对象、属性或状态;有向边一般表示节点间的因果关系。有向边一般表示节点间的因果关系。n贝叶斯网络也称因果网络、信念网络、概率网络、学问贝叶斯网络也称因果网络、信念网络、概率网络、学问图等,是描述事物之间因果关系或依靠关系的一种直观图等,是描述事物之间因果关系或依靠关系的一种直观图形。图形。2022/11/4574.5.1 什么是贝叶斯网络(什么是贝叶斯网络(2)n机器人举积木问题。首先考虑第一个缘由,即机器人举积木问题。首先考虑第一个缘由,即“电池被充电电池被充电”(B)和)和“积木是可举起来的积木是可举起来的”(L)相对应的变量。)相对应的变量。B和和L对对“手臂移动手臂移动”(M)有
37、一个因果影响,)有一个因果影响,B对对G(“仪表指示电池被充仪表指示电池被充电了电了”)也有因果关系,)也有因果关系,B BL LM MG G节点表示随机变量节点表示随机变量边表示相关节边表示相关节点或变量之间点或变量之间某种依赖关系某种依赖关系每个节点有一个每个节点有一个条条件概率表(件概率表(CPTCPT)因节点因节点果节点果节点P(G/B)=0.95P(G/B)=0.01P(M/B,L)=0.9P(M/B,L)=0.05P(M/B,L)=0P(M/B,L)=0P(B)=0.95P(L)=0.72022/11/4584.5.2 贝叶斯网络推理(贝叶斯网络推理(1)n依据贝叶斯网络的结构特征
38、和语义特征,基于依据贝叶斯网络的结构特征和语义特征,基于网络中的一些已知节点(证据变量),利用这网络中的一些已知节点(证据变量),利用这种概率网络就可以推算出网络中另外一些节点种概率网络就可以推算出网络中另外一些节点(查询变量)的概率,即实现概率推理。(查询变量)的概率,即实现概率推理。n推理可分为推理可分为n因果推理因果推理n诊断推理诊断推理n辩解辩解n混合推理混合推理2022/11/4594.5.2 贝叶斯网络推理(贝叶斯网络推理(2)1 因果推理因果推理 由缘由到结果的推理,即已知网络中的祖先节由缘由到结果的推理,即已知网络中的祖先节点而计算后代节点的条件概率。是一种自上而点而计算后代节
39、点的条件概率。是一种自上而下的推理。下的推理。在积木是可以举起的(在积木是可以举起的(L)的条件下,计算手臂能)的条件下,计算手臂能移动(移动(M)的概率)的概率P(M/L)。由于积木可举起)。由于积木可举起是手臂能移动的缘由之一,因此,这是一个典是手臂能移动的缘由之一,因此,这是一个典型的因果推理。型的因果推理。L称作推理的证据,而称作推理的证据,而M称作询称作询问节点。问节点。B BL LM MG GP(M/B,L)=0.9P(M/B,L)=0.05P(M/B,L)=0P(M/B,L)=02022/11/4604.5.2 贝叶斯网络推理(贝叶斯网络推理(3)首先,由于首先,由于M还有另外一
40、个因节点还有另外一个因节点电池被充电电池被充电(B),因此可以对概率),因此可以对概率P(M/L)进行扩展,得:)进行扩展,得:(4-14)对式(对式(4-14)中第一项)中第一项P(M,B/L)做如下变形)做如下变形:2022/11/4614.5.2 贝叶斯网络推理(贝叶斯网络推理(4)同理,可对式(同理,可对式(4-14)中的其次项)中的其次项P(M,B/L)变)变形得到:形得到:由式(由式(4-14)可得结果:)可得结果:(4-15)将这些概率代入到式(将这些概率代入到式(4-15)右端:)右端:2022/11/4624.5.2 贝叶斯网络推理(贝叶斯网络推理(5)因果推理的思路和方法因
41、果推理的思路和方法(1)对于所求的询问节点的条件概率,用所给证)对于所求的询问节点的条件概率,用所给证据节点和询问节点的全部因果节点的联合概率据节点和询问节点的全部因果节点的联合概率进行重新表达。进行重新表达。(2)对所得表达式进行适当变形,直到其中的全)对所得表达式进行适当变形,直到其中的全部概率值都可以从问题贝叶斯网络的条件概率部概率值都可以从问题贝叶斯网络的条件概率表中得到。表中得到。(3)将相关概率值代入到概率表达式中进行计算)将相关概率值代入到概率表达式中进行计算即得所求询问节点的条件概率。即得所求询问节点的条件概率。2022/11/4634.5.2 贝叶斯网络推理(贝叶斯网络推理(
42、6)2 诊断推理诊断推理由结果到缘由的推理,即已知网络中的后代由结果到缘由的推理,即已知网络中的后代节点而计算祖先节点的条件概率。这种节点而计算祖先节点的条件概率。这种推理是一种自下而上的推理。推理是一种自下而上的推理。诊断推理的一般思路和方法是:诊断推理的一般思路和方法是:先利用贝叶斯公式将诊断问题转化为因果推先利用贝叶斯公式将诊断问题转化为因果推理问题;理问题;然后进行因果推理;然后进行因果推理;再利用因果推理的结果,导出诊断推理的结再利用因果推理的结果,导出诊断推理的结果。果。2022/11/4644.5.2 贝叶斯网络推理(贝叶斯网络推理(7)n 假设机器人手臂未移动(假设机器人手臂未
43、移动(M),求积),求积木不行举起(木不行举起(L)的概率,即,也即是)的概率,即,也即是用一个结果(或症状)来推理一个起因,用一个结果(或症状)来推理一个起因,把这类推理叫做诊断推理。把这类推理叫做诊断推理。n 由贝叶斯公式,得由贝叶斯公式,得B BL LM MG G2022/11/4654.5.2 贝叶斯网络推理(贝叶斯网络推理(8)用因果推理:用因果推理:将结果代入式(将结果代入式(4-16)中,计算:)中,计算:同样的,用因果推理可计算出:同样的,用因果推理可计算出:2022/11/4664.5.2 贝叶斯网络推理(贝叶斯网络推理(9)计算:计算:因为:因为:所以:所以:解得解得P(M
44、)=0.38725,代入到式(,代入到式(4-16)中得:)中得:2022/11/4674.5.2 贝叶斯网络推理(贝叶斯网络推理(10)3 辩解辩解 假如机器人举积木的例子中已知的证据仅仅是假如机器人举积木的例子中已知的证据仅仅是M(手臂(手臂不能移动),则能够计算不能移动),则能够计算L(积木不能举起)的概率。(积木不能举起)的概率。假如现在仅仅给定假如现在仅仅给定B(电池没有被充电),那么(电池没有被充电),那么L就变就变得不确定。这种状况下,可以说得不确定。这种状况下,可以说B说明说明M,使,使L不确不确定。这种推理将运用嵌入在一个诊断推理中的因果推理。定。这种推理将运用嵌入在一个诊断
45、推理中的因果推理。由贝叶斯公式可得:由贝叶斯公式可得:由条件概率定义:由条件概率定义:2022/11/4684.5.2 贝叶斯网络推理(贝叶斯网络推理(11)所以:所以:(4-17)由联合概率可计算:由联合概率可计算:其中其中2022/11/4694.5.2 贝叶斯网络推理(贝叶斯网络推理(12)可得可得P(M,B)=0.05 代入式(代入式(4-17)中得:)中得:机器人举积木例子中的推理方法可以推广到更一般机器人举积木例子中的推理方法可以推广到更一般的推理过程中去。但是在实际应用系统中的网络,不仅的推理过程中去。但是在实际应用系统中的网络,不仅相关因素繁多,而且很多概率是无法得到的,因此,
46、在相关因素繁多,而且很多概率是无法得到的,因此,在推理的过程中将会引入大量的近似计算。推理的过程中将会引入大量的近似计算。贝叶斯网络的建立涉及拓扑结构和条件概率,可以贝叶斯网络的建立涉及拓扑结构和条件概率,可以通过机器学习的方法来解决,称为贝叶斯网络学习。通过机器学习的方法来解决,称为贝叶斯网络学习。2022/11/4704.6 模糊推理模糊推理4.6.1 模糊集合及模糊逻辑模糊集合及模糊逻辑4.6.2 简洁模糊推理简洁模糊推理71天气冷热雨的大小风的强弱人的胖瘦年龄大小个子凹凸72模糊数学模糊数学模糊概念模糊概念模糊概念:从属于该概念到不属于该概念之间模糊概念:从属于该概念到不属于该概念之间
47、无明显分界线无明显分界线年轻、重、热、美、厚、薄、快、慢、大、小、年轻、重、热、美、厚、薄、快、慢、大、小、高、低、长、短、贵、贱、强、弱、软、硬、高、低、长、短、贵、贱、强、弱、软、硬、阴天、多云、暴雨、早晨。阴天、多云、暴雨、早晨。模糊数学就是用数学方法探讨模糊现象。模糊数学就是用数学方法探讨模糊现象。73模糊数学的产生与基本思想模糊数学的产生与基本思想产生产生1965年,年,L.A.Zadeh(扎德)(扎德)发表了文章发表了文章模糊集模糊集 (Fuzzy Sets,Information and Control,8,338-353)基本思想基本思想用属于程度代替属于或不属于。用属于程度代
48、替属于或不属于。某个人属于聪慧的程度为某个人属于聪慧的程度为0.8,另一个人属于另一个人属于聪慧的程度为聪慧的程度为0.3等等.74模糊数学的发展1975年之前,发展缓慢;1980以后发展快速;1990-1992 Fuzzy Boom 杂志种类杂志种类1978年,Int.J.of Fuzzy Sets and Systems每年1卷共340页,1999年8卷每卷480页Int.J.of Approximate ReasoningInt.J.Fuzzy MathematicsInt.J.Uncertainty,Fuzziness,knowledge-based Systems75IEEE 系列杂
49、志主要杂志25种,涉及模糊内容20,000余种 国际会议国际会议IFSA(Int.Fuzzy Systems Association)EUFIT、NAFIP、Fuzzy-IEEE、IPMU模糊代数,模糊拓扑,模糊逻辑,模糊分析,模糊概率,模糊图论,模糊优化等模糊数学分支 涉及学科涉及学科分类、识别、评判、预料、限制、排序、选择;76 模糊产品模糊产品洗衣机、摄象机、照相机、电饭锅、空调、电梯洗衣机、摄象机、照相机、电饭锅、空调、电梯人工智能、限制、决策、专家系统、医学、土木、人工智能、限制、决策、专家系统、医学、土木、农业、气象、信息、经济、文学、音乐农业、气象、信息、经济、文学、音乐77国内
50、状况1976年传入我国年传入我国1980年成立中国模糊数学与模糊系统学年成立中国模糊数学与模糊系统学会会1981年创办模糊数学杂志年创办模糊数学杂志1987年创办模糊系统与数学杂志年创办模糊系统与数学杂志我国已成为全球四大模糊数学探讨中心我国已成为全球四大模糊数学探讨中心之一(美国、西欧、日本、中国)之一(美国、西欧、日本、中国)78为什么探讨模糊数学人工智能的要求 取得精确数据不行能或很困难没有必要获得精确数据模糊数学的产生不仅形成了一门崭新的数学学科,而模糊数学的产生不仅形成了一门崭新的数学学科,而且也形成了一种崭新的思维方法,它告知我们存在亦且也形成了一种崭新的思维方法,它告知我们存在亦