《AI不确定性推理.pptx》由会员分享，可在线阅读，更多相关《AI不确定性推理.pptx（89页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第五章 不确定性推理n概述n可信度方法(确定性方法)n主观Bayes方法n证据理论第1页/共89页第五章 不确定性推理n概述n确定性方法(可信度方法)n主观Bayes方法n证据理论第2页/共89页概述-不确定推理的概念n推理推理：从已知事实事实出发，运用相关知识知识(或规则或规则)逐步推出结论结论或者证明某个假设成立或不成立的思维过程。已知事实是推理过程的出发点即推理中使用的知识，我们把它称为证据证据。n不确定推理：不确定推理：从具有不确定性的证据不确定性的证据出发，运用不不确定性的知识确定性的知识(或规则或规则)，最终推出具有一定程度的具有一定程度的不确定性不确定性，但却是合理的或近乎合理的
2、结论的结论的思维过程。第3页/共89页概述-不确定性的主要表现n1、证据的不确定性n观察度量的不确定性n证据表示的不确定性n多个不确定证据合成时表现出来的不确定性n2、规则的不确定性n3、结论的不确定性E1HE2H第4页/共89页概述不确定推理中的基本问题n不确定性的表示不确定性的表示n单个证据的不确定性表示单个证据的不确定性表示 证据的来源证据的来源：(1)初始证据:通过观察而得到的，由于观察本身的不精确性，因此所得的初始证据具有不确定性；(2)间接证据:在推理过程中利用前面推理出的结论作为当前新的推理证据。证据不确定性的表示通常为一个数值数值，用以表示相应证据的不确定性程度。(1)对于由观
3、察得到的证据，其值一般由用户或专家给出;(2)对于用前面推理所得结论作为当前推理的证据，其值则是由推理中的不确定性传递算法计算得到。n组合证据的不确定性表示组合证据的不确定性表示 证据不止一个，而是几个，这几个证据间可能是and或or的关系，假设假设C(E1)C(E1)表示证据E1的不确定性程度，C(E2)C(E2)表示证据E2的不确定性程度，如何由C(E1)和C(E2)来计算C(E1E2)和C(E1E2)第5页/共89页概述不确定推理中的基本问题规则的不确定性表示规则的不确定性表示 规则不确定性要由领域专家给出，以一个数值表示，该数值表示了相应知识的不确定性程度。推理计算推理计算结论的不确定
4、性表示结论的不确定性表示不确定性传递问题：不确定性传递问题：已知证据E的不确定性度量为C(E)，而规则E H的不确定性度量为CF(H,E)，那么如何计算结论H的不确定性程度C(H)，即如何将证据E的不确定和规则E H的不确定性传递到结论H上。n结论不确定性的合成问题：结论不确定性的合成问题：如果有两个证据分别由两条规则支持结论，如何根据这两个证据和两条规则的不确定性确定结论的不确定性。即已知 E1 H C(E1),CF(H,E1)E2 H C(E2),CF(H,E2)如何计算C(H)第6页/共89页概述-分类（1）不确定性推理方法控制方法模型方法数值方法非数值方法基于概率的方法模糊推理方法可信
5、度方法主观Bayes方法证据理论方法第7页/共89页第五章 不确定性推理n概述n可信度方法(确定性方法)n主观Bayes方法n证据理论第8页/共89页可信度方法（确定性方法）nMYCIN系统研制过程中产生的不确定推理方法,第一个采用了不确定推理逻辑，70年代很有名。它是不确定推理方法中应用最早、且简单有效的方法之一。第9页/共89页可信度方法n可信度可信度：人们在实际生活中根据自己的经验或观察对某一事件或现象为真的相信程度相信程度,也称为确定度因子。n可信度具有较大的主观性和经验性。但是，对某一具体领域而言，由于该领域专家具有丰富的专业知识及实践经验，要给出该领域知识的可信度还是完全有可能的。
6、第10页/共89页n可信度(确定性)方法n证据（前提）的不确定性表示n规则的不确定性表示n推理计算-结论的不确定性表示确定性(可信度)方法第11页/共89页证据的不确定性度量n单个证据的不确定性获取方法：两种n初始证据：由提供证据的用户直接指定，用可信度因子对证据的不确定性进行表示。如证据E的可信度表示为CF(E)。如对它的所有观测都能肯定为真，则使CF(E)=1；如能肯定为假，则使CF(E)=-1；若它以某种程度为真，则使其取小于1的正值，即0 CF(E)1;若它以某种程度为假，则使其取大于-1的负值，即-1 CF(E)0，并且这种支持的力度越大，就使CF(H,E)的值越大，相反，如果证据E
7、的出现，使结论H为假的可信度增加，则使CF(H,E)0，并且这种支持的力度越大，就使CF(H,E)的值越小；若证据的出现与否和H无关，则使CF(H,E)=0。nP(H|E)=1P(H|E)=1nP(H|E)=0P(H|E)=0nP(H|E)=P(H)P(H|E)=P(H)第15页/共89页n规则n规则的不确定性表示n证据（前提）的不确定性表示n推理计算结论的不确定性表示 确定性方法第16页/共89页规则(推理计算 1）n从不确定的初始证据出发，通过运用相关的不确定知识，最终推出结论并求出结论的可信度值。n最简单的情形：只有单条规则-不确定性传递问题n例如 由E，E H，求 H。已知证据E的可信
8、度CF(E)和规则CF(H,E)的可信度，则结论H的可信度计算公式为：CF(H)=max0,CF(E)CF(H,E)(CF(E)0 时CF(H)=0,说明在该模型中没有考虑证据为假时对结论H的影响。)第17页/共89页规则(推理计算 2）n多条知识支持同一结论时-结论不确定性的合成问题n设有如下知识：if E1 then H；if E2 then H；n1)利用上式分别计算每一条知识的结论可信度CF(H)n CF1(H)=max0,CF(E1)CF(H,E1)CF2(H)=max0,CF(E2)CF(H,E2)n2)用下式合成CF1(H)、CF(H)，求可信度 CF12(H)第18页/共89页
9、例题n已知：R1：A1B1CF（B1，A1）0.8 R2：A2B1 CF（B1，A2）0.5 R3：B1A3B2CF（B2，B1A3）0.8CF（A1）CF（A2）CF（A3）1；而对B1和B2一无所知；n计算 CF（B2）n本题可图示为第19页/共89页n解：依规则R1，CF1（B1）CF（B1，A1）max0,CF（A1）0.8，n依规则R2：CF2（B1）CF（B1，A2）max0,CF（A2）0.5，n利用合成算法计算B的综合可信度：CF1(B1)CF1(B1)CF(B)CF1(B1)CF(B)0.9 n依R3，先计算CF（B1A3）min（CF（A3），CF（B1）0.9 CF（B2
10、）=CF(B2，B1A3)max0,CF（B1A3）=0.90.8=0.72n答：CF（B1）0.9，CF（B2）0.72第20页/共89页n例 设有一组知识:第21页/共89页n解：第22页/共89页第23页/共89页规则(推理计算 3）n已知结论原始可信度的情况下，结论可信度的更新计算方法。n即已知规则E H 的可信度为CF(E,H)，证据E的可信度为CF(E)，同时已知结论H原来的可信度为CF(H)CF(H)，如何求在证据E下结论 H可信度的更新值CF(H/E)：第24页/共89页规则(推理计算 4）nCF(E)=0，规则E H不可使用，即此计算不必进行。n0 CF(E)0，使用公式 由
11、规则r1得到X的可信度更新值为：CF(X/A)=CF0(X)+CF(A)CF(X,A)-CF0(X)CF(A)CF(X,A)=0.1+0.5X0.8-0.1X0.5X0.8=0.46 由规则r2得到X的可信度更新值为：CF(X/A,B)=CF(X/A)+CF(B)CF(X,B)-CF(X/A)CF(B)CF(X,B)=0.622 由规则r3得到X的可信度更新值为：CF(X/A,B,C)=CF(X/A,B)+CF(C)CF(X,C)-CF(X/A,B)CF(C)CF(X,C)=0.698CF(X/A,B,C)即是X的可信度更新值。ABCX(0.1)DXDY(0.2)0.80.6 0.40.3第2
12、8页/共89页第29页/共89页主观贝叶斯方法(概述）n贝叶斯公式：设事件H1,Hn是彼此独立、互不相容的事件，则有：n在贝叶斯公式中，P(Hi),i=1,2,n称为先验概率先验概率，而P(Hi|E)i=1,2,n称为后验概率后验概率.第30页/共89页n例:n一个病人发热(E)，问他患感冒(Hi)的概率是多少？即求感冒时发感冒时发热的概率热的概率患者感患者感冒的概冒的概率率发热发热的概的概率率第31页/共89页主观贝叶斯方法(概述）n直接根据贝叶斯公式进行推理计算简单明了，但是它要求结论Hi相互独立，实际上难以保证。而且P(E|Hi)的计算通常比较困难。所以在求解不确定性推理问题时，还不能直
13、接使用贝叶斯公式，而是使用对其经过改进的主观贝叶斯公式。n1976年提出的，在地矿勘探系统中得到成功的应用。是对概率中基本贝叶斯公式的改进。第32页/共89页n主观贝叶斯方法n证据（前提）的不确定性表示n规则的不确定性表示n推理计算-结论的不确定性表示主观贝叶斯方法第33页/共89页主观贝叶斯方法(概述）n证据的不确定性表示 单个证据单个证据：在主观贝叶斯方法中，证据的不确定性用概率表示。例如，对于初始证据E，其先验概率为P(E)。组合证据组合证据n当 证 据 是 多 个 单 一 证 据 的 合 取 时，即 E=E1 and E2andandEn 若各证据的可信度分别为P(E1),P(En),
14、则P(E)=min P(E1),P(En)n当证据是多个单一证据的析取时，即E=E1orE2 ororEn 若各证据的可信度分别为P(E1),P(En),则P(E)=max P(E1),P(En)n当证据是某一证据的非时，即E=A；则P(E)=1-P(A)第34页/共89页n主观贝叶斯方法n证据（前提）的不确定性表示n规则的不确定性表示n推理计算-结论的不确定性表示主观贝叶斯方法第35页/共89页主观贝叶斯方法(概述）n规则的不确定性表示 在主观贝叶斯方法，规则的不确定性是以一个数值对(LS,LN)来进行描述的。nIF E THEN (LS,LN)H (P(H)n取值范围n取值范围n它们的具体
15、取值由领域专家根据实际经验给出。规则的充分性度量规则的充分性度量:表示表示E E为真时，对为真时，对H H的影响。的影响。规则的必要性度量规则的必要性度量:表示表示E E为假时，对为假时，对H H的影响。的影响。H为真时E出现的概率除以H为假时E出现的概率H为真时E不出现的概率除以H为假时E不出现的概率第36页/共89页n主观贝叶斯方法n证据（前提）的不确定性表示n规则的不确定性表示n推理计算-结论的不确定性表示主观贝叶斯方法第37页/共89页主观贝叶斯方法n推理计算推理计算不确定性的传递：不确定性的传递：1）已知规则EH的(LS,LN)和P(H)、P(E)，如何计算P(H/E)或P(H/E)
16、这里存在三种情况：证据证据E E肯定存在、肯定不存在肯定存在、肯定不存在或以某种程度存在。第38页/共89页n(1)证据E肯定存在，即P(E)=1时：由基本贝叶斯公式，可得：两式相除得：第39页/共89页主观贝叶斯方法(概述）n几率函数O(X)数学证明，O(x)与P(x)有相同的单调性E肯定出现的情况下，肯定出现的情况下，H的先验几率更新为的先验几率更新为后验几率的公式后验几率的公式E肯定出现的情况下，肯定出现的情况下，H的先验概率更新为的先验概率更新为后验概率的公式后验概率的公式第40页/共89页n讨论LS对后验概率的影响(1)LS1 O(H/E)O(H)，即 P(H/E)P(H)(2)LS
17、=1 O(H/E)=O(H)(3)0LS1 O(H/E)1，且越大越好。E的存在，使的存在，使H为真的概为真的概率增加，且率增加，且LS越大，越大，P(H/E)越大，表明越大，表明E对对H为真的支持越强。为真的支持越强。E与与H无关。无关。E的出现使的出现使H为为真的可能性下降。真的可能性下降。E的出现使的出现使H为为假。假。第41页/共89页n(2)证据E肯定不存在，即P(E)=0时：P(E)=1，由贝叶斯公式，可得：两式相除得：第42页/共89页主观贝叶斯方法(概述）E肯定不出现的情况肯定不出现的情况下，下，H的先验几率更的先验几率更新为后验几率的公式新为后验几率的公式E肯定不出现的情况肯
18、定不出现的情况下，下，H的先验概率更的先验概率更新为后验概率的公式新为后验概率的公式第43页/共89页n讨论LN对后验概率的影响(1)LN1 O(H/E)O(H)，即 P(H/E)P(H)(2)LN=1 O(H/E)=O(H)(3)0LN1 O(H/E)1或|A|=0，则M(A)=0n例第66页/共89页证据理论(Evident Theory)概述证据的不确定性表示规则的不确定性推理计算第67页/共89页证据理论(证据的不确定性)n对于不确定性证据E，其不确定性用信任函数f(E)表示 1)当E是初始的简单证据时，其信任度f(E)由用户给出；2)当E是前面推理所得结论，又要作为当前推理的证据时，
19、其信任度f(E)由推理计算得到；3）当证据E由多个证据组合而成时，其信任度f(E)由下列方法求取。如果E=E1 and E2 andand En，则f(E)=min f(E1),f(E2),f(En)；如果E=E1 or E2 oror En，则f(E)=max f(E1),f(E2),f(En)第68页/共89页证据理论概述证据的不确定性规则的不确定性推理计算第69页/共89页证据理论(规则的不确定性)n不确定性知识用如下形式的规则表示 IF E THEN H=h1,hn CF=c1,cn CF是该条知识的可信度因子，用集合形式表示，其中ci用来表示指出由E得到hi的可信度，ci与hi对应。
20、第70页/共89页证据理论概述证据的不确定性规则的不确定性推理计算第71页/共89页证据理论(推理计算)n推理计算模型：n已知IF E THEN H=h1,hn CF=c1,cn，E的信任度为f(E)，|H|U|.求结论H的信任度f(H)第一步第一步：求出H的特定概率分配函数,对于上述知识，H的概率分配函数 m(h1)=f(E)c1 m(h2)=f(E)c2 m(hn)=f(E)cn m(U)=1-f(E)c1-f(E)c2-f(E)cn第二步：求出H的信任函数Bel(H)和似然函数PI(H)第三步：求结论H的信任度f(H)第72页/共89页例题nM(D)=1-0.18-0.3=0.52第73
21、页/共89页Pl(B)=M(b1)+M(b2)+M(D)=1第74页/共89页作业 n设有以下规则：第75页/共89页证据理论(推理计算)n如果两条知识支持同一结论H，即 IF E1 THEN H=h1,hn CF=c1,cn，IF E2 THEN H=h1,hn CF=c1,cn，第76页/共89页nm1,m2在U上的合成-概率分配函数的合成运算概率分配函数的合成运算 n定义：m =m1 m2 n规定：m()=0，m(A)=其中 K11且 K1 0。若K1 0，认为m1，m2矛盾，没有联合基本概率分配函数。第77页/共89页n推理计算模型：n如果两条知识支持同一结论H，即 IF E1 THE
22、N H=h1,hn CF=c1,cn，IF E2 THEN H=h1,hn CF=c1,cn，第一步第一步：分别对每一条知识求出概率分配函数,m1(h1,hn)和m2(h1,hn)然后再用公式m=m1 m2 求m1和m2的正交和，即可得到结论H的概率分配函数m.第二步第二步：求出H的信任函数Bel(H)和似然函数PI(H)第三步第三步：求结论H的信任度f(H)第78页/共89页例题n已知：f1(A1)=0.40,f1(A2)=0.50,|U|=20.A1B=b1,b2,b3，(c1,c2,c3)=(0.1,0.2,0.3)A2B=b1,b2,b3，(c1,c2,c3)=(0.5,0.2,0.1
23、)n求：f1(B)n解：（）先求：m1(b1,b2,b3)n=(0.4*0.1,0.4*0.2,0.4*0.3)=(0.04,0.08,0.12);m1(U)=1-m1(b1)+m1(b2)+m1(b3)=0.76;m2(b1,b2,b3)=(0.5*0.5,0.5*0.2,0.5*0.1)=(0.25,0.10,0.05);m2(U)=1-m2(b1)+m2(b2)+m2(b3)=0.70;第79页/共89页例题n求m=m1 m2 1/K =m1(b1)*m2(b1)+m1(b1)*m2(U)+m1(b2)*m2(b2)+m1(b2)*m2(U)+m1(b3)*m2(b3)+m1(b3)*m
24、2(U)+m1(U)*m2(b1)+m1(U)*m2(b2)+m1(U)*m2(b3)+m1(U)*m2(U)=0.01+0.028+0.008+0.056+0.06+0.084+0.19+0.076+0.038+0.532=1/1.082有：m(b1)=K*(m1(b1)*m2(b1)+m1(b1)*m2(U)+m1(U)*m2(b1)=1.082*(0.01+0.028+0.19)=0.247 m(b2)=K*(m1(b2)*m2(b2)+m1(b2)*m2(U)+m1(U)*m2(b2)=1.082*(0.008+0.056+0.076)=0.151m(b3)=K*(m1(b3)*m2(
25、b3)+m1(b3)*m2(U)+m1(U)*m2(b3)=1.082*(0.06+0.084+0.038)=0.138m(U)=1-m(b1)+m(b2)+m(b3)=0.464第80页/共89页例题n最后：Bel（B）m(b1)+m(b2)+m(b3)0.536P1(B)1-Bel(B)由于基本概率分配函数只定义在B集合和全集U之上，所以其它集合的分配函数值为0，即Bel(B)=0n所以，可得 P1(B)1-Bel(B)=1 f(B)=Bel(B)+(P1(B)-Bel(B)*|B|/|U|=0.536+(1-0.536)*3/20=0.606第81页/共89页第五章 不确定性推理The
26、End第82页/共89页主观贝叶斯方法n推理计算推理计算 ：4）较复杂的情形 E的不确定性由观察S得到，P(E/S)表示E为真的程度，已知规则EH的(LS,LN)和P(H)，如何计算P(H/S)P(H|S)=P(H|E)P(E|S)+P(H|P(H|S)=P(H|E)P(E|S)+P(H|E)P(E)P(E|S)E|S)nP(E|S)=1时，证据E必然出现 nP(E|S)=0时，LN代替上式 的LS，公式（2）nP(E|S)=P(E)时，(S对E无影响)，由上式 P(H|S)=第83页/共89页主观贝叶斯方法（推理计算2）nP(H|S)与P(E|S)坐标系上的三点：n插值计算公式 第84页/共
27、89页线性插值图 第85页/共89页例题（3）n已知：P(A)=1,P(B1)=0.03,P(B2)=0.01R1:AB1 LS=20 LN=1R2:B1B2 LS=300 LN=0.0001n计算：P(B2|A)。分析：当使用规则R2时，证据B1并不是确定的发生了，即P(B1)1，因此要采用插值方法。第86页/共89页习题n1、设有如下规则：R1:If E1 Then(10,1)H1 R2:If E2 Then(1,0.002)H2 已知P(H1)=0.03，P(H2)=0.3，计算当E1,E2存在或不存在时，P(H1|E1)、P(H1|E1)、P(H2|E2)及P(H2|E2)的值各是多少。n2、设有两条规则 R1:If A1 Then(75,1)B R2:If A2 Then(4,1)B 已知P(B)=0.3，计算A1,A2必然发生后B的概率变化。第87页/共89页习题n3、设有下列知识：If A1A2 Then B=b1,b2 CF=0.3,0.5，且已知f(A1)=0.8，f(A2)=0.6，|D|=20，求f(B)。第88页/共89页感谢您的观看！第89页/共89页