AI-第4章不确定性推理（1）.pptx-淘文阁

资源描述

《AI-第4章不确定性推理（1）.pptx》由会员分享，可在线阅读，更多相关《AI-第4章不确定性推理（1）.pptx（60页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。

1、人工智能导论4.1 概述4.2 基本概率方法4.3 主观贝叶斯方法4.4 可信度方法4.5 模糊推理4.6 证据理论4.7 粗糙集理论第四章第四章不确定性推理不确定性推理4.1 4.1 概述概述1.什么是不确定性推理不确定性推理是建立在非经典逻辑基础上的一种推理，它是对的运用与处理。不确定性推理就是从不确定性的初始证据出发，通过运用不确定性的知识，最终推出具有一定程度的不确定性但却是合理或者近乎合理的结论的思维过程。4知识的不确定性u引起知识不确定性的原因有：52.不确定性推理的基本问题不确定性推理中的“不确定性”一般分为两类：一是知识的不确定性，一是证据的不确定性。的表示：静态强度。的表示

2、：动态强度。不确定性的度量：可有多种度量方法和范围，例如0,1或者-1,1。在确定一种度量方法及其范围时，应注意以下几点：度量要能充分表达相应知识及证据不确定性的程度。度量要能充分表达相应知识及证据不确定性的程度。度量范围的指定应便于领域专家及用户对不确定性的估度量范围的指定应便于领域专家及用户对不确定性的估计。计。度量要便于对不确定性的传递进行计算，而且对结论算度量要便于对不确定性的传递进行计算，而且对结论算出的不确定性度量不能超出度量规定的范围。出的不确定性度量不能超出度量规定的范围。度量的确定应当是直观的，同时应有相应的理论依据。度量的确定应当是直观的，同时应有相应的理论依据。6设计一个

3、不确定性匹配算法；指定一个匹配阈值。在匹配时，一个简单条件对应于一个单一的证据，一个复合条件对应于一组证据，称这一组证据为组合证据。72.不确定性推理的基本问题T(E1 AND E2)=minT(E1),T(E2)T(E1 OR E2)=maxT(E1),T(E2)T(E1 AND E2)=T(E1)T(E2)T(E1 OR E2)=T(E1)T(E2)T(E1)T(E2)T(E1 AND E2)=max0,T(E1)T(E2)1T(E1 OR E2)=min1,T(E1)T(E2)其中，T(E)表示证据E为真的程度，如可信度、概率等。82.不确定性推理的基本问题在每一步推理中，如何把证据及知

4、识的不确定性传递给结论。在多步推理中，如何把初始证据的不确定性传递给最终结论。用不同知识进行推理得到了相同结论，但不确定性的程度却不同。此时，需要用合适的算法对它们进行合成。92.不确定性推理的基本问题3.不确定性推理方法分类u一条路线是：在推理一级上扩展确定性推理。其特点是把不确定的证据和不确定的知识分别与某种度量标准对应起来，并且给出更新结论不确定的算法。这类方法，即无论用何种控制策略，推理的结果都是唯一的。u一条路线是：在控制策略一级处理不确定性。其特点是通过识别领域中引起不确定性的某些特征及相应的控制策略来限制或者减少不确定性对系统产生的影响。这类方法没有处理不确定性的统一模型，其效果

5、极大地。例如：相关性制导回溯、启发式搜索等等。又分为和两类。对于数值方法按其所依据的理论又可分为基于概率的方法和基于模糊理论的模糊推理。104.2 4.2 基本基本概率概率方法方法1.概率论基础一个可能的实验结果为一个样本点，样本点的全体构成的集合称为样本空间。要考察的由一些样本点构成的集合称为随机事件。：出现了样本点集合中的一个元素。：样本点全体构成的集合(即样本空间)所表示的事件。：单点集合包含、并、交、差、逆12事件的概率定义4.1 设E为古典概型，样本空间共有n个基本事件，事件A中含有m个基本事件，则称为事件A的概率。例如：D D D D1,2,3,4,5,6,71,2,3,4,5,6

6、,71,2,3,4,5,6,71,2,3,4,5,6,7，A=A=A=A=取数字取数字取数字取数字3 3 3 3的倍的倍的倍的倍数数数数，B=B=B=B=取偶数取偶数取偶数取偶数。解：基本事件有7个，n7。对于事件A，m=2，所以P(A)=m/n=2/7对于事件B，m=3，所以P(B)=m/n=3/713事件的概率当试验次数足够多时，一个事件(A)发生的次数m与试验的总次数n之比：fn(A)=m/n在一个常数p(0p1)附近摆动，并稳定于p。l定义4.2 在同一组条件下所作的大量重复试验中，事件A出现的频率fn(A)总是在0,1上的一个确定常数p附近摆动，并且稳定于p，则称p为事件A的概率

7、。即14条件概型u如果在事件B发生的条件下考虑事件A发生的概率，就称它为事件A的，记为。l定义4.3 设A，B是两个事件，P(B)0,则称为在事件B已发生的条件下事件A的条件概率。u条件概率中的条件缩小了样本空间，即条件概率是在条件所确定的中的概率。15条件概率示例例例例例.D D D D1,2,3,4,5,6,71,2,3,4,5,6,71,2,3,4,5,6,71,2,3,4,5,6,7，A=A=A=A=取数字取数字取数字取数字3 3 3 3的倍数的倍数的倍数的倍数，B=B=B=B=取取取取偶数偶数偶数偶数。求解在事件求解在事件求解在事件求解在事件B B B B发生的条件下，事件发生的

8、条件下，事件发生的条件下，事件发生的条件下，事件A A A A发生的条件发生的条件发生的条件发生的条件概率概率概率概率。解：事件B是已经发生的事件，即取到2；取到4；取到6中必有一个出现。由于事件A是“取3的倍数”，而在上述三个事件中只有一种可能使A发生。所以在B发生的条件下事件A的概率是1/3。16概率的性质172.贝叶斯理论定理4.1 设事件A1,A2,An，满足：则对任何事件B有下式成立：18Bayes定理定理4.2 条件同定理4.1。则对任何事件B有下式成立：193.简单概率推理设有如下产生式规则：其中，E为前提条件，H为结论。条件概率可以作为在证据E出现时。对于复合条件E=E1 AN

9、D E2 AND AND En当已知条件概率时，就可把它作为在证据E1,E2,En出现时。20逆概率方法u经典概率方法要求给出，在实际中。例如E代表咳嗽，H代表支气管炎，则P(H|E)P(H|E)P(H|E)P(H|E)表示在咳嗽的人群中患支气管炎的概率。这个比较困难比较困难比较困难比较困难。而逆概率P(E|H)P(E|H)P(E|H)P(E|H)表示在得支气管炎的人群中咳嗽的概率。这个相对容易相对容易相对容易相对容易获得。u我们根据Bayes定理可以从。21基于Bayes公式进行推理，其中，P(Ai)是事件Ai的先验概率；P(B|Ai)是在事件Ai发生条件下事件B的条件概率。中的前提条件E代

10、替Bayes公式中的B，用Hi代替公式中的Ai，就可得到22逆概率方法举例例.设H1,H2,H3分别是三个结论，E是支持这些结论的证据。已知：P(HP(HP(HP(H1 1 1 1)=0.3,)=0.3,)=0.3,)=0.3,P(HP(HP(HP(H2 2 2 2)=0.4,)=0.4,)=0.4,)=0.4,P(HP(HP(HP(H3 3 3 3)=0.5)=0.5)=0.5)=0.5P(E|HP(E|HP(E|HP(E|H1 1 1 1)=0.5,)=0.5,)=0.5,)=0.5,P(E|HP(E|HP(E|HP(E|H2 2 2 2)=0.3,)=0.3,)=0.3,)=0.3,P(

11、E|HP(E|HP(E|HP(E|H3 3 3 3)=0.4)=0.4)=0.4)=0.4求P(H1|E),P(H2|E)及P(H3|E)的值各是多少？解：同理可得：P(H2|E)=0.26,P(H3|E)=0.4323逆概率法的特点u逆概率法在实际中有很多应用。比如：把Hi(i=1,2,n)当作可能发生的疾病；把Ej(j=1,2,n)当作相应的症状；P(Hi)是从大量实践中得到的疾病Hi的先验概率；P(Ej|Hi)是疾病Hi发生时观察到症状Ej的条件概率。则当对某病人观察到有症状则当对某病人观察到有症状则当对某病人观察到有症状则当对某病人观察到有症状E E E E1 1 1 1,E,E,E,

12、E2 2 2 2,E,E,E,Emmmm时，应用上述时，应用上述时，应用上述时，应用上述BayesBayesBayesBayes公式就公式就公式就公式就可计算出可计算出可计算出可计算出P(HP(HP(HP(Hi i i i|E|E|E|E1 1 1 1E E E E2 2 2 2E E E Emmmm)，从而得知病人患疾病，从而得知病人患疾病，从而得知病人患疾病，从而得知病人患疾病HHHHi i i i的可能性。的可能性。的可能性。的可能性。逆概率法有较强的理论背景和良好的数学特性，当证据及结论都彼此独立时计算的复杂度比较低。逆概率法要求给出结论Hi的先验概率P(Hi)及证据Ej的条件概率P(

13、Ej|Hi)。尽管有些时候P(Ej|Hi)比P(Hi|Ej)相对容易得到，但仍然相当困难。另外Bayes公式的应用条件很严格。244.3 4.3 主观贝叶斯方法主观贝叶斯方法1.知识的不确定性在主观Bayes方法中，知识是的，具体形式为：其中，是结论，由专家根据经验给出。称为，用于指出E对H的支持程度，取值范围为0,)，其定义为：称为，用于指出E对H的支持程度，取值范围为0,)，其定义为：LS和LN的值由领域专家给出，相当于。264.3.1 4.3.1 不确定性的表示不确定性的表示2.证据的不确定性u在主观Bayes方法中，证据的不确定性也。对于证据E，由用户根据观察S给出，即。u由于主观给定

16、(E2|S2)=10P(H1|S2)=P(H1)+P(H1|E2)-P(H1)1/5C(E2|S2)=0.254(H1|S1S2)=(H1|S1)/(H1)(H1|S2)/(H1)(H1)=0.476(H1|S1S2)=0.476(H1)=0.1P(H2|S1S2)=P(H2)+P(H1|S1S2)-P(H1)/1-P(H1)P(H2|H1)-P(H2)=0.175 (H(H(H(H2 2 2 2|S|S|S|S1 1 1 1S S S S2 2 2 2)=P(H)=P(H)=P(H)=P(H2 2 2 2|S|S|S|S1 1 1 1S S S S2 2 2 2)/(1-P(H)/(1-P(

17、H)/(1-P(H)/(1-P(H2 2 2 2|S|S|S|S1 1 1 1S S S S2 2 2 2)=0.212)=0.212)=0.212)=0.21238主观Bayes方法的特点主观Bayes方法中的计算公式大多是在概率论的基础上推导出来，具有较坚实的理论基础。知识的静态强度LS及LN是由领域专家给出，避免了大量的数据统计工作。LS和LN比较全面的反映了证据与结论间的因果关系，使推出的结论有较准确的确定性。主观Bayes方法不仅给出了证据肯定存在、肯定不存在时更新后验概率的方法，还给出了证据不确定时的方法，实现了不确定性的逐级传递。它要求领域专家在给出知识时，同时给出H的先验概率P

18、(H)，这比较困难。Bayes定理要求事件间独立，使其应用受限制。394.4 4.4 可信度方法可信度方法1.可信度的概念u可信度方法是E.H.Shortliffe等人在确定性理论(Theory of Confirmation)的基础上，结合概率论等提出的一种不确定性推理方法，首先在专家系统MYCIN中得到了成功应用。，其准确性难以把握。但人工智能面向的多是结构不良的复杂问题，难以给出精确的数学模型，先验概率及条件概率的确定又比较困难。所以可信度方法是一种的方法。414.4.1 4.4.1 基本可信度模型基本可信度模型2.C-F模型uC-F模型是基于可信度表示的不确定性推理的基本方法，其它可信

19、度方法都是在此基础上发展起来的。在该模型中，知识是用产生式规则表示的，其一般形式为：其中，是该条知识的，称为可信度因子或规则强度，即。一般CF(H,E)0,1。423.证据的不确定性证据的不确定性也用可信度因子表示。如CF(E)=0.6注意：CF(H,E)表示，即；CF(E)表示，即。434.组合证据的不确定性若,则若,则445.不确定性的传递算法u结论H的可信度由下式计算：451.知识不确定性的表示知识用下述形式表示：其中：为知识的，取值范围为(0,1。是，它对相应知识的可用性规定了一个限度，只有当前提条件E的可信度CF(E)达到或超过这个限度，即，相应的知识。的取值范围为(0,1。464.

20、4.2 4.4.2 带有阈值限度的带有阈值限度的可信度模型可信度模型2.证据不确定性的表示3.组合证据不确定性的算法4.不确定性的传递算法475.结论不确定性的合成算法设有多条规则有相同的结论，即IFE1THEN H(CF(H,E1),1)IFE2THEN H(CF(H,E2),2)IFEnTHEN H(CF(H,En),n)48求综合可信度的几种方法 CF(H)=maxCF1(H),CF2(H),CFn(H)C1=CF(H,E1)CF(E1)Ck=Ck-1+(1-Ck-1)CF(H,Ek)CF(Ek)49例如，如果如果如果如果学生善于思考学生善于思考学生善于思考学生善于思考并且并且并且并且

21、动手能力强动手能力强动手能力强动手能力强并且并且并且并且经常上自习经常上自习经常上自习经常上自习并且并且并且并且坚持锻炼身体坚持锻炼身体坚持锻炼身体坚持锻炼身体并且并且并且并且不抽烟不抽烟不抽烟不抽烟那么那么那么那么该生是一位比较好的学生该生是一位比较好的学生该生是一位比较好的学生该生是一位比较好的学生504.4.3 4.4.3 加权的可信度加权的可信度模型模型加权的可信度模型1.知识不确定性的表示其中是，是，其值均由专家给出。l权值的取值范围一般为0,1,且应满足，即51加权的可信度模型2.组合证据不确定性的算法若证据则其可信度CF(E)为：52加权的可信度模型3.不确定性的传递算法u

22、当一条知识的CF(E)如下条件时，该知识就可被应用。结论H的可信度为：加权因子的引入不仅可以解决证据的重要性、独立性问题，还可以解决证据不完全的推理问题，并为冲突消解提供了一种解决途径。53加权的可信度模型推理举例(1)例.设有如下知识：R1:IF ER1:IF ER1:IF ER1:IF E1 1 1 1(0.6)AND E(0.6)AND E(0.6)AND E(0.6)AND E2 2 2 2(0.4)THEN E(0.4)THEN E(0.4)THEN E(0.4)THEN E6 6 6 6(0.8,0.75)(0.8,0.75)(0.8,0.75)(0.8,0.75)R2:IF ER

23、2:IF ER2:IF ER2:IF E3 3 3 3(0.5)AND E(0.5)AND E(0.5)AND E(0.5)AND E4 4 4 4(0.3)AND E(0.3)AND E(0.3)AND E(0.3)AND E5 5 5 5(0.2)(0.2)(0.2)(0.2)THEN E THEN E THEN E THEN E6 6 6 6(0.7,0.6)(0.7,0.6)(0.7,0.6)(0.7,0.6)R3:IF ER3:IF ER3:IF ER3:IF E6 6 6 6(0.7)AND E(0.7)AND E(0.7)AND E(0.7)AND E7 7 7 7(0.3)TH

24、EN H(0.75,0.6)(0.3)THEN H(0.75,0.6)(0.3)THEN H(0.75,0.6)(0.3)THEN H(0.75,0.6)已知：CF(ECF(ECF(ECF(E1 1 1 1)=0.9,CF(E)=0.9,CF(E)=0.9,CF(E)=0.9,CF(E2 2 2 2)=0.8,CF(E)=0.8,CF(E)=0.8,CF(E)=0.8,CF(E3 3 3 3)=0.7,)=0.7,)=0.7,)=0.7,CF(ECF(ECF(ECF(E4 4 4 4)=0.6,CF(E)=0.6,CF(E)=0.6,CF(E)=0.6,CF(E5 5 5 5)=0.5)=0.

25、5)=0.5)=0.5求：CF(H)=?解：CF(E1(0.6)AND E2(0.4)=0.861=0.7554加权的可信度模型推理举例(2)CF(E3(0.5)AND E4(0.3)AND E5(0.2)0.632=0.6 CF(E1(0.6)AND E2(0.4)CF(E3(0.5)AND E4(0.3)AND E5(0.2)由R1得到：CF(E6)=0.69由R2得到：CF(E7)=0.44CF(E6(0.7)AND E7(0.3)=0.6153=0.6CF(H)=0.46即最终得到的结论即最终得到的结论即最终得到的结论即最终得到的结论HHHH可信度为可信度为可信度为可信度为0.460.

26、460.460.4655u前述的几种不确定性推理方法，没有在知识中指出前提条件或者子条件的可信度值，它们都是在前提条件E为真的前提下为CF(H,E)取值。在实际中，这样有时不能准确反映领域专家的知识。1.知识的不确定性或者cfi是对子条件Ei(i=1,2,n)指出的可信度。cfi在0,1上取值，其值由专家给出。证据Ei的可信度记为cfi,其取值范围在0,1上。564.4.4 4.4.4 前件带有前件带有不确定性的不确定性的可信度模型可信度模型前件带不确定性的可信度模型2.不确定性匹配算法的不确定性匹配算法：的不确定性匹配算法：这里运算可以改为运算。若所有cficfi则前提条件必然匹配；若cficfi或部分小于cfi则能否匹配取决于值。57前件带不确定性的可信度模型3.不确定性的传递算法58基于可信度不确定性推理方法的特点简单、直观。可信度因子依赖于专家主观指定，没有统一、客观的尺度，容易产生片面性。可信度数字上的语义不标准。随着推理延伸，可信度越来越不可靠，误差越来越大。当推理深度达到一定深度时，有可能出现推出的结论不再可信的情况。59待续待续

展开阅读全文

AI-第4章 不确定性推理（1）.pptx

AI-第4章不确定性推理（1）.pptx