《不确定性推理人工智能原理及其应电子教案.ppt》由会员分享,可在线阅读,更多相关《不确定性推理人工智能原理及其应电子教案.ppt(104页珍藏版)》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、第第6章章 不确定性推理不确定性推理 6.1 6.1 不确定性推理的基本概念不确定性推理的基本概念 6.1.1 不确定性推理的含义不确定性推理的含义 6.1.2 不确定性推理的基本问题不确定性推理的基本问题 6.1.3 不确定性理的类型不确定性理的类型6.2 6.2 不确定性推理的概率论基础不确定性推理的概率论基础6.3 6.3 确定性理论确定性理论6.4 6.4 主观主观BayesBayes方法方法6.4 6.4 证据理论证据理论6.5 6.5 模糊推理模糊推理 现实世界中的大多数问题是不精确、非完备的。对于这些问题,若采用现实世界中的大多数问题是不精确、非完备的。对于这些问题,若采用前面所
2、讨论的精确性推理方法显然是无法解决的。前面所讨论的精确性推理方法显然是无法解决的。为此,人工智能需要研究不精确性的推理方法,以满足客观问题的需求。为此,人工智能需要研究不精确性的推理方法,以满足客观问题的需求。16.1.1 不确定性推理的含义不确定性推理的含义 1.什么是不确定性推理什么是不确定性推理 不确定性推理泛指除精确推理以外的其它各种推理问题。包括不不确定性推理泛指除精确推理以外的其它各种推理问题。包括不完备、不精确知识的推理,模糊知识的推理,非单调性推理等。完备、不精确知识的推理,模糊知识的推理,非单调性推理等。不确定性推理过程实际上是一种从不确定的初始证据出发,通过不确定性推理过程
3、实际上是一种从不确定的初始证据出发,通过运用不确定性知识,最终推出具有一定不确定性但却又是合理或基运用不确定性知识,最终推出具有一定不确定性但却又是合理或基本合理的结论的思维过程。本合理的结论的思维过程。2.为什么要采用不确定性推理为什么要采用不确定性推理 所需知识不完备所需知识不完备 不精确所需知识描述模糊不精确所需知识描述模糊 多种原因导致同一结论多种原因导致同一结论 问题的背景知识不足问题的背景知识不足 解题方案不唯一解题方案不唯一21.不确定性的表示不确定性的表示2.不确定性的匹配不确定性的匹配3.组合证据的不确定性的计算组合证据的不确定性的计算4.不确定性的更新不确定性的更新5.不确
4、定性结论的合成不确定性结论的合成6.1.2 不确定性推理的基本问题不确定性推理的基本问题 3(1)知识的不确定性的表示知识的不确定性的表示考虑因素:问题的描述能力考虑因素:问题的描述能力推理中不确定性的计算推理中不确定性的计算含义:知识的确定性程度,或动态强度含义:知识的确定性程度,或动态强度表示:用概率,表示:用概率,0,1,0接近于假,接近于假,1接近于真接近于真用可信度,用可信度,-1,1,大于,大于0接近于真接近于真小于小于0接近于假接近于假6.1.2 不确定性推理的基本问题不确定性推理的基本问题1.不确定不确定性的表示性的表示(2)证据的非精确性表示证据的非精确性表示 证据来源:初始
5、证据,中间结论证据来源:初始证据,中间结论 表示:用概率或可信度表示:用概率或可信度4含义含义 不确定的前提条件与不确定的事实匹配不确定的前提条件与不确定的事实匹配问题问题 前提是不确定的,事实也是不确定的前提是不确定的,事实也是不确定的方法方法 设计一个计算相似程度的算法,给出相似的限度设计一个计算相似程度的算法,给出相似的限度标志标志 相似度落在规定限度内为匹配,否则为不匹配相似度落在规定限度内为匹配,否则为不匹配6.1.2 不确定性推理的基本问题不确定性推理的基本问题2.不确定不确定性的匹配性的匹配5含义含义 知识的前提条件是多个证据的组合知识的前提条件是多个证据的组合方法方法 最大最小
6、方法,如合取取最小、析取取最大最大最小方法,如合取取最小、析取取最大 概率方法,按概率概率方法,按概率6.1.2 不确定性推理的基本问题不确定性推理的基本问题3.组合证据不确定组合证据不确定性的计算性的计算64.非精确性的更新非精确性的更新 主要问题主要问题 如何用证据的不确定性去更新结论的不确定性如何用证据的不确定性去更新结论的不确定性 如何在推理中把初始证据的不确定性传递给最终结论如何在推理中把初始证据的不确定性传递给最终结论 解决方法解决方法 对对,不同推理方法的解决方法不同不同推理方法的解决方法不同 对对,不同推理方法的解决方法基本相同,即把当不同推理方法的解决方法基本相同,即把当 前
7、结论及其不前结论及其不确定性作为新的结论放入综合数据库,依次确定性作为新的结论放入综合数据库,依次 传递,直到得出最终结传递,直到得出最终结论论5.非精确性结论的合成非精确性结论的合成 含义:含义:多个不同知识推出同一结论,且不确定性程度不同多个不同知识推出同一结论,且不确定性程度不同 方法:方法:视不同推理方法而定视不同推理方法而定6.1.2 不确定性推理的基本问题不确定性推理的基本问题4.不确定不确定性的更新性的更新 5.不确定性结论的合成不确定性结论的合成7模糊推理模糊推理基于概率的方法基于概率的方法主观主观Bayes方法方法确定性理论确定性理论证据理论证据理论数数值值方方法法非非数数值
8、值方方法法不不确确定定性性推推理理框架推理框架推理语义网络推理语义网络推理常识推理常识推理6.1.2 不确定性推理的类型不确定性推理的类型86.1不确定性推理的基本概念不确定性推理的基本概念6.2不确定性推理的概率论基础不确定性推理的概率论基础6.2.1样本空间和随机事件样本空间和随机事件6.3.2事件的概率事件的概率6.3.3全概率公式和全概率公式和Bayes公式公式6.3确定性理论确定性理论6.4主观主观Bayes方法方法6.5证据理论证据理论6.6模糊推模糊推第第6章章 不确定性推理不确定性推理 9概念概念在概率论中,把试验中每一个可能出现的结果称为试验的在概率论中,把试验中每一个可能出
9、现的结果称为试验的一个样本点,由全体样本点构成的集合称为样本空间。一个样本点,由全体样本点构成的集合称为样本空间。表示表示通常,用通常,用D表示样本空间,表示样本空间,d表示样本点。表示样本点。例子例子在掷币试验中,若用在掷币试验中,若用d1表示硬币的正面向上,用表示硬币的正面向上,用d2表示硬表示硬币的反面向上,则该试验的样本空间为:币的反面向上,则该试验的样本空间为:D=d1,d26.2.1样本空间和随机事件样本空间和随机事件1.样本空间样本空间10概念概念由样本点构成的集合称为随机事件由样本点构成的集合称为随机事件例子:例子:在掷币试验中,若用在掷币试验中,若用A表示硬币正面向上这一事件
10、,则有表示硬币正面向上这一事件,则有A=d1运算运算并事件并事件事件事件A与事件与事件B至少有一个发生至少有一个发生记为记为AB交事件交事件事件事件A与事件与事件B同时发生同时发生记为记为AB互逆事件互逆事件事件事件A与与B之间满足之间满足“AB=,AB=D”6.2.1样本空间和随机事件样本空间和随机事件2.随机事件随机事件11频率的概念频率的概念统计概率是通过某一事件出现的频率定义的。频率:统计概率是通过某一事件出现的频率定义的。频率:fn(A)=m/n式中,式中,A所讨论的事件,所讨论的事件,n是试验的总次数,是试验的总次数,m是实验中是实验中A发生的次数发生的次数统计概率的定义统计概率的
11、定义定义定义6.1在同一组条件下所进行大量重复试验时,如果事件在同一组条件下所进行大量重复试验时,如果事件A出现的频率总出现的频率总是在区间是在区间0,1上的一个确定常数上的一个确定常数p附近摆动,并且稳定于附近摆动,并且稳定于p,则称,则称p为事件为事件A的统计概率。即的统计概率。即 P(A)=p 统计概率例子统计概率例子在掷币试验中,当掷币次数足够多时有在掷币试验中,当掷币次数足够多时有fn(正面向上正面向上)=0.5则称正面向上的概率为则称正面向上的概率为0.5,即,即P(正面向上正面向上)=0.56.2.2事件的概率事件的概率1.统计概率统计概率(1/2)12统计概率的性质统计概率的性
12、质(1)对任一事件对任一事件A,有,有0P(A)=1(2)必然事件必然事件D的概率的概率P(D)=1,不可能事件,不可能事件的概率的概率P()=0。(3)对任一事件对任一事件A,有,有P(A)=1-P(A)(4)设事件设事件A1,A2,Ak(kn)是两两互不相容的事件,即有是两两互不相容的事件,即有AiAj=(ij),则,则(5)设设A、B是两个事件,则是两个事件,则P(AB)=P(A)+P(B)-P(AB)6.2.2事件的概率事件的概率1.统计概率统计概率(2/2)13概念概念定义定义6.2设设A与与B是两个随机事件,是两个随机事件,P(B)0,则称:,则称:P(A|B)=P(AB)/P(B
13、)为在事件为在事件B发生的条件下事件发生的条件下事件A的条件概率的条件概率。例子例子设样本空间设样本空间D是扑克牌中的是扑克牌中的54张牌,即张牌,即D=红桃红桃A,方块,方块A,黑桃,黑桃A,梅花,梅花A,红桃,红桃2,方块,方块2,小王,大王,小王,大王,且有以下两个事件,且有以下两个事件A=取花脸牌取花脸牌,B=取红桃牌取红桃牌,求在事件求在事件B发生的条件下事件发生的条件下事件A发生的概率发生的概率P(A|B)。解:解:由于事件由于事件B已经发生,因此以下事件取到红桃已经发生,因此以下事件取到红桃A;取到红桃;取到红桃2;取到;取到红桃红桃3;取到红桃;取到红桃K中必有一个出现。中必有
14、一个出现。而对事件而对事件A,在事件,在事件B发生的前提下,只有以下事件取到红桃发生的前提下,只有以下事件取到红桃J;取到红;取到红桃桃Q;取到红桃;取到红桃K中的一个发生时事件中的一个发生时事件A才能发生。才能发生。因此,在事件因此,在事件B发生的条件下事件发生的条件下事件A发生的概率是发生的概率是3/13。6.2.2事件的概率事件的概率2.条件概率条件概率14 定理定理6.16.1 设事件设事件A A1 1,A,A2 2,A,An n满足:满足:(1)(1)任意两个事件都互不相容,即当任意两个事件都互不相容,即当ijij时,有时,有A Ai iAAj j=(i=1,2,n(i=1,2,n;
15、j=1,2,n)j=1,2,n);(2)(2)P(AP(Ai i)0(i=1,2,n);)0(i=1,2,n);(3)D=(3)D=则对任何事件则对任何事件B B由下式成立:由下式成立:该公式称为全概率公式,它提供了一种计算该公式称为全概率公式,它提供了一种计算P(B)P(B)的方法。的方法。6.2.3全概率公式和全概率公式和Bayes公式公式1.全概率公式全概率公式15定定理理6.2设设事事件件A1,A2,An满满足足定定理理6.1规规定定的的条条件件,则则对对任任何何事事件件B有有下下式式成立:成立:该定理称为该定理称为Bayes定理,上式称为定理,上式称为Bayes公式。公式。其其中中,
16、P(Ai)是是事事件件Ai的的先先验验概概率率,P(B|Ai)是是在在事事件件Ai发发生生条条件件下下事事件件B的的条条件概率;件概率;P(Ai|B)是在事件是在事件B发生条件下事件发生条件下事件Ai的条件概率。的条件概率。如果把全概率公式代入如果把全概率公式代入Bayes公式,则有:公式,则有:即即这是这是Bayes公式的另一种形式。公式的另一种形式。Bayes定理给处了用逆概率定理给处了用逆概率P(B|Ai)求原概率求原概率P(Ai|B)的方法。的方法。6.2.3全概率公式和全概率公式和Bayes公式公式2.Bayes公式166.1不确定性推理的基本概念不确定性推理的基本概念6.2不确定性
17、推理的概率论基础不确定性推理的概率论基础6.3确定性理论确定性理论 6.3.1可信度的概念可信度的概念6.3.2CF模型模型6.4主观主观Bayes方法方法6.5证据理论证据理论6.6模糊推理模糊推理第第6章章 不确定性推理不确定性推理 17可信度是指人们根据以往经验对某个事物或现象为真的程度的可信度是指人们根据以往经验对某个事物或现象为真的程度的一个判断,或者说是人们对某个事物或现象为真的相信程度。一个判断,或者说是人们对某个事物或现象为真的相信程度。例如,沈强昨天没来上课,理由是头疼。就此理由,只有以下例如,沈强昨天没来上课,理由是头疼。就此理由,只有以下两种可能:一是真的头疼了,理由为真
18、;二是没有头疼,理由为两种可能:一是真的头疼了,理由为真;二是没有头疼,理由为假。但就听话人而言,因不能确切知道,就只能某种程度上相信,假。但就听话人而言,因不能确切知道,就只能某种程度上相信,即可信度。即可信度。可信度具有一定的主观性,较难把握。但对某一特定领域,让可信度具有一定的主观性,较难把握。但对某一特定领域,让该领域专家给出可信度还是可行的。该领域专家给出可信度还是可行的。6.3.1可信度的概念可信度的概念186.3.2CF模型模型1.知识不确定性的表示知识不确定性的表示表示形式:表示形式:在在C-F模型中,知识是用产生式规则表示的,其一般形式为:模型中,知识是用产生式规则表示的,其
19、一般形式为:IFETHENH(CF(H,E)其中,其中,E是知识的前提条件;是知识的前提条件;H是知识的结论;是知识的结论;CF(H,E)是知识的可信度。是知识的可信度。说明:说明:(1)E可以是单一条件,也可以是复合条件。例如:可以是单一条件,也可以是复合条件。例如:E=(E1ORE2)ANDE3ANDE4(2)H可以是单一结论,也可以是多个结论可以是单一结论,也可以是多个结论(3)CF是知识的静态强度,是知识的静态强度,CF(H,E)的取值为的取值为-1,1,表示当,表示当E为真时,证为真时,证据对据对H的支持程度,其值越大,支持程度越大。的支持程度,其值越大,支持程度越大。例子:例子:I
20、F发烧发烧AND流鼻涕流鼻涕THEN感冒感冒(0.8)表示当某人确实有表示当某人确实有“发烧发烧”及及“流鼻涕流鼻涕”症状时,则有症状时,则有80%的把握是患了感冒。的把握是患了感冒。19可信度的定义可信度的定义在在CF模型中,把模型中,把CF(H,E)定义为定义为CF(H,E)=MB(H,E)-MD(H,E)式中式中MB称为信任增长度,称为信任增长度,MB(H,E)定义为定义为MD称为不信任增长度,称为不信任增长度,MB(H,E)定义为定义为6.3.2CF模型模型2.可信度的定义可信度的定义与性质与性质(1/5)20MB和和MD的关系的关系当当MB(H,E)0时,有时,有P(H|E)P(H)
21、,即,即E的出现增加了的出现增加了H的概率的概率当当MD(H,E)0时,有时,有P(H|E)0,CF(H,E)=0,CF(H,E)0-=-=-=)()|()()|()()|()()|()(),(00)(1)()|(0),(),(HPEHPHPEHPHPEHPHPEHPHPEHMDHPHPEHPEHMBEHCF若若若6.3.2CF模型模型2.可信度的定义可信度的定义与性质与性质(2/5)21可信度的性质可信度的性质(1)互斥性互斥性对同一证据,它不可能既增加对对同一证据,它不可能既增加对H的信任程度,又同时增加对的信任程度,又同时增加对H的不信任程的不信任程度,这说明度,这说明MB与与MD是互斥
22、的。即有如下互斥性:是互斥的。即有如下互斥性:当当MB(H,E)0时,时,MD(H,E)=0当当MD(H,E)0时,时,MB(H,E)=0(2)值域值域 (3)典型值典型值当当CF(H,E)=1时,有时,有P(H/E)=1,它说明由于,它说明由于E所对应证据的出现使所对应证据的出现使H为真。为真。此时,此时,MB(H,E)=1,MD(H,E)=0。当当CF(H,E)=-1时,有时,有P(H/E)=0,说明由于,说明由于E所对应证据的出现使所对应证据的出现使H为假。此为假。此时,时,MB(H,E)=0,MD(H,E)=1。当当CF(H,E)=0时,有时,有MB(H,E)=0、MD(H,E)=0。
23、前者说明。前者说明E所对应证据的所对应证据的出现不证实出现不证实H;后者说明;后者说明E所对应证据的出现不否认所对应证据的出现不否认H。6.3.2CF模型模型2.可信度的定义与可信度的定义与性质性质(3/5)22(4)对对H的信任增长度等于对非的信任增长度等于对非H的不信任增长度的不信任增长度根据根据MB、MD的定义及概率的性质有:的定义及概率的性质有:再根据再根据CF的定义和的定义和MB、MD的互斥性有的互斥性有CF(H,E)+CF(H,E)=(MB(H,E)-MD(H,E)+(MB(H,E)-MD(H,E)=(MB(H,E)-0)+(0-MD(H,E)(由互斥性由互斥性)=MB(H,E)-
24、MD(H,E)=0它说明:它说明:(1)对对H的信任增长度等于对非的信任增长度等于对非H的不信任增长度的不信任增长度(2)对对H的可信度与非的可信度与非H的可信度之和等于的可信度之和等于0(3)可信度不是概率,不满足可信度不是概率,不满足P(H)+P(H)=1和和0P(H),P(H)16.3.2CF模型模型2.可信度的定义与可信度的定义与性质性质(4/5)23(5)对同一前提对同一前提E,若支持若干个不同的结论,若支持若干个不同的结论Hi(i=1,2,n),则,则因此,如果发现专家给出的知识有如下情况因此,如果发现专家给出的知识有如下情况CF(H1,E)=0.7,CF(H2,E)=0.4则因则
25、因0.7+0.4=1.11为非法,应进行调整或规范化。为非法,应进行调整或规范化。6.3.2CF模型模型2.可信度的定义与可信度的定义与性质性质(5/5)24不确定性的表示:不确定性的表示:证据的不确定性也是用可信度来表示的,其取值范围也为证据的不确定性也是用可信度来表示的,其取值范围也为-1,1若若E为初始证据,其值由用户给出。为初始证据,其值由用户给出。若若E为中间结论,其值可通过计算得到。为中间结论,其值可通过计算得到。不确定性的含义:不确定性的含义:对对E,其可信度,其可信度CF(E)的含义如下:的含义如下:CF(E)=1,证据,证据E肯定它为真肯定它为真CF(E)=-1,证据,证据E
26、肯定它为假肯定它为假CF(E)=0,对证据,对证据E一无所知一无所知0CF(E)1,证据,证据E以以CF(E)程度为真程度为真-1CF(E)0,证据,证据E以以CF(E)程度为假程度为假6.3.2CF模型模型3.证据不确定性的表示证据不确定性的表示254.否定证据不确定性的计算否定证据不确定性的计算CF(E)=-CF(E)5.组合证据不确定性的计算组合证据不确定性的计算对证据的组合形式可分为对证据的组合形式可分为“合取合取”与与“析取析取”两种基本情况。两种基本情况。合取合取当组合证据是多个单一证据的组合时,即当组合证据是多个单一证据的组合时,即E=E1ANDE2ANDANDEn时,若已知时,
27、若已知CF(E1),CF(E2),CF(En),则,则CF(E)=minCF(E1),CF(E2),CF(En)析取析取当组合证据是多个单一证据的析取时,即当组合证据是多个单一证据的析取时,即E=E1ORE2OROREn时,时,若已知若已知CF(E1),CF(E2),CF(En),则,则CF(E)=maxCF(E1),CF(E2),CF(En)6.3.2CF模型模型4、5.否定、不确定证据的计算否定、不确定证据的计算26CF模模型型中中的的不不确确定定性性推推理理实实际际上上是是从从不不确确定定的的初初始始证证据据出出发发,不不断断运运用用相相关关的的不不确确性性知知识识,逐逐步步推推出出最最
28、终终结结论论和和该该结结论论可可信信度度的的过过程程。而而每每一一次次运运用用不不确确定定性性知知识识,都都需需要要由由证证据据的的不不确确定定性性和和知知识识的的不不确确定性去计算结论的不确定性。定性去计算结论的不确定性。不确定性的更新公式不确定性的更新公式CF(H)=CF(H,E)max0,CF(E)若若CF(E)1时时,O(H|E)O(H),说说明明E支支持持H,LS越越大大,O(H|E)比比O(H)大大得得越越多多,即即 LS越越 大大,E对对 H的的 支支 持持 越越 充充 分分。当当 LS时时,O(H|E),即即P(H/E)1,表示由于,表示由于E的存在,将导致的存在,将导致H为真
29、。为真。当当LS=1时,时,O(H|E)=O(H),说明,说明E对对H没有影响。没有影响。当当LS1时,时,O(H|E)1时,时,O(H|E)O(H),说明,说明E支持支持H,即由于,即由于E的不出现,增大了的不出现,增大了H为真的概率。并且,为真的概率。并且,LN得越大,得越大,P(H|E)就越大,即就越大,即E对对H为真的支持就为真的支持就越强。当越强。当LN时,时,O(H|E),即,即P(H|E)1,表示由于,表示由于E的存在,的存在,将导致将导致H为真。为真。当当LN=1时,时,O(H|E)=O(H),说明,说明E对对H没有影响。没有影响。当当LN1时,时,O(H|E)1且且LN1LS
30、1LS=LN=1证证:LS1P(E|H)/P(E|H)1P(E|H)P(E|H)1-P(E|H)1-P(E|H)P(E|H)P(E|H)P(E|H)/P(E|H)1LNP(E),使用,使用(6.8)式的后半部分,得式的后半部分,得P(H1|S1)为:为:45(2)计算计算O(H1|(S1ANDS2)由于由于r2的前件是的前件是E1、E2的合取关系,且已知的合取关系,且已知P(E1|S1)=0.76,P(E2|S2)=0.68,即即P(E2|S2)P(E2),还使用,还使用(6.8)式的后半部分,得式的后半部分,得P(H1|S2)为:为:46(3)计算计算O(H1|S1,S2)先将先将H1的先验
31、概率转换为先验几率的先验概率转换为先验几率再根据合成公式计算再根据合成公式计算H1的后验几率的后验几率 然后再将后验几率转换为后验概率然后再将后验几率转换为后验概率47(4)计算计算P(H2|S1,S2)对对r3,H1相当于已知事实,相当于已知事实,H2为结论。将为结论。将H2的先验概率的先验概率P(H2)更新为在更新为在H1下的后验概率下的后验概率P(H2|H1)由于由于P(H1|S1,S2)=0.321P(H1),仍使用,仍使用(6.8)式的后半部分,得到在当前式的后半部分,得到在当前观察观察S1、S2下下H2的后验概率的后验概率P(H2|S1,S2)可以看出,可以看出,H2的先验概率是的
32、先验概率是0.01,通过,通过r1、r2、r3及初始证据进行推理,最及初始证据进行推理,最后推出后推出H2的后验概率为的后验概率为0.177,相当于概率增加了,相当于概率增加了16倍多。倍多。主观主观Bayes方法的主要优点是理论模型精确,灵敏度高,不仅考虑了证据方法的主要优点是理论模型精确,灵敏度高,不仅考虑了证据间的关系,而且考虑了证据存在与否对假设的影响,因此是一种较好的方法。间的关系,而且考虑了证据存在与否对假设的影响,因此是一种较好的方法。其主要缺点是所需要的主观概率太多,专家不易给出。其主要缺点是所需要的主观概率太多,专家不易给出。486.1不确定性推理的基本概念不确定性推理的基本
33、概念6.2不确定性推理的概率论基础不确定性推理的概率论基础6.3确定性理论确定性理论6.4主观主观Bayes方法方法6.5证据理论证据理论证据理论证据理论是由德普斯特是由德普斯特()首先提出,并有沙佛首先提出,并有沙佛(G.Shafer)进一步发展进一步发展起来的用于处理不确定性的一种理论,起来的用于处理不确定性的一种理论,也称也称DS(Dempster-Shafer)理论。理论。它将概率论中的单点赋值扩展为集合赋值,可以处理由它将概率论中的单点赋值扩展为集合赋值,可以处理由“不知道不知道”所引所引起的不确定性,比主观起的不确定性,比主观Bayes方法有着更大的灵活性。方法有着更大的灵活性。在
34、在DS理论中,可以分别用信任函数、似然函数及类概率函数来描述知理论中,可以分别用信任函数、似然函数及类概率函数来描述知识的精确信任度、不可驳斥信任度及估计信任度。识的精确信任度、不可驳斥信任度及估计信任度。6.5.1DS理论的形式描述理论的形式描述6.5.2证据理论的推理模型证据理论的推理模型6.5.3推理实例推理实例6.6模糊推理模糊推理第第6章章 不确定性推理不确定性推理 496.5.1DS理论的形式描述理论的形式描述 1.概率分配函数(概率分配函数(1/3)DS理论处理的是集合上的不确定性问题,为此需要先建立命题与集合之间理论处理的是集合上的不确定性问题,为此需要先建立命题与集合之间的一
35、一对应关系,以把命题的不确定性问题转化为集合的不确定性问题,。的一一对应关系,以把命题的不确定性问题转化为集合的不确定性问题,。设设为样本空间,且为样本空间,且中的每个元素都相互独立,则由中的每个元素都相互独立,则由的所有子集构成的的所有子集构成的幂集记为幂集记为2。当当中的元素个数为中的元素个数为N时,则其幂集时,则其幂集2的元素个数为的元素个数为2N,且其中的每一个元,且其中的每一个元素都对应于一个关于素都对应于一个关于x取值情况的命题。取值情况的命题。例例6.4设设=红,黄,白红,黄,白,求,求的幂集的幂集2。解:解:的幂集可包括如下子集:的幂集可包括如下子集:A0=,A1=红红,A2=
36、黄黄,A3=白白,A4=红,黄红,黄,A5=红,白红,白,A6=黄,白黄,白,A7=红,黄,白红,黄,白其中,其中,表示空集,空集也可表示为表示空集,空集也可表示为。上述子集的个数正好是。上述子集的个数正好是23=8506.5.1DS理论的形式描述理论的形式描述 1.概率分配函数(概率分配函数(2/3)定义定义6.3设函数设函数m:20,1,且满足,且满足则称则称m是是2上的概率分配函数,上的概率分配函数,m(A)称为称为A的基本概率数。的基本概率数。对例对例6.4,若定义,若定义2上的一个基本函数上的一个基本函数m:m(,红红,黄黄,白白,红,黄红,黄,红,白红,白,黄,白黄,白,红,黄,红
37、,黄,白白)=(0,0.3,0,0.1,0.2,0.2,0,0.2)其中,其中,(0,0.3,0,0.1,0.2,0.2,0,0.2)分别是幂集分别是幂集2中各个子集的基本概率中各个子集的基本概率数。数。显然显然m满足概率分配函数的定义。满足概率分配函数的定义。516.5.1DS理论的形式描述理论的形式描述 1.概率分配函数(概率分配函数(3/3)对概率分配函数的说明对概率分配函数的说明(1)概率分配函数的作用是把概率分配函数的作用是把的任一子集映射为的任一子集映射为0,1上的一个数上的一个数m(A)当当A,且,且A由单个元素组成时由单个元素组成时,则,则m(A)表示对表示对A的精确信任度;的
38、精确信任度;当当A、A,且,且A由多个元素组成时由多个元素组成时,m(A)也表示对也表示对A的精确信任度,的精确信任度,但却不知道这部分信任度该分给但却不知道这部分信任度该分给A中哪些元素;中哪些元素;当当A=时时,则,则m(A)也表示不知道该如何分配的部分。也表示不知道该如何分配的部分。例如,例如,对上例所给出的有限集对上例所给出的有限集及基本函数及基本函数m,当,当A=红红时,时,有有m(A)=0.3,它表示对命题,它表示对命题“x是红色是红色”的精确信任度为的精确信任度为0.3。B=红,黄红,黄时,时,有有m(B)=0.2,它表示对命题,它表示对命题“x或者是红色,或者是黄色或者是红色,
39、或者是黄色”的精确信任度为的精确信任度为0.2,却不知道该把这,却不知道该把这0.2分给分给红红还是分给还是分给黄黄。C=红,黄,白红,黄,白时,时,有有m()=0.2,表示不知道该对这,表示不知道该对这0.2如何分配,但如何分配,但知道它不属于知道它不属于红红,就一定属于,就一定属于黄黄或或白白。(2)概率分配函数不是概率概率分配函数不是概率例如,例如,在例在例6.5中,中,m符合概率分配函数的定义,但符合概率分配函数的定义,但m(红红)+m(黄黄)+m(白白)=0.3+0+0.1=0.41因此因此m不是概率,因为概率不是概率,因为概率P要求:要求:P(红红)+P(黄黄)+P(白白)=152
40、定义定义6.4信任函数信任函数Bel:20,1为为其中,其中,2是是的幂集。的幂集。Bel又称为下限函数,又称为下限函数,Bel(A)表示对表示对A的总的信任度。的总的信任度。例如,例如,对例对例6.5有有Bel(红红)=0.3Bel(红,白红,白)=m(红红)+m(白白)+m(红,白红,白)=0.3+0.1+0.2=0.6根据定义还可以得到:根据定义还可以得到:例如,例如,对例对例6.5有有Bel()=m()=0Bel(红,黄,白红,黄,白)=m()+m(红红)+m(黄黄)+m(白白)+m(红,黄红,黄)+(红,白红,白)+(黄,白黄,白)+(红,黄,白红,黄,白)=0+0.3+0+0.1+
41、0.2+0.2+0+0.2=16.5.1D-S理论的形式描述理论的形式描述2.信任函数信任函数536.5.1D-S理论的形式描述理论的形式描述3.似然函数似然函数(1/2)定义定义6.5似然函数似然函数Pl:20,1为为Pl(A)=1-Bel(A)对所有的对所有的A其中,其中,A=-A。似然函数又称为不可驳斥函数或上限函数。由于似然函数又称为不可驳斥函数或上限函数。由于Bel(A)表示对表示对A的信任的信任度,即度,即A为假的信任度,因此,为假的信任度,因此,Pl(A)表示对表示对A为非假的信任度。为非假的信任度。以例以例6.5为例:为例:Pl(红红)=1-Bel(红红)=1-Bel(黄,白黄
42、,白)=1-(m黄黄+m白白+m黄,白黄,白)=1-(0+0.1+0)=0.9这里的这里的0.9是是“红红”为非假的信任度。由于为非假的信任度。由于“红红”为真的精确信任度为为真的精确信任度为0.3,而剩下的而剩下的0.9-0.3=0.6,则是知道非假,但却不能肯定为真的那部分。,则是知道非假,但却不能肯定为真的那部分。再如:再如:Pl(黄,白黄,白)=1-Bel(黄,白黄,白)=1-Bel(红红)=1-0.3=0.7这里的这里的0.7的含义与上面分析类似。的含义与上面分析类似。546.5.1D-S理论的形式描述理论的形式描述3.似然函数似然函数(2/2)似然函数的另外一种计算办法:似然函数的
43、另外一种计算办法:由于由于可见,可见,Pl(红红),Pl(黄,白黄,白)亦可分别用下式计算:亦可分别用下式计算:如果把它推广到一般可得公式:如果把它推广到一般可得公式:其证明见教材其证明见教材556.5.1D-S理论的形式描述理论的形式描述4.信任函数与似然函数的关系信任函数与似然函数的关系(1/3)信任函数和似然函数之间存在关系:信任函数和似然函数之间存在关系:Pl(A)Bel(A)证明:证明:由于由于Bel(A)和和Pl(A)分别表示分别表示A为真的信任度和为真的信任度和A为非假的信任度,因此,为非假的信任度,因此,可分别称可分别称Bel(A)和和Pl(A)为对为对A信任程度的下限和上限,
44、记为:信任程度的下限和上限,记为:ABel(A),Pl(A)56例如,例如,在前面的例子中在前面的例子中Bel(红红)=0.3Pl(红红)=0.9即:即:红红0.3,0.9它表示对它表示对红红的精确信任度为的精确信任度为0.3,不可驳斥部分为,不可驳斥部分为0.9,肯定不是,肯定不是红红的为的为0.1。同理可以求得同理可以求得黄黄0,0.4白白0.1,0.5红,黄红,黄0.5,0.9红,白红,白0.6,1黄,白黄,白0.1,0.7红,黄,白红,黄,白1,10,06.5.1D-S理论的形式描述理论的形式描述4.信任函数与似然函数的关系信任函数与似然函数的关系(2/3)57 一些典型值的含义:一些
45、典型值的含义:A0,1:说明对:说明对A一无所知。一无所知。其中,其中,Bel(A)=0,说明对,说明对A无信任;无信任;再由再由Pl(A)=1-Bel(A)=1,可知,可知Bel(A)=0,说明对,说明对A也没有信任。也没有信任。A0,0:说明:说明A为假。为假。即即Bel(A)=0,Bel(A)=1。A1,1:说明:说明A为真。为真。即即Bel(A)=1,Bel(A)=0。A0.6,1:说明对:说明对A部分信任。部分信任。即即Bel(A)=0.6,Bel(A)=0。A0,0.4:说明对:说明对A部分信任。部分信任。即即Bel(A)=0,Bel(A)=0.6。A0.3,0.9:说明对:说明对
46、A和和A都有部分信任。都有部分信任。其中,其中,Bel(A)=0.3,说明,说明对对A为真有为真有0.3的信任度;的信任度;Bel(A)=1-0.9=0.1,说明对,说明对A为假有为假有0.1的信的信任度。因此,任度。因此,A0.3,0.9表示对表示对A为真的信任度比为真的信任度比A为假的信任度稍高为假的信任度稍高一些。一些。6.5.1D-S理论的形式描述理论的形式描述4.信任函数与似然函数的关系信任函数与似然函数的关系(3/3)586.5.1D-S理论的形式描述理论的形式描述5.概率分配函数的正交和概率分配函数的正交和(1/3)当证据来源不同时,可能会得到不同的概率分配函数。例如,对当证据来
47、源不同时,可能会得到不同的概率分配函数。例如,对=红,黄红,黄假设从不同知识源得到的两个概率分配函数分别为:假设从不同知识源得到的两个概率分配函数分别为:m1(,红红,黄黄,红红,黄黄)=(0,0.4,0.5,0.1)m2(,红红,黄黄,红红,黄黄)=(0,0.6,0.2,0.2)可采用德普斯特提出的求正交和的方法来组合这些函数可采用德普斯特提出的求正交和的方法来组合这些函数 定义定义6.6设设m1和和m2是两个不同的概率分配函数,则其正交和是两个不同的概率分配函数,则其正交和m=m1m2满满足足其中:其中:如果如果K0,则正交和也是一个概率分配函数;如果,则正交和也是一个概率分配函数;如果K
48、=0,则不存在正交和,则不存在正交和m,称,称m1与与m2矛盾。矛盾。596.5.1D-S理论的形式描述理论的形式描述5.概率分配函数的正交和概率分配函数的正交和(2/3)例例6.5设设=a,b,且从不同知识源得到的概率分配函数分别为,且从不同知识源得到的概率分配函数分别为m1(,a,b,a,b)=(0,0.3,0.5,0.2)m2(,a,b,a,b)=(0,0.6,0.3,0.1)求正交和求正交和m=m1m2。解:解:先求先求K606.5.1D-S理论的形式描述理论的形式描述5.概率分配函数的正交和概率分配函数的正交和(3/3)再求再求m(,a,b,a,b),由于,由于同理可求得同理可求得m
49、(b)=0.43m(a,b)=0.03故有故有m(,a,b,a,b)=0,0.54,0.43,0.03对于多个概率分配函数的组合,方法类似。对于多个概率分配函数的组合,方法类似。616.5.2证据理论的推理模型证据理论的推理模型Bel(A)和和Pl(A)分别表示命题分别表示命题A的信任度的下限和上限,同时的信任度的下限和上限,同时也可用来表示知识强度的下限和上限。也可用来表示知识强度的下限和上限。从信任函数和似然函数的定义看,它们都是建立在概率分配从信任函数和似然函数的定义看,它们都是建立在概率分配函数之上的,可见不同的概率分配函数将得到不同的推理模型。函数之上的,可见不同的概率分配函数将得到
50、不同的推理模型。下面就给出一个特殊的概率分配函数,并在其上建立推理模下面就给出一个特殊的概率分配函数,并在其上建立推理模型。型。626.5.2证据理论的推理模型证据理论的推理模型1.一个特殊的概率分配函数一个特殊的概率分配函数(1/4)设设=s1,s2,sn,m为定义在为定义在2上的概率分配函数,且上的概率分配函数,且m满足满足其中,其中,A 表示命题表示命题A所对应的集合中的元素个数。所对应的集合中的元素个数。该概率分配函数的特殊性:该概率分配函数的特殊性:只有当子集中的元素个数为只有当子集中的元素个数为1时,其概率分配数才有可能大于时,其概率分配数才有可能大于0;当子集中有多个或当子集中有