《人工智能09贝叶斯网络.pptx》由会员分享，可在线阅读，更多相关《人工智能09贝叶斯网络.pptx（82页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、Bayesian networks贝叶斯网络Frequentist vs.Bayesian客观 vs.主观Frequentist（频率主义者）:概率是长期的预期出现频率.P(A)=n/N,where n is the number of times event A occurs in N opportunities.“某事发生的概率是0.1”意味着0.1是在无穷多样本的极限条件下能够被观察到的比例但是，在许多情景下不可能进行重复试验发生第三次世界大战的概率是多少?Bayesian:degree of belief.It is a measure of the plausibility（似然性）
2、of an event given incomplete knowledge.相信的程度，是在不确定知识的环境下对事件似然性的衡量Probability概率Probability is a rigorous formalism for uncertain knowledge概率是对不确定知识一种严密的形式化方法Joint probability distribution specifies probability of every atomic event全联合概率分布指定了对随机变量的每种完全赋值，即每个原子事件的概率Queries can be answered by summing ov
3、er atomic events可以通过把对应于查询命题的原子事件的条目相加的方式来回答查询For nontrivial domains,we must find a way to reduce the joint sizeIndependence and conditional independence provide the toolsIndependence/Conditional IndependenceA and B are independent iffP(A|B)=P(A)or P(B|A)=P(B)or P(A,B)=P(A)P(B)A is conditionally ind
4、ependent of B given C:P(A|B,C)=P(A|C)在大多数情况下，使用条件独立性能将全联合概率的表示由n的指数关系减为n的线性关系。Conditional independence is our most basic and robust form of knowledge about uncertain environments.Probability TheoryProbability theory can be expressed in terms of two simple equations概率理论可使用两个简单线性方程来表达 Sum Rule（加法规则）变量
5、的概率是通过边缘化或者求和其他变量获得的 Product Rule（乘法规则）用条件表达联合概率所有的概率推理和学习相当于不断重复加法和乘法法则大纲Graphical models（概率图模型）Bayesian networks Syntax（语法）Semantics（语义）Inference（推导）in Bayesian networks什么是图模型？概率分布的图表示 概率论和图论的结合 Also called 概率图模型 They augment analysis instead of using purealgebra（代数）What is a Graph?Consists of nod
6、es(also called vertices)and links(also called edges or arcs)在概率图模型中 每个节点表示一个随机变量(or 一组随机变量)边表示变量间的概率关系Graphical Models in CS 处理不确定性和复杂性的天然工具贯穿整个应用数学和工程领域 图模型中最重要的思想是模块性概念 a complex system is built by combining simpler parts.Why are Graphical Models useful 概率理论提供了“黏合剂”whereby 使每个部分连接起来,确保系统作为一个整体是一致的
7、 提供模型到数据的连接方法.图理论方面提供:直观的接口 by which humans can model highly-interacting sets of variables 数据结构 that lends itself naturally to designing efficient general-purpose（通用的）algorithmsGraphical models:统一的框架 考虑传统的多变量的概率系统作为一般基础形式的实例 mixture models（混合模型）,factor analysis（因子分析）,hidden Markov models,Kalman filt
8、ers（卡尔曼滤波器）,etc.在系统工程，信息论，模式识别和统计力学中被用到 优势:在某一领域中的专业技术能够在该领域中相互转化并被充分利用 Provides natural framework for designing new systems图模型在机器学习中的角色1.形象化概率模型结构的简单方法2.Insights into properties of modelConditional independence properties by inspecting graph3.执行推理和学习表示为图形化操作需要复杂的计算图的方向性 有向图模型 方向取决于箭头 贝叶斯网络 随机变量间的因果
9、关系 More popular in AI andstatistics 无向图模型 边没有箭头 Markov random fields（马尔科夫随机场）更适合表达变量之间的软约束 More popular in Vision and physicsBayesian networks一种简单的，图形化的数据结构，用于表示变量之间的依赖关系（条件独立性），为任何全联合概率分布提供一种简明的规范。Syntax语法:a set of nodes,one per variablea directed（有向）,acyclic（无环）graph(link direct influences)a condi
10、tional distribution for each node given its parents:P(Xi|Parents(Xi)量化其父节点对该节点的影响In the simplest case,conditional distribution represented as aconditional probability table 条件概率表(CPT)giving thedistribution over Xi for each combination of parent valuesExampleTopology（拓扑结构）of network encodes condition
11、al independence assertions:Weather 独立于其他变量Toothache and Catch are conditionally independent given CavityExample我晚上在单位上班，此时邻居John给我打电话说我家警报响了，但是邻居Mary没有给打电话。有时轻微的地震也会引起警报。那么我家真正遭贼了吗？Variables:Burglary（入室行窃）,Earthquake,Alarm,JohnCalls,MaryCalls网络拓扑结构反映出因果关系:A burglar can set the alarm off An earthquak
12、e can set the alarm off The alarm can cause Mary to call The alarm can cause John to callExample contd.Compactness（紧致性）A CPT for Boolean Xi with k Boolean parents has 2k rows for the combinations of parent values一个具有k个布尔父节点的布尔变量的条件概率表中有2k个独立的可指定概率Each row requires one number p for Xi=true(the number
13、 for Xi=false is just 1-p)If each variable has no more than k parents,the complete network requires O(n 2k)numbersI.e.,grows linearly with n,vs.O(2n)for the full joint distributionFor burglary net,1+1+4+2+2=10 numbers(vs.25-1=31)Global semantics（全局语义）The full joint distribution is defined as the pro
14、duct of the local conditional distributions:全联合概率分布可以表示为贝叶斯网络中的条件概率分布的乘积Global semantics（全局语义）The full joint distribution is defined as the product of the local conditional distributions:全联合概率分布可以表示为贝叶斯网络中的条件概率分布的乘积Local semanticsLocal semantics:each node is conditionally independent of its nondesce
15、ndants（非后代）given its parents给定父节点，一个节点与它的非后代节点是条件独立的Theorem:Local semantics global semanticsCausal Chains因果链一个基本形式：Is X independent of Z given Y?Evidence along the chain“blocks”the influenceCommon Cause共同原因另一个基础的形态:twoeffects of the same cause Are X and Z independent?Are X and Z independent given Y?
16、Observing the cause blocks influencebetween effects.Common Effect共同影响最后一种配置形态:two causes of oneeffect(v-structures)Are X and Z independent?Yes:remember the ballgame and the raincausing traffic,no correlation?Are X and Z independent given Y?No:remember that seeing traffic put the rainand the ballgame
17、 in competition?This is backwards from the other cases Observing the effect enables influence between causes.构造贝叶斯网络Need a method such that a series of locally testable assertions of conditional independence guarantees the required global semantics需要一种方法使得局部的条件独立关系能够保证全局语义得以成立1.Choose an ordering of
18、 variables X1,Xn2.For i=1 to nadd Xi to the networkselect parents from X1,Xi-1 such thatP(Xi|Parents(Xi)=P(Xi|X1,.Xi-1)该父亲选择保证了全局语义:构造贝叶斯网络要求网络的拓扑结构确实反映了合适的父节点集对每个变量的那些直接影响。添加节点的正确次序是首先添加“根本原因”节点，然后加入受它们直接影响的变量，以此类推。ExampleExampleExampleExampleExampleExample contd.在非因果方向决定条件独立性是很难的(Causal models and
19、 conditional independence seem hardwired for humans!)Network is less compact:1+2+4+2+4=13 numbers needed因果关系?当贝叶斯网络反映真正的因果模式时:Often simpler(nodes have fewer parents)Often easier to think about Often easier to elicit from experts（专家）BNs 不一定必须是因果 有时无因果关系的网络是存在的(especially if variables are missing)箭头反映
20、相关性，而不是因果关系 箭头的真正含义是什么?Topology may happen to encode causal structure Topology really encodes conditional independenceInference in Bayesian networks推理任务简单查询:计算后验概率P(Xi|E=e)e.g.,P(NoGas|Gauge油表=empty,Lights=on,Starts=false)联合查询:P(Xi,Xj|E=e)=P(Xi|E=e)P(Xj|Xi,E=e)最优决策:decision networks include utility
21、information;probabilistic inference required forP(outcome|action,evidence)通过枚举进行推理上一章解释了任何条件概率都可以通过将全联合分布表中的某些项相加而计算得到在贝叶斯网络中可以通过计算条件概率的乘积并求和来回答查询。通过枚举进行推理上一章解释了任何条件概率都可以通过将全联合分布表中的某些项相加而计算得到Evaluation tree变量消元法Variable elimination（变量消元）:carry out summations right-to-left,storing intermediate result
22、s(factors：因子)to avoid recomputation精确推理的复杂度Singly connected networks单联通网络(or polytrees多树):any two nodes are connected by at most one(undirected)path time and space cost of variable elimination are O(dkn)多树上的变量消元的时间和空间复杂度都与网络规模呈线性关系。Multiply connected networks多联通网络:can reduce 3SAT to exact inference
23、NP-hard equivalent to counting 3SAT models#P-completeExample:Nave Bayes model单一父亲变量和一批孩子变量，孩子变量在给定父亲变量下是相互独立的Nave Bayes modelTotal number of parameters（参数）is linear in nExample:垃圾邮件检测想象一下试图去自动检测垃圾邮件的问题.一个简单的方案是只检测主题，然后根据邮件的标题检查一些简单的特征来尝试识别垃圾邮件.我们先考虑两个简单的特征:Caps:是否标题是彻底大写的Free:是否标题中包含大写或小写的单词free e.g
24、.:a message with the subject header“NEW MORTGAGE RATE“is likely to be spam.Similarly,for“Money for Free”,“FREE lunch”,etc.Example:垃圾邮件检测模型的构建基于以下三个随机变量,Caps,Free and Spam,each of which take on the values Y(for Yes)or N(for No)Caps=Y if and only if the subject of the message does notcontain lowercase
25、 lettersFree=Y if and only if the word free appears in the subject(letter case is ignored)Spam=Y if and only if the message is spamP(Free,Caps,Spam)=P(Spam)P(Caps|Spam)P(Free|Spam)Example:垃圾邮件检测P(Free,Caps,Spam)=P(Spam)P(Caps|Spam)P(Free|Spam)Example:垃圾邮件检测Example:垃圾邮件检测Example:Learning to classify
26、textdocuments 文本分类是在文档所包含的文本基础上，把给定的文档分配到固定类别集合中某一个类别的任务。这个任务中常常用到朴素贝叶斯模型。在这些模型中，查询变量是文档类别，“结果”变量则是语言中每个词是否出现。我们假设文档中的词的出现都是独立的，其出现频率由文档类别确定。a.准确地解释当给定一组类别已经确定的文档作为“训练数据”时，这样的模型是如何构造的。b.准确地解释如何对新文档进行分类。c.这里独立性假设合理吗？请讨论。Example:Learning to classify textdocuments模型包含先验概率P(Category)和 条件概率 P(word i|Cate
27、gory)P(Category=c)is estimated as the fraction of all documents that are of category c P(word i=true|Category=c)is estimated as the fraction of documents of category c that contain word iTwenty NewsgroupsGiven 1000 training documents from each group.Learn to classify new documents according to which
28、 newsgroup it came fromNave Bayes:89%classification accuracyLearning Curve for 20 NewsgroupsExample:A Digit RecognizerNave Bayes for Digits简单版本:一种特征Fij for each grid position 可能的特征值是on/off,基于图像中像素的亮度是否大于或小于0.5 每一个输入映射到一个特征向量,e.g.Here:lots of features,each is binaryNave Bayes model:What do we need to
29、 learn?Examples:CPTsComments on Nave BayesMakes probabilistic inference tractable by making astrong assumption of conditional independence.Tends to work fairly well despite this strongassumption.Experiments show it to be quite competitive withother classification methods on standard datasets.Particu
30、larly popular for text categorization,e.g.spam filtering.Summary Bayesian networks provide a natural representationfor(causally induced)conditional independence Topology+CPTs=compact representation of jointdistribution Generally easy for domain experts to construct Exact inference by variable elimin
31、ation:polytime on polytrees,NP-hard on general graphs space=time,very sensitive to topology Nave Bayes model作业 14.3(a,b,c)，14.4，14.7(a,b,c)(不交)演讲完毕，谢谢观看！About Teaching Plan基本要求：人工智能是计算机科学中涉及研究、设计和应用智能机器的一个分支，是目前迅速发展的一门新兴学科，新思想新方法层出不穷。其基本思想是利用机器来模仿和执行人脑的功能，如判断、推理、证明、识别、感知、理解、设计、思考、规划、学习和问题求解等思维活动。对于培
32、养学生计算机技术的应用能力，开阔思路和视野，有重要意义。About Teaching Plan因此，要求学生掌握知识表示知识表示和问题求解问题求解的几种常用方法，尤其是不确定性推理不确定性推理；掌握机器学习机器学习基本概念，了解几种机器学习方法机器学习方法尤其是神经网络学习方法；神经网络学习方法；掌握专家系统的概念，了解专家系统设计方法专家系统设计方法，掌握一些智能控制方法智能控制方法，了解国内外人工智能研究尤其是机器人的最新进展；最新进展；具有一定的人工智能编程设计能力人工智能编程设计能力（利用Lisp或Prolog语言）。About Teaching Plan课程内容以及学时分配课程内容以
33、及学时分配人工智能引论(1)人工智能概念及与计算机的关系，研究途径、内容和应用领域概况介绍，其他最新材料其他最新材料。符号主义、连接主义、行为主义三大流派人工智能数学基础(1)知识表示方法（2）状态空间法、问题归约法，谓词逻辑法、产生式表示法（动物识别系统）；CLIPS语言；语义网络法、框架法（这是结构化表示）；剧本、过程、Petri网、面向对象的表示。About Teaching Plan搜索技术和策略（3-4）状态空间法，盲目搜索和启发式搜索，A*算法；海伯伦理论、消解原理和策略；与或形推理和搜索策略；其他求解技术。不确定推理技术（3-4）主观Bayes理论；可信度方法和证据理论；系统组织
34、技术；非单调推理；Rete快速算法；模糊推理技术；基于语义网络和框架不确定推理；专家系统（2）专家系统概念、结构和知识获取；黑板模型、知识组织、管理及系统建造和开发工具；专家系统举例及编程。人工智能程序设计人工智能程序设计（1）人工智能语言基本机制：LISP和PROLOG。About Teaching Plan模式识别导论（3）模式识别专题：概率模式识别。模式识别专题：结构模式识别机器学习（1）：机械,解释经验,事例,归纳,概念,类比学习等；统计,结构,模糊模式识别。专题讲座（3次）1)神经网络基本理论和应用(史奎凡课程：安排于人工智能理论与应用课程内)；2)智能体（Agent）；3)自然语言
35、处理；4)智能控制和机器人科学智能控制的结构理论和研究领域，智能控制系统及应用示例；机器人规划、机器视觉和自然语言理解等。About Teaching Plan实践：1)搜索技术和策略2)不确定推理技术3)专家系统：动物识别系统4)模式识别技术5)调研：搜索技术和策略、不确定推理技术、统计模式识别、机器学习等四个领域进展报告。Chapter One:Brief Introduction to Artificial Intelligence1.What is AI?人工智能（人工智能（Artificial Intelligence,AI）是当前科学技发展的一门前是当前科学技发展的一门前沿学科，同
36、时也是一门新思想，新观念，新理论，新技术不断出沿学科，同时也是一门新思想，新观念，新理论，新技术不断出现的新兴学科以及正在发展的学科。现的新兴学科以及正在发展的学科。它是在它是在计算机科学，控制论，信息论，神经心理学，哲学，语言学计算机科学，控制论，信息论，神经心理学，哲学，语言学等多种学科研究的基础发展起来的，因此又可把它看作是一门等多种学科研究的基础发展起来的，因此又可把它看作是一门综综合性的边缘学科合性的边缘学科。它的出现及所取得的成就引起了人们的高度重视它的出现及所取得的成就引起了人们的高度重视,并取得了很高的评并取得了很高的评价。有的人把它与空间技术，原子能技术一起并誉为价。有的人把
37、它与空间技术，原子能技术一起并誉为20世纪的三世纪的三大科学技术成就。大科学技术成就。Intelligence智能是知识与智力的总合。智能是知识与智力的总合。知识知识智能行为的基础；智能行为的基础；智力智力获取知识并运用知识求解问题的能力。获取知识并运用知识求解问题的能力。智能具有以下特征：智能具有以下特征：(1)具有感知能力具有感知能力指人们通过视觉、听觉、触觉、味觉、嗅觉等感指人们通过视觉、听觉、触觉、味觉、嗅觉等感觉器官感知外部世界的能力；觉器官感知外部世界的能力；(2)具有记忆与思维的能力具有记忆与思维的能力这是人脑最重要的功能，亦是人之所以有这是人脑最重要的功能，亦是人之所以有智能的
38、根本原因；智能的根本原因；(3)具有学习能力及自适应能力；具有学习能力及自适应能力；(4)具有行为能力。具有行为能力。Artificial Intelligence人工智能人工智能计算机科学的一个分支，是智能计算机系统，即人类智慧计算机科学的一个分支，是智能计算机系统，即人类智慧在机器上的模拟，或者说是人们使机器具有类似于人的智慧（在机器上的模拟，或者说是人们使机器具有类似于人的智慧（对语言对语言能理解、能学习、能推理）。能理解、能学习、能推理）。2.Brief History of AI(1)孕育（孕育（1956年前）年前）古希腊的古希腊的Aristotle（亚里士多德）（前亚里士多德）（前
39、384-322），给出了形式逻辑的），给出了形式逻辑的基本规律。基本规律。英国的哲学家、自然科学家英国的哲学家、自然科学家Bacon（培根）（培根）（1561-1626），系统地给），系统地给 出了归纳法。出了归纳法。“知识就是力量知识就是力量”德国数学家、哲学家德国数学家、哲学家Leibnitz（布莱尼茨）（布莱尼茨）（1646-1716）。提出了关于）。提出了关于数理逻辑的思想，把形式逻辑符号化，从而能对人的思维进行运算和数理逻辑的思想，把形式逻辑符号化，从而能对人的思维进行运算和推理。做出了能做四则运算的手摇计算机推理。做出了能做四则运算的手摇计算机英国数学家、逻辑学家英国数学家、逻辑学
40、家Boole（布尔）（布尔）（1815-1864）实现了布莱尼茨）实现了布莱尼茨 的思维符号化和数学化的思想，提出了一种崭新的代数系统的思维符号化和数学化的思想，提出了一种崭新的代数系统布尔布尔代数。代数。美籍奥地利数理逻辑学家美籍奥地利数理逻辑学家Godel（哥德尔）（哥德尔）（1906-1978），证明），证明了一阶谓词的完备性定；任何包含初等数论的形式系统，如果它了一阶谓词的完备性定；任何包含初等数论的形式系统，如果它是无矛盾的，那么一定是不完备的。意义在于，人的思维形式化是无矛盾的，那么一定是不完备的。意义在于，人的思维形式化和机械化的某种极限，在理论上证明了有些事是做不到的。和机械化
41、的某种极限，在理论上证明了有些事是做不到的。英国数学家英国数学家Turing(图灵图灵)（1912-1954）,1936年提出了一种理想年提出了一种理想计算机的数学模型（图灵机），计算机的数学模型（图灵机），1950年提出了图灵试验，发表了年提出了图灵试验，发表了“计算机与智能计算机与智能”的论文。图灵奖。的论文。图灵奖。美国数学家美国数学家Mauchly，1946发明了电子数字计算机发明了电子数字计算机ENIAC美国神经生理学家美国神经生理学家McCulloch，建立了第一个神经网络数学模型。建立了第一个神经网络数学模型。美国数学家美国数学家Shannon（香农）香农）,1948年发表了通讯
42、的数学理论，年发表了通讯的数学理论，代表了代表了“信息论信息论”的诞生。的诞生。(2)形成（形成（1956-19691956-1969）1956年提出了年提出了“Artificial Intelligence（人工智能）人工智能）”1956年年夏夏由由麻麻省省理理工工学学院院的的J.McCarthy、M.L.Minsky,IBM公公司司信信息息研研究究中中心心的的 N.Rochester,贝贝尔尔实实验验室室的的 C.E.Shannon共共同同发发起起，邀邀请请了了 Moore,Samuel,Selfridge,Solomonff,Simon,Newell等等人人，10位位数数学学家家、信信息
43、息学学家家、心心理理学学家家、神神经经生生理理学学家家、计计算算机机科科学学家家，在在Dartmouth大大学学召召开开了了一一次次关关于于机机器器智智能能的的研研讨讨会会，会会上上 McCarthy 提提议议正正式式采采用用了了 Artificial Intelligence（人人工工智智能能）这这一一术术语语。这这次次会会议议，标标志志着着人人工工智能作为一门新兴学科正式诞生了。智能作为一门新兴学科正式诞生了。McCarthy（麦卡锡）麦卡锡）人工智能之父人工智能之父。这次会议之后的这次会议之后的10年间，人工智能的研究取得了许多引人瞩目的成就年间，人工智能的研究取得了许多引人瞩目的成就.
44、机器学习方面：机器学习方面：塞缪尔于塞缪尔于1956年研制出了跳棋程序，该程序能从棋谱年研制出了跳棋程序，该程序能从棋谱中学习，也能从下棋实践中提高棋艺；中学习，也能从下棋实践中提高棋艺；在定理证明方面：王浩于在定理证明方面：王浩于1958年在年在IBM机上证明了数学原理中有关机上证明了数学原理中有关命题演算的全部定理（命题演算的全部定理（220条），还证明了谓词演算中条），还证明了谓词演算中150条定理条定理85%；1965年，鲁宾逊（年，鲁宾逊（Robinson）提出了消解原理；提出了消解原理；在模式识别方面：在模式识别方面：1959年塞尔夫里奇推出了一个模式识别程序；年塞尔夫里奇推出了一
45、个模式识别程序；1965年年罗伯特（罗伯特（Robert）编制出可辨别积木构造的程序；编制出可辨别积木构造的程序；在问题求解方面：在问题求解方面：1960年纽厄尔等人通过心理学试验总结出了人们求解年纽厄尔等人通过心理学试验总结出了人们求解问题的思维规律，编制了通用问题求解程序问题的思维规律，编制了通用问题求解程序GPS,可以用来求解可以用来求解11种不同种不同类型的问题；类型的问题；在专家系统方面：斯坦福大学的费根鲍姆（在专家系统方面：斯坦福大学的费根鲍姆（E.A.Feigenbaum）自自1965年年开始进行专家系统开始进行专家系统DENDRAL（化学分析专家系统），化学分析专家系统），19
46、68年完成并投年完成并投入使用；入使用；在人工智能语言方面：在人工智能语言方面：1960年年McCarthy等人建立了人工智能程序设计等人建立了人工智能程序设计语言语言Lisp，该语言至今仍是建造智能系统的重要工具；该语言至今仍是建造智能系统的重要工具；1969年成立了国际人工智能联合会议（年成立了国际人工智能联合会议（International Joint Conferences On Artificial Intelligence）(3)发展（发展（1970年以后）年以后）70年代，开始从理论走向实践，解决一些实际问题。同时很快就发现问年代，开始从理论走向实践，解决一些实际问题。同时很快就
47、发现问题：归结法费时、下棋赢不了全国冠军、机器翻译一团糟。题：归结法费时、下棋赢不了全国冠军、机器翻译一团糟。以以Feigenbaum为首的一批年轻科学家改变了战略思想，为首的一批年轻科学家改变了战略思想，1977年提出知年提出知识工程的概念，以知识为基础的专家咨询系统开始广泛的应用。识工程的概念，以知识为基础的专家咨询系统开始广泛的应用。著名专家系统的有：著名专家系统的有：1.DENDRAL化学分析专家系统（斯坦福大学化学分析专家系统（斯坦福大学1968）2.MACSYMA符号数学专家系统（麻省理工符号数学专家系统（麻省理工1971）3.MYCIN诊断和治疗细菌感染性血液病的专家咨询系统（斯
48、坦福大学诊断和治疗细菌感染性血液病的专家咨询系统（斯坦福大学1973）4.CASNET(Causal ASsciational Network)诊断和治疗青光眼的专家咨询系诊断和治疗青光眼的专家咨询系统（拉特格尔斯（统（拉特格尔斯（Rutgers）大学大学70年代中）年代中）5.CADUCEUS(原名原名INTERNIST)医疗咨询系统（匹兹堡大学）；医疗咨询系统（匹兹堡大学）；6.HEARSAY I 和和II语音理解系统（卡内基语音理解系统（卡内基-梅隆大学）梅隆大学）7.PROSPECTOR地质勘探专家系统（斯坦福大学地质勘探专家系统（斯坦福大学1976）8.XCON计算机配置专家系统（卡
49、内基计算机配置专家系统（卡内基-梅隆大学梅隆大学1978）80年代，人工智能发展达到阶段性的顶峰。年代，人工智能发展达到阶段性的顶峰。87,89年世界大会有千人参加。硬件公司有上千个。并进行年世界大会有千人参加。硬件公司有上千个。并进行Lisp硬件、硬件、Lisp机的研究。机的研究。在专家系统及其工具越来越商品化的过程中在专家系统及其工具越来越商品化的过程中,国际软件市场上形成国际软件市场上形成了一门旨在生产和加工知识的新产业了一门旨在生产和加工知识的新产业知识产业。应该说，知知识产业。应该说，知识工程和专家系统是近十余年来人工智能研究中最有成就的分支识工程和专家系统是近十余年来人工智能研究中
50、最有成就的分支之一。之一。同年代，同年代，1986年年Rumlhart领导的并行分布处理研究小组提出了神领导的并行分布处理研究小组提出了神经元网络的反向传播学习算法，解决了神经网络的根本问题之一。经元网络的反向传播学习算法，解决了神经网络的根本问题之一。从此，神经网络的研究进入新的高潮。从此，神经网络的研究进入新的高潮。90年代，计算机发展趋势为小型化、并行化、网络化、智能化。年代，计算机发展趋势为小型化、并行化、网络化、智能化。人工智能技术逐渐与数据库、多媒体等主流技术相结合，并融合在主人工智能技术逐渐与数据库、多媒体等主流技术相结合，并融合在主流技术之中，旨在使计算机更聪明、更有效、与人更