《《机器学习与模式识别》理论教学大纲.docx》由会员分享，可在线阅读，更多相关《《机器学习与模式识别》理论教学大纲.docx（7页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、机器学习与模式识别理论教学大纲(Machine Learning and Pattern Recognition)课程代码：0600076总 学 时：48学时(其中：讲课32学时、实验16学时)先修课程：程序设计基础与应用、数据结构、高等数学、算法导论一、课程的性质、目的与任务机器学习与算法导论是数据科学与大数据技术专业的一门专业选修课程。其教 学重点是使学生掌握常见机器学习算法，包括算法的主要思想和基本步骤，并通过编 程练习和典型应用实例加深了解；同时对机器学习的一般理论，如假设空间、采样理 论、计算学习理论，以及无监督学习和强化学习有所了解。模式识别部分是研究计算 机模式识别的基本理论、方
2、法和应用。通过本课程的学习，使学生掌握模式识别的基 本概念、基本原理、基本分析方法和算法，培养学生利用模式识别方法，运用技能解 决本专业和相关领域的实际问题的能力。学生通过本门课程的学习，能够对机器学习和模式识别的内容有一个较为全面的了 解和认识，更深刻地理解机器学习的实质内容，使学生具备前沿的计算机技术必要的 专业知识。从而，为学生今后从事数据分析与挖掘与计算机技术前沿研究，以及相关 领域的科学研究做好理论和技术上的准备。二、教学基本内容与基本要求(1)基本内容本课程主要介绍决策论与信息论基础、概率分布、回归的线性模型、分类的线性模 型、核方法、支持向量机、图模型、混合模型和期望最大化、隐M
3、arkov模型和条件随 机场模型、统计决策方法、概率密度函数的估计、线性分类器、非线性分类器、其他 分类方法、特征选择、特征提取、非监督模式识别、模式识别系统的评价等。(2)基本要求通过对机器学习与模式识别基本概念、原理、和基本方法的讲解，让学生理解并 掌握机器学习和模式识别的基本技术。培养学生利用模式识别方法，运用技能解决本专业和相关领域的实际问题的能 力。鼓励学生运用知识解决各自学科的实际问题，培养他们的独立科研的能力和理论 联系实际的能力。三、教学及实验课时分配教学及实验课时分配序号章节内容讲课实验其他合计弟一早绪论22第二章概率分布22第三章回归的线性模型224第四章分类的线性模型22
4、4第五章神经网络325第六章核方法224第七章稀疏核集224第八章图模型224第九章混合模型和EM22第十章隐Markov模型和条件随机场模型22第十一章特征选择224第十二章特征提取22第十三章非监督模式识别22第十四章模式识别系统的评价325总复习结课复习22合计321648四、教学内容(1)绪论教学重点、难点：决策论与信息论基础、损失函数、错分率的最小化、期望损失 的最小化等；相对端、互信息。模式与模式识别、模式识别的主要方法、监督模式识 别与非监督模式识别、模式识别系统举例、模式识别系统的典型构成。课程的考核要求：熟悉机器学习与模式识别的基本定义和术语；基本数学知识。 了解：了解机器学
5、习与模式识别的研究范围和内容。理解：决策论与信息论基础、损失函数、错分率的最小化、期望损失的最小化等; 相对熠、互信息。模式与模式识别、模式识别的主要方法、监督模式识别与非监督模 式识别、模式识别系统举例、模式识别系统的典型构成等概念。掌握：掌握决策论与信息论基础、模式识别的主要方法。应用：与实际问题相呼应。教学重点、难点：高斯分布、混合高斯分布、Dirichlet分布、beta分布等。课程的考核要求：熟悉最大似然估计、贝叶斯估计与贝叶斯学习、概率密度估计 的非参数方法。了解：最大似然估计、充分统计量、共祖先验、无信息先验等。非参数方法：核 密度估计、近邻法理解：neyman-pearson决
6、策与roc曲线、正态分布时的统计决策、错误率的计算、 概率密度函数的估计掌握：掌握最小错误率贝叶斯决策、最小风险贝叶斯决策、两类错误率。应用：离散概率模型下的统计决策举例。(3)回归的线性模型教学重点、难点：贝叶斯线性回归。课程的考核要求：熟悉线性基函数模型。了解：贝叶斯模型比较。理解：等价核的概念。掌握：掌握贝叶斯模型。应用：各种分布的具体应用。(4)分类的线性模型教学重点、难点：最优分类超平面与线性支持向量机。课程的考核要求：熟悉判别函数：二分类和多分类的Fisher线性判别、概率生成 模型：连续输入、离散特征。了解：fisher线性判别分析。理解：多类线性分类器。掌握：线性判别函数的基本
7、概念、感知器、最小平方误差判别应用：分类模型的具体应用。(5)神经网络教学重点、难点：神经网络的正则化。课程的考核要求：熟悉各种神经网络及其梯度下降的概念。了解：hessian矩阵及混合密度网络。理解：贝叶斯神经网络、多层感知器神经网络。掌握：前馈神经网络及神经网络的训练应用：进行神经网络实验的具体应用。(6)核方法教学重点、难点：构造核函数课程的考核要求：熟悉对偶表示、径向基函数网络、Nadaraya-Watson模型了解：Laplace逼近理解：高斯过程模型用于回归和分类。掌握：高斯过程应用：核方法与神经网络的联系。(7)稀疏核集教学重点、难点：最优分类超平面与线性支持向量机、用于多分类和
8、回归的支持 向量机。课程的考核要求：熟悉判别函数：二分类和多分类的Fisher线性判别、概率生成 模型：连续输入、离散特征。了解：各种变种理解：多类线性分类器以及最大边缘分类器。掌握：统计学习理论应用：稀疏核集的具体应用。(8)图模型教学重点、难点：Markov随机场。课程的考核要求：熟悉因子分解。了解：循环置信传播理解：图模型中的推断掌握：条件独立的内容应用：置信网络的具体应用。(9)混合模型和期望最大化算法教学重点、难点：高斯混合模型的参数估计、EM一般算法及其应用课程的考核要求：、EM 一般算法及其应用、最大似然估计、EM算法、贝叶斯线性 回归了解：伯努利分布的混合理解：高斯混合模型的参
9、数估计。掌握：最大似然估计、EM算法、贝叶斯线性回归 应用：贝叶斯线性回归的EM算法。(10)隐Markov模型和条件随机场模型教学重点、难点：隐Markov模型、条件随机场及其应用课程的考核要求：熟悉隐Markov模型、条件随机场及其应用、Viterbi算法了解：Baum - Wei ch算法等理解：向前-向后算法掌握：熟悉隐Markov模型、条件随机场及其应用、Viterbi算法应用：隐Markov模型和条件随机场模型的具体应用。(11)特征选择教学重点、难点：特征选择的最优算法课程的考核要求：特征的评价准则、特征选择的最优算法了解：特征选择的次优算法理解：特征选择的遗传算法掌握：以分类性
10、能为准则的特征选择方法应用：特征选择的具体应用。(12)特征提取教学重点、难点：基于类别可分性判据的特征提取、主成分分析方法、高维数据 的低维显示。课程的考核要求：熟悉基于类别可分性判据的特征提取、主成分分析方法、高维 数据的低维显示、多维尺度法。了解：karhunen-loeve 变换理解：非线性变换方法掌握：线性判别函数的基本概念、感知器、最小平方误差判别基于类别可分性判 据的特征提取、主成分分析方法、高维数据的低维显示、多维尺度法。应用：5kT变换在人脸识别中的应用举例(13)非监督模式识别教学重点、难点：基于模型的方法、动态聚类算法课程的考核要求：熟悉基于模型的方法、动态聚类算法、模糊
11、聚类方法 了解：自组织映射神经网络理解：分级聚类方法掌握：混合模型的估计、基于模型的方法、动态聚类算法、模糊聚类方法 应用：非监督模式识别的具体应用。(14)模式识别系统的评价教学重点、难点：有限样本下错误率的区间估计问题课程的考核要求：熟悉监督模式识别方法的错误率估计方法了解：非监督模式识别系统性能的评价理解：特征提取与选择对分类器性能估计的影响掌握：监督模式识别方法的错误率估计方法应用：从分类的显著性推断特征与类别的关系五、教学方法与教学手段(1)教学方法机器学习与模式识别是一门理论与实践并重的课程，因此，本课程采用理论课程 教学与实验课程教学相结合的方法。通过对知识点和典型例题的讲解分析
12、以及上机实 验的指导答疑，发挥学生思考问题的主动性和创造性，能用编写常用机器学习算法。(2)教学手段利用多媒体、CAI课件等现代化教学手段，提高教学质量。六、建议教材与参考书目(1)参考教材：周志华，机器学习，清华大学出版社，2016(2)参考书目Bishop, C. M. Pattern Recognition and Machine Learning, Spring Science Business Media. 2006Mitchell, T. M. Machine Learning, The McGraw-Hill Companies, Inc. 2007Sergios Theodor
13、idis,模式识别，电子工业出版社，2016七、大纲编写的依据与说明本课程教学大纲，是根据数据科学与大数据技术专业培养目标和基本要求，结合 本课程的性质，经学校教学委员会审定后编写的。本课程主要介绍决策论与信息论基 础、概率分布、回归的线性模型、分类的线性模型、核方法、支持向量机、图模型、 混合模型和期望最大化、隐Markov模型和条件随机场模型、统计决策方法、概率密度 函数的估计、线性分类器、非线性分类器、其他分类方法、特征选择、特征提取、非 监督模式识别、模式识别系统的评价等。通过教学和实践，培养学生运用数学工具和方法分析问题和从多角度运用数学工具 解决问题的基本能力，培养学生利用模式识别方法，运用技能解决本专业和相关领域 的实际问题的能力，训练学生的逻辑思维能力和想象力。