《05基于逻辑回归算法的分类模型教学课件 .pptx》由会员分享，可在线阅读，更多相关《05基于逻辑回归算法的分类模型教学课件 .pptx（21页珍藏版）》请在taowenge.com淘文阁网|工程机械CAD图纸|机械工程制图|CAD装配图下载|SolidWorks_CaTia_CAD_UG_PROE_设计图分享下载上搜索。
1、05 基于逻辑回归算法的分类模型教学课件 基于逻辑回归算法的分类模型项目知识准备 第一节项目实训 第二节项目拓展 第三节目录 content项目知识准备第一节项目知识准备5.1.1逻辑回归算法的基本原理5.1.2 LogisticRegression逻辑回归分类器5.1.1 逻辑回归算法的基本原理逻辑回归是机器学习中最常用最经典的分类方法之一。虽然线性回归 逻辑回归是机器学习中最常用最经典的分类方法之一。虽然线性回归算法和逻辑回归算法都有回归一词，但是线性回归解决回归问题，而 算法和逻辑回归算法都有回归一词，但是线性回归解决回归问题，而逻辑回归称为回归模型，但是却处理的是分类问题。逻辑回归称为
2、回归模型，但是却处理的是分类问题。5.1.1 逻辑回归算法的基本原理逻辑回归的因变量可以是二分类的，也可以是多分类的，但是二分类 逻辑回归的因变量可以是二分类的，也可以是多分类的，但是二分类的更为常用，也更加容易解释，多类可以使用 的更为常用，也更加容易解释，多类可以使用softmax softmax方法进行处理。方法进行处理。二分类的逻辑回归的本质是一个线性模型加上一个映射函数 二分类的逻辑回归的本质是一个线性模型加上一个映射函数Sigmoid Sigmoid，将线性模型得到的连续结果映射到离散型上。逻辑回归的目的是寻找 将线性模型得到的连续结果映射到离散型上。逻辑回归的目的是寻找一个非线性
3、函数 一个非线性函数Sigmoid Sigmoid的最佳拟合参数，求解过程可以由最优化算法 的最佳拟合参数，求解过程可以由最优化算法来完成。来完成。5.1.1 逻辑回归算法的基本原理 Sigmoid Sigmoid函数将任意的输入映射到了 函数将任意的输入映射到了 0,1 0,1区间，我们在线性回归中可以得到一个 区间，我们在线性回归中可以得到一个预测值，再将该值映射到 预测值，再将该值映射到 Sigmoid Sigmoid函数中这样就完成了由值到概率的转换，也就是 函数中这样就完成了由值到概率的转换，也就是分类任务。分类任务。5.1.2 LogisticRegression 逻辑回归分类器
4、LogisticRegression LogisticRegression类的定义如下：类的定义如下：class sklearn.linear_model.LogisticRegression(penalty=l2,dual=False,tol=0.0001,c=1.0,fit_intercept=True,class sklearn.linear_model.LogisticRegression(penalty=l2,dual=False,tol=0.0001,c=1.0,fit_intercept=True,intercept_scaling=1,class_weight=None,ran
5、dom_state=None,solver=liblinear,max_iter=100,multi_class=ovr,intercept_scaling=1,class_weight=None,random_state=None,solver=liblinear,max_iter=100,multi_class=ovr,verbose=0,warm_start=False,n_jobs=1)verbose=0,warm_start=False,n_jobs=1)主要参数：主要参数：penalty penalty：正则化选择参数，正则化选择参数，str str类型，类型，penalty pe
6、nalty参数可选择的值为 参数可选择的值为“l1”l1”或 或“l2”l2”。c c：正则化系数 正则化系数 的倒数，的倒数，float float类型，默认为 类型，默认为1.0 1.0。必须是正浮点型数。必须是正浮点型数。solver solver：优化算法。取值 优化算法。取值“liblinear”liblinear”代表坐标轴下降优化法。代表坐标轴下降优化法。“lbfgs”lbfgs”和 和“newton-cg”newton-cg”分别表示两种拟 分别表示两种拟牛顿优化方法；牛顿优化方法；“sag”sag”是随机梯度下降优化法。是随机梯度下降优化法。max_iter max_iter
7、：int int，可选，默认值 可选，默认值=100=100。求解器收敛的最大迭代次数。求解器收敛的最大迭代次数。multi_class multi_class：该参数决定分类方式的选择。参数可选项为 该参数决定分类方式的选择。参数可选项为 auto auto，ovr ovr，multinomial multinomial 5.1.2 LogisticRegression 逻辑回归分类器 主要属性：主要属性：（1 1）coef_ coef_：返回各特征的系数；：返回各特征的系数；（2 2）intercept_ intercept_：返回模型的截距；：返回模型的截距；（3 3）n_iter_ n
8、_iter_：返回模型迭代次数。：返回模型迭代次数。常用方法：常用方法：（1 1）fit(X,y)fit(X,y)：根据给定的训练数据对模型进行拟合；：根据给定的训练数据对模型进行拟合；（2 2）predict(X)predict(X)：预测：预测X X中样本所属类别的标签；中样本所属类别的标签；（3 3）predict_proba(X)predict_proba(X)：概率估计，预测：概率估计，预测X X中样本为某个类别的概率；中样本为某个类别的概率；（4 4）score(X,y)score(X,y)：返回给定测试数据和实际标签相匹配的平均准确率：返回给定测试数据和实际标签相匹配的平均准确率
9、。项目实训第二节项目实训5.2.1 5.2.1 逻辑回归算法预测考试是否 逻辑回归算法预测考试是否及格 及格5.2.2 5.2.2 逻辑回归算法实现鸢尾花分类 逻辑回归算法实现鸢尾花分类5.2.1 逻辑回归算法预测考试是否及格 1.数据准备 首先我们需要准备一些往年的调查结果数据，根据学生的复习情况，确定数据的两个特征为时长、效率，其中时长单位为小时，效率为0，1 之间的浮点数，数值越大表示效率越高。定义训练数据集X_train，目标值y_train 为考试结果，0 表示不及格，1 表示及格。5.2.1 逻辑回归算法预测考试是否及格 2.创建并训练逻辑回归模型 接下来，我们使用scikit-l
10、earn 的linear_model 模块中的LogisticRegression 类构造逻辑回归模型并使用往年的调查结果数据对模型进行训练，并使用测试数据评估模型得分。5.2.1 逻辑回归算法预测考试是否及格 3.预测并输出预测结果 给出一个学生的学习状态，预测该学生考试是否能够及格，并给出考试及格和不及格的概率。5.2.2 逻辑回归算法实现鸢尾花分类 1.准备数据集和必要的模块 使用scikit-learn 的datasets 模块中的iris 作为数据集，导入线性模块linear_model 中的LogisticRegression 类，使用sklearn.model_selection
11、 进行测试集和训练集的划分。5.2.2 逻辑回归算法实现鸢尾花分类 2.创建逻辑回归模型对象并训练、评估模型 首先对multi_class 参数采用“ovr”的多分类方式，那么对于solver 算法参数选择“liblinear”5.2.2 逻辑回归算法实现鸢尾花分类 接下来我们修改multi_class 参数为“multinomial”的多分类方式，那么对于solver 算法参数改为选择“lbfgs”项目拓展第三节项目拓展判断肿瘤是良性还是恶性1.1.导入 导入breast_cancer breast_cancer数据 数据集 集2.2.将 将breast_cancer breast_cancer数据集划分为训练集和测试 数据集划分为训练集和测试集 集3.3.对数据集进行标准化 对数据集进行标准化处理 处理4.4.构建 构建LogisticRegression LogisticRegression模型并训练 模型并训练模型 模型5.Logistic 5.Logistic回归模型分析与评估 回归模型分析与评估谢 谢 聆 听T H A N K S F O R Y O U R A T T E N T I O N