机器学习:逻辑回归总结(上)

故事扮演 提交于 2019-12-27 17:51:16

首先逻辑回归是一种有监督的分类算法,名字中含有回归二字,是因为在多年前关于回归与分类的定义与现在有所不同,这一历史原因造成
逻辑回归可以视为广义的线性模型在因变量y服从二元分布时的一种特殊情况;在使用最小二乘法求解线性回归时,认为因变量y服从正态分布
为了能够得到最终的分类结果,我们引入sigmoid函数将利用回归模型得到的数值映射到(0,1)区间,其后通过比较映射结果与给定阈值的大小关系得到最终的分类结果。
可以将逻辑回归模型理解为:逻辑回归 = 回归模型 + 映射关系(sigmoid函数)
在逻辑回归模型中关于损失函数,是使用交叉熵(也称对数损失函数)
sigmoid函数与其导数的关系

在这里插入图片描述
又因为参数θ的更新是采用梯度下降的方式,故得到如下公式(此处假设参数迭代次数为n):
在这里插入图片描述

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!