小匠第一周期打卡笔记
一、线性回归 知识点记录 线性回归输出是一个连续值,因此适用于回归问题。如预测房屋价格、气温、销售额等连续值的问题。是单层神经网络。 线性判别模型 判别模型 性质:建模预测变量和观测变量之间的关系,亦称作条件模型 分类:确定性判别模型:y=fθ(x) 概率判别模型:pθ(y|x) 线性判别模型(linear regression) y=fθ(x)= θo +【(d,i=1),加和】θjxj = θTx ,x= (x1,x2,x3,...,xd) 学习目标: 使预测值和真实值的距离越近越好, min 1((【N,i=1】)加和)&(yi,fθ(xi)))/N 损失函数:&(yi,fθ(xi))测量预测值与真实值之间的误差,越小越好(方差最小), 具体损失函数的定义依赖于具体数据和任务 最广泛使用的损失的回归函数:平方误差(squared loss),&(yi,fθ(xi)) = 1(yi-fθ(xi))*(yi-fθ(xi))/2 最小均方误差回归 优化目标是最小化训练数据上的均方误差 jθ = 1(【N,i=1】加和)(yi -fθ(xi))*(yi -fθ(xi))/2N min jθ 模型: 假设价格只取决于房屋状况的面积和房龄因素,加下来探索价格与此俩因素具体关系