深度学习应用开发5.1监督学习的基本术语

爷,独闯天下 提交于 2020-02-27 18:34:51

1样本 特征

在这里插入图片描述
简单线性回归案例
在这里插入图片描述
y=w*x+b
在这里插入图片描述
在这里插入图片描述

2训练与损失


损失
在这里插入图片描述
可以发现左边损失大,右边小,右侧模型比较好
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
右边的比较大

3模型训练降低损失

3.1模型训练的迭代损失

在这里插入图片描述
在这里插入图片描述
初始值取多少意义不大的,就像图像识别初始矩阵都取很小的值
在这里插入图片描述

3.2计算损失函数

在这里插入图片描述

4梯度下降法

一般来说w会随机取一个,这需要一个方法就是梯度下降法。以一个最快的方向下山,在这里取梯度
梯度的概念是一个向量,表示某一函数该点处的方向导数沿着该方向取最大值,即函数在该点处沿着该方向(此梯度方向)变化最快变化率最高。
在这里插入图片描述
在这里插入图片描述
下一个权重值通过负梯度进行下一步搜索
在这里插入图片描述

5学习率和超参数

5.1学习率

在这里插入图片描述
在这里插入图片描述

5.2超参数

在这里插入图片描述

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!