李沐深度学习 3 月 28 日课程笔记
2022/2/15 6:15:24
本文主要是介绍李沐深度学习 3 月 28 日课程笔记,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
3 月 28 日 课程笔记
讲课大纲
分类问题的例子
回归是单连续数值的输出,而分类通常有多个输出,输出 \(O_i\) 是第 \(i\) 类的置信度。
从回归过渡到多分类
对类别进行一位有效编码 \(y = [y_1, y_2, ..., y_n]^T\)(这种编码方式叫做 one-hot encoding,相比于直接编码成类别的序号,去除了类别之间的自然顺序)。
这样可以用线性的全连接层建模,然后用均方损失进行训练:
\[o = Wx + b \]初看起来可以通过直接判断没有规范化的输出 \(o\) 的大小来选取输出结果的,但这样存在一些问题:我们不能将输出直接视为概率,它们不满足概率公理(和为 1,且都是正数)。我们需要让输出满足概率公理,也希望能有一个适合于评估概率的目标函数来鼓励模型估计概率。
我们可以使用 Softmax 函数和交叉熵损失。
Softmax 函数能够将一个向量归一化到单位向量上面。将 \(y=softmax(o)\) 定义为:
\[y_i = \exp{o_i} / \sum_k{\exp{o_k}} \]交叉熵损失用来衡量两个概率的区别(这个公式本身是由最大似然估计导出的,详见书上):
\[H(p, q) = \sum_i{-p_i \log{q_i}} \]Softmax 回归的从零开始实现和利用框架实现
略,主要见 Jupyter Notebook 中的代码。
这篇关于李沐深度学习 3 月 28 日课程笔记的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-05-13TiDB + ES:转转业财系统亿级数据存储优化实践
- 2024-05-09“2024鸿蒙零基础快速实战-仿抖音App开发(ArkTS版)”实战课程已上线
- 2024-05-09聊聊如何通过arthas-tunnel-server来远程管理所有需要arthas监控的应用
- 2024-05-09log4j2这么配就对了
- 2024-05-09nginx修改Content-Type
- 2024-05-09Redis多数据源,看这篇就够了
- 2024-05-09Google Chrome驱动程序 124.0.6367.62(正式版本)去哪下载?
- 2024-05-09有没有大佬知道这种数据应该怎么抓取呀?
- 2024-05-09这种运行结果里的10.100000001,怎么能最快改成10.1?
- 2024-05-09企业src漏洞挖掘-有意思的命令执行