PyTorch线性回归
2022/1/20 23:13:40
本文主要是介绍PyTorch线性回归,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
回归:一个或多个自变量与因变量之间的关系之间建模的方法,经常用来表示输入和输出之间的关系
分类:预测数据属于一组类别的哪一个
一个简单的线性模型
- 线性回归是对n维输入的加权,外加偏差
- 使用平方损失来衡量预测值与真实值的差异(乘1/2为了求导方便,并没有太大影行)
- 线性回归有显示解
- 线性回归可以看成单层神经网络
梯度下降
梯度下降是通过不断沿着反梯度方向更新参数求解
学习率lr不能太大也不能太小
太小:计算次数增加,计算昂贵
太大:导致模型难以收敛
小批量随机梯度下降
批量大小batch_size不能太大也不能太小
太小:不适合并行来最大利用计算资源
太大:内存消耗增加,浪费计算
torch.matmul()的用法: 当输入是都是二维时,就是普通的矩阵乘法,和tensor.mm函数用法相同。 当输入有多维时,把多出的一维作为batch提出来,其他部分做矩阵乘法。
参考博客:torch.matmul()的用法
这篇关于PyTorch线性回归的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-05-15PingCAP 黄东旭参与 CCF 秀湖会议,共探开源教育未来
- 2024-05-13PingCAP 戴涛:构建面向未来的金融核心系统
- 2024-05-09flutter3.x_macos桌面os实战
- 2024-05-09Rust中的并发性:Sync 和 Send Traits
- 2024-05-08使用Ollama和OpenWebUI在CPU上玩转Meta Llama3-8B
- 2024-05-08完工标准(DoD)与验收条件(AC)究竟有什么不同?
- 2024-05-084万 star 的 NocoDB 在 sealos 上一键起,轻松把数据库编程智能表格
- 2024-05-08Mac 版Stable Diffusion WebUI的安装
- 2024-05-08解锁CodeGeeX智能问答中3项独有的隐藏技能
- 2024-05-08RAG算法优化+新增代码仓库支持,CodeGeeX的@repo功能效果提升