搜索结果
查询Tags标签： 梯度，共有 186条记录-
联邦学习 OR 迁移学习？No，我们需要联邦迁移学习
海量训练数据是现代机器学习算法、人工智能技术在各个领域中应用获得成功的重要条件。例如，计算机视觉和电子商务推荐系统中的 AI 算法都依赖于大规模的标记良好的数据集才能获得较好的处理效果，如 ImageNet 等。然而在一些应用领域中，例如医学领域、经济学领域以及一些…
2021/4/12 18:30:11 人评论 次浏览 -
BN能不能解决过拟合？为什么？
个人认为BN不能解决过拟合，根据paper中的实验来说，是无法阻止过拟合的。但是BN可以在某些情况下对过拟合有抑制作用，使得过拟合在更多的 train epoch之后才出现。不能解决但是能缓解。BN的核心思想不是为了防止梯度消失或者是防止过拟合，其核心思想是通过系统参数搜索…
2021/4/12 10:57:49 人评论 次浏览 -
分布式机器学习中的拜占庭问题
分布式学习（Distributed Learning）是一种广泛应用的大规模模型训练框架。在分布式学习框架中，服务器通过聚合在分布式设备中训练的本地模型（local model）来利用各个设备的计算能力。分布式机器学习的典型架构——参数服务器架构中，包括一个服务器（称为参数服务器 -…
2021/4/12 10:32:41 人评论 次浏览 -
基于机器学习梯度下降优化算法来寻找最佳的线性回归模型
线性回归模型 线性回归模型是一个非常简单的算法模型，它属于机器学习中的监督学习算法。假设数据集中有特征xi和特征yi，现在每个i对应于一个样本点（xi，yi），希望通过线性回归算法建立如下所示的一个模型。其中yi为线性模型的预测值，我们肯定是希望yi能够准确预测未知…
2021/4/8 22:26:01 人评论 次浏览 -
Nesterov Accelerated Gradient (NAG)优化算法详解
比Momentum更快：揭开NAG的真面目作为一个调参狗，每天用着深度学习框架提供的各种优化算法如Momentum、AdaDelta、Adam等，却对其中的原理不甚清楚，这样和一条咸鱼有什么分别！（误）但是我又懒得花太多时间去看每个优化算法的原始论文，幸运的是，网上的大神早就已经帮…
2021/4/7 12:09:20 人评论 次浏览 -
JS实现颜色梯度与渐变效果完整实例
这篇文章主要介绍了JS实现颜色梯度与渐变效果,结合完整实例形式分析了js颜色渐变所涉及的数学运算与页面样式动态操作相关技巧,需要的朋友可以参考下
2019/6/27 21:31:25 人评论 次浏览
