LightGBM 算法概述

2022/9/6 1:25:33

本文主要是介绍LightGBM 算法概述,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

LightGBM 算法概述

简要解释 LightGBM

LightGBM(Light Gradient Boosting Machine)是一个开源的 机器学习 算法。它是基于决策树的算法,使用梯度提升来集成树。您可以在 GitHub 上找到该算法的代码存储库 — https://github.com/Microsoft/LightGBM . LightGBM 可用于排名和分类(二元和多类)结果。

LightGBM 与 XGBoost 的不同之处在于它的主要区别之一是它会逐叶生长——通过选择对数损失减少最大的叶子,并从那里继续构建树。

由于它的增长是逐叶增长,它可以更快地收敛,这使得它容易过拟合。因此,调整超参数非常重要。调整 max_depth 超参数 有助于确保不会发生这种情况。

其他几个重要的 超参数 , 包括 learning_rate, num_leaves, min_sample_split, max_bin, num_iterations, application。在此处查找所有其他参数: https://lightgbm.readthedocs.io/en/latest/Parameters.html .

LightGBM 还支持并行处理优化,使其速度非常快。此外,它还在后台将数值变量分桶到分类变量中,以使其速度更快,并降低内存使用量。它用 独家功能捆绑 (EFB) 减少特征的技术。 LightGBM 也使用 基于梯度的单侧采样 用于下采样样本以获得更快的运行和更高的准确性。

如果您有一个用例,您想构建一个需要预测连续、概率或标签结果的模型,您可以使用 LightGBM。 ** 例子:** 使用基于购买的模型对客户的购买概率和结果进行排名。在这个学习问题中,目标标签是客户是否购买了产品类别。 LightGBM 可以采用历史购买模式和客户人口统计等特征。然后它可以基于算法进行训练,并创建预测标签。

参考:

https://en.wikipedia.org/wiki/LightGBM

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明

本文链接:https://www.qanswer.top/15428/46480508



这篇关于LightGBM 算法概述的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!


扫一扫关注最新编程教程