趋近智
XGBoost相较于标准梯度提升算法有了显著提升,但也有其他专业库随之出现,旨在解决特定的性能瓶颈。本章将介绍两个著名的框架——LightGBM和CatBoost,它们在训练速度和处理类别数据方面提供了独特的优化。
我们首先会介绍LightGBM以及它在大规模数据集上加速训练的方法,例如基于梯度的单侧采样(GOSS)和独占特征捆绑(EFB)。接着,我们会介绍CatBoost及其处理类别特征的复杂内部机制,其中包含有助于避免目标数据泄露的有序提升策略。本章最后将对XGBoost、LightGBM和CatBoost的性能特点进行直接比较,随后会提供一个实际练习,让您使用这些库实现模型。
5.1 LightGBM 介绍:基于梯度的单边采样
5.2 LightGBM 的独占特征捆绑
5.3 CatBoost 简介:处理类别特征
5.4 CatBoost的有序提升和对称树
5.5 性能比较:XGBoost、LightGBM 与 CatBoost
5.6 动手实践:实现 LightGBM 和 CatBoost
© 2026 ApX Machine Learning用心打造