[바람돌이/머신러닝] 앙상블(Ensemble Learning)(4) - 부스팅(Boosting), XGBoost, CatBoost, LightGBM 이론

안녕하세요. 오늘은 저번 앙상블 포스팅에서 다루지 못했던 XGBOOST, CATBOOST, LIGHTGBM에 대해 정리하려고 합니다. 위 3개의 부스팅 모델은 굉장히 많이 사용되는 모델들입니다. 각 논문마다 굉장히 많은 내용을 담고 있어서 간단하게 흐름을 정리하려고 합니다. 수학적인 원리보다는 알고리즘 접근 방향성에 대해서 보겠습니다. 각 논문의 abstract를 정리한 거라고 생각하면 될 것 같습니다.GMB(Gradient Boosting Machine) 기존 앙상블 포스팅에서 gbm에 대해 정리했었습니다. 간단하게 정리하면 초기 예측을 하고 예측에 대한 loss function에 미분으로 gradient을 구합니다. 그리고 그 값을 전달하여 오차를 줄이는 학습 방식이었습니..........

[바람돌이/머신러닝] 앙상블(Ensemble Learning)(4) - 부스팅(Boosting), XGBoost, CatBoost, LightGBM 이론에 대한 요약내용입니다.

자세한 내용은 아래에 원문링크를 확인해주시기 바랍니다.

원문링크 : [바람돌이/머신러닝] 앙상블(Ensemble Learning)(4) - 부스팅(Boosting), XGBoost, CatBoost, LightGBM 이론