[필기] Boosting_머신러닝

Boosting 부스팅의 정의 약 분류기를 순차적(Sequential)으로 학습하는 앙상블 기법 예측을 반복하면서 잘못 예측한 데이터에 가중치를 부여해서 오류를 개선 Bagging Boosting 무작위 복원 추출로 부트스트랩 샘플 추출 부트스트랩 샘플을 추출하는 과정에서 각 자료에 동일한 확률을 부여하는 것이 아니라 분류가 잘못된 데이터에 더 큰 가중을 주어 표본을 추출 AdaBoost Adaptive Boosting 간단한 약 분류기들이 상호 보완하도록 순차적으로 학습 과소적합된 학습 데이터의 가중치를 높이면서(Adaptive) 새로 학습된 모델이 학습하기 어려운 데이터에 더 잘 적합되도록 하는 방식 * 약 분류기 : 변수 하나와 if 문 하나 정도의 Depth 학습 방법 전체 학습 데이터를 이용해 모델을 생성 잘못 예측된 데이터의 가중치를 상대적으로 높여줌 가중치를 반영하여 다음 모델을 학습 EX) 패스트캠퍼스 PPT 자료 참고 예측 방법 각 모델의 신뢰도를 곱하여 Voting...

원문링크 : [필기] Boosting_머신러닝