[coursera 머신러닝 강의] Overfitting underfitting 해결 Regularization 정규화 람다 λ

머신러닝 / 딥러닝 기초를 다지고자 coursera에서 Adrew Ng 교수가 진행하는 머신러닝 강의를 수강하게 되었다. 다음은 정규화(Regularization) 강의 내용을 정리한 것이다. 정규화를 하는 이유? Overfitting 문제 해결 → overfitting 이란? The Problem of Overfitting Feature(변수)가 너무 많으면 문제가 생긴다. Hypothesis function이 너무 복잡해지기 때문이다. 이 복잡한 함수는 training set의 데이터 분포를 거의 똑같이 모델링 할 수는 있을 것이다. 그러나 우리의 목적은 training data와 완벽하게 똑같은 모델을 만드는 것이 아니라, 새로운 데이터에 대해서 target(y값)을 정확하게 예측하는 것이다. training data에 지나치게 맞춰진 모델은 오히려 새로운 데이터를 예측하는데 실패할 수 있다. 이와 같이 training data에 지나치게(over) fit되어 일반적인 추세를 ...