[DNN] Overfitting 방지 방법


[DNN] Overfitting 방지 방법

1. 데이터양 늘리기 - 모델은 데이터양이 적을 경우, 해당 데이터의 특정 패턴이나 노이즈까지 쉽게 기억하므로 overfitting 발생 확률이 늘어난다. 그렇기에 데이터양의 많아질수록 모델은 데이터의 일반적인 패턴을 학습하여 과적합을 방지 2. 모델의 복잡도 줄이기 - 인공 신경망의 복잡도는 hidden layer의 수나 매개변수의 수 등으로 결정이 되기에 과적합 현상이 발견되었을 시에 인공 신경망의 복잡도를 줄여준다. 3. 가중치 규제(Regularization) 적용 - 복잡한 모델이 간단한 모델보다 overfitting될 가능성이 높다. - 복잡한 모델을 간단하게 하는 방법으로 regularization이 있다. - L1 regularization : 가중치 w들의 절댓값 합계를..........

[DNN] Overfitting 방지 방법에 대한 요약내용입니다.

자세한 내용은 아래에 원문링크를 확인해주시기 바랍니다.



원문링크 : [DNN] Overfitting 방지 방법