[딥러닝이 말하는 영상인식 - 3] 경사하강법(Gradient Descent Algorithm) (1)

이번 포스팅에서는 지난 포스팅에서 예고한 대로 학습이 어떻게 이루어지는 것인지 좀 더 깊게 알아보도록 하겠습니다. 딥러닝에서 모델을 학습시킨다는 건 최적화(optimization) 과정을 수행하는 것과 같습니다. 여기서 최적화란, 모델의 예측값과 실제 정답과의 차이를 측정하는 손실 함수(J(w); loss funciton)의 최솟값(Global cost minimum)을 찾아나가는 것을 의미합니다. 한 스텝마다 이동해 업데이트하는 크기, 즉 업데이트 단위가 학습률(learning rate)로 정의되고, 업데이트 방향은 현 지점의 기울기(gradient)를 통해 정의됩니다. 이렇게 손실 함수의 기울기(gradient) 값을 기반으로 가중치를 업데이트하는 최적화 기법을 경사하강..........

[딥러닝이 말하는 영상인식 - 3] 경사하강법(Gradient Descent Algorithm) (1)에 대한 요약내용입니다.

자세한 내용은 아래에 원문링크를 확인해주시기 바랍니다.

원문링크 : [딥러닝이 말하는 영상인식 - 3] 경사하강법(Gradient Descent Algorithm) (1)