[coursera 머신러닝 강의] Normal Equation 정규 방정식 : 경사 하강법 외 최적값 찾는 방법

머신러닝 / 딥러닝 기초를 다지고자 coursera에서 Adrew Ng 강사가 진행하는 머신러닝 강의를 수강하게 되었다. 다음은 Computing Parameters Analytically 강의 내용을 정리한 것이다. 정규 방정식 Normal Equation 선형회귀에서 최솟값을 찾는 방법에는 앞 포스팅에서 언급한 경사 하강법(Gradient descent) 이외에도 정규 방정식(Normal Equation)을 이용하는 방법이 있다. 경사 하강법(Gradient descent)가 여러번 반복을 해야하는 것과 달리, 정규 방정식(Normal Equation)은 한번에 최적해를 찾을 수 있다는 특징이 있다. 정규 방정식 접근법 Normal Equation Intuition (1) Feature가 1개인 경우, J(θ)는 2차 방정식의 꼴이 된다. 따라서 최적해(최솟값)를 찾기 위해서는 θ에 대해 미분을 하고 그 값이 0이 되도록 설정하여 풀면 된다. (2) Feature가 여러 개인 경...