[머신러닝] SVM kernel trick 커널트릭 / 비선형 결정경계 구하는 원리

머신러닝 / 딥러닝 기초를 다지고자 coursera에서 Adrew Ng 교수가 진행하는 머신러닝 강의를 수강하게 되었다. 다음은 Support Vector Machines 강의 내용을 정리한 것이다. 이번 포스팅에서는 Kermels에 대해 알아본다. Non-Linear Decision Boundary 비선형 의사결정 경계 다음과 같은 data에는 비선형 의사결정 경계(non-linear decision boundary)가 필요하다. 여기서 SVM classifier가 목표하는 것은 θ0+θ1x1+θ2x2+···+θ4x12+θ5x12+···≥ 0 일 때 y=1 이 되도록 하는 것이다. 이 때 x1,x2,x12,x22,··· 와 같은 feature 들을 더 일반적인 형태로 표현하기 위해 f1,f2,··· 로 고쳐 써보자. 이와 같은 fx들은 기존의 feature들 (x1,x2,···)을 모종의 과정을 통해 변환한 새로운 feature라고 볼 수 있다. 이제 이 fx를 어떻게 구하면 no...