R에서의 Ridge회귀, LASSO회귀

지금까지 Ridge, LASSO등을 배웠다. 이제 이걸 어디에 써먹는가? Likelihood 부분만 바꿔주면 regression이 되었다가 classification이 될 수도 있다. 이번애는 그동안 배운 것을 응용하는 것을 보여주겠다. R에서의 패널티 회귀분석 R의 glm함수는 정규분포 외의 이항분포, 포아송 분포 등을 해결할 수 있게 해준다. 하지만 glm함수는 penalty개념이 없고, 다항분포를 처리할 수 없다. Iris의 species에 따른 분류를 할 수 없는 것이다. Ridge를 하기 위해서 MASS패키지의 lm.ridge()를 통해 ridge penalty를 붙일 수 있다. 이는 ridge만을 하기 위해서이다. Cross-entropy를 해결하기 위해서 nnet패키지의 multinom()패키지를 이용할 수 있다. 좀 더 넓은 문제를 해결하기 위해서는 glmnet 패키지를 사용해야 한다. Ridge, LASSO, 그리고 둘의 차분인 Elastic net을 이용할 수 있다...

원문링크 : R에서의 Ridge회귀, LASSO회귀