탄젠트 하이버폴릭(tanh) 함수 알아보기 + 미분

바로 저번 글[링크]에서는 시그모이드 함수(sigmoid function)에 대해 알아보았으니, 이번에는 어제 글에서 약속한대로 이와 비슷하게 생겼지만 좋은 점이 더 많은 탄젠트 하이퍼볼릭 함수(tangent hyperbolic function)에 대해 알아봅시다. 이번 파트는 딥러닝과 약간 연관이 있어 tanh에 대해서 집중하겠지만, 그 전에 hyperbolic한 함수가 무엇인지부터 한번 간단하게 살펴보겠습니다. 기본적인 hyperbolic한 함수는 총 세가지가 있는데 sinh(sine hyperbolic), cosh(cosine hyperbolic), tanh(tangent hyperbolic)이 있습니다. 이름에 sin, cos, tan이 들어가있다고 해서 익숙한 삼각함수(trigonometrical function)과 관련이 있는 건 아니고, 이 hyperbolic한 함수들이 삼각함수와 성질이 삼각함수와 많이 닮아서 그렇게 이름이 붙여진 것입니다. (실제 그 모습 자체로 관련...