시그모이드 함수(sigmoid function) 알아보기 + 미분

(갑자기 시그모이드 함수를 알아보는 시간!) 시그모이드 함수 그래프 모습 이렇게 S자로 처음에는 잠잠하다가 중간에 갑작스럽게 크게 늘어나고, 이후 다시 특정 지점에 수렴하면서 잠잠해지는 형태의 함수를 통틀어서 로지스틱 함수(logistic function)라고 하는데(제가 공부했던 옛날 수학책에서는 "병참 함수"라는 표현을 쓰기도 했습니다.), 특정 네트워크 내에서 악성코드 전파 흐름, 생물개체군의 분석부터 딥러닝에서 활성화 함수로 쓰이는 등 다양한 용도에 쓰입니다. 이번에는 다소 뜬끔없기도 하지만, 저렇게 S자형으로 재미있게 생긴 함수인 시그모이드 함수(sigmoid function)에 대해 알아봅시다. x가 0일때 0.5의 값을 가지고, 모든 실수를 정의역으로 받아 0부터 1 중 어떤 한 실수로 내보내는 성질을 가졌습니다. 그래서 이렇게 범위가 무한한 입력값을 0 ~ 1까지로 한정시켜 결과를 딱 내보내기 때문에, 일종의 압축 함수(compression function)으로 부르기...