딥러닝 특론 - RNN (1)

1. RNN 기초시퀸스 데이터시간의 흐름에 따라 변화하는 값을 나열한 데이터이산 시퀸스 데이터RNN (Recurrent Neural Network)- 시퀸스 데이터처리에 적합한 인공신경망 구조- Recurrent Connection- Internal MemoryRNN의 구조Recurrent Connection을 이용한 시퀀스처리- Recurrent Connection에 사용되는 파라미터가 공유되는 인공신경망RNN의 구조: 연산방법Vanilla RNN의 파라미터- Whh, Wxh, bhVanilla RNN의 연산* ReLU 를 쓰게 되면 0은 0이 되고 입력값이 입력값으로 출력되는 편향이 있음. 이런 과정에서 마이너스 값이 없으면 입력값이 커지면 오버피팅되는 현상이 있기에 tanh 같이 마이너스 값이 있어서 0에 수렴할 수 있도록 하..........

원문링크 : 딥러닝 특론 - RNN (1)