RNN

RNN은 입려과 출력을 시간 순으로 처리하는 시퀀스 모델입니다. 단순한 딥러닝 모델처럼 입력과 출력 쌍이 딱 하나 있는 것이 아니라, 우리가 사용하는 말과 같이 시간에 따른 어떠한 값으로 표현할 수 있는 일종의 시퀀스 단위로 처리하기 위한 인공 신경망입니다. RNN의 R은 Recurrent를 뜻하며 그것이 곧 RNN의 작동원리라고 할 수 있습니다. 실제로 우리가 사람과 대화를 하면서 다음에 나올 말이 무엇일지 예측하기 위해서는 이전의 대화들을 기억하고 있어야 합니다. 그렇지 않으면 우리는 상대의 질문에 대한 답만 하는 단순한 리액션 봇이 되어버릴 것입니다. 하지만 사람은 로봇이 아닙니다. 지금까지의 대화를 다시 생각하고 그것에 대한 답변 혹은 질문을 생각할 수 있죠. "이전 대화를 기억하는 것"은 RNN의 신경망과 비슷합니다. 입력은 시간에 따라서 계속해서 들어옵니다. 그리고 그 다음 입력에서도 이전 셀의 값을 가져옵니다. 이것이 신경망이 이전 대화를 기억하는 법입니다. 이를 조금 ...

원문링크 : RNN