딥러닝 2단계: 심층 신경망 성능 향상 시키기(2)

Andrew NG 딥러닝 강의를 듣고 정리합니다. 이번 강의는 신경망을 더 빠르게 학습하도록 최적화 알고리즘에 배울 예정 4. 최적화 알고리즘 Mini Batch Vectorization allows you to efficiently compute on m examples.remind.. 큰 데이터 세트를 훈련하는데 시간이 오래걸리기에 전체 세트를 어느 정도 나눈다. Example) total data set : 5,000,000 size = 1,000 mini batch = 5,000 이런식으로 나누어서 훈련을 진행하면 더 빠르다. tip-배치 사이즈가 작을수록 가중치 갱신이 자주 일어난다. 너무 커도 안좋고 너무 작아도 안좋다. 적당한 batch size를 찾아야한다. 이에 따른 가이드 라인이 있다고 한다. ·train set < 2000EA ..........

원문링크 : 딥러닝 2단계: 심층 신경망 성능 향상 시키기(2)