배치 정규화 (Batch Normalization) 정리

딥러닝 코드를 보면서 배치 정규화를 위한 layer을 종종 보게 되었는데요 tensorflow.keras.layers.BatchNormalization 유용한 활용을 위해 배치 정규화란 무엇이고 언제, 어떻게 사용하는지 여러 자료를 참고해 정리해보겠습니다 :) c 배치 정규화란? 이름 그대로 input을 0과 1 사이의 값으로 정규화 시켜주는 인공신경망의 층입니다. 그렇다면 왜 배치정규화가 필요할까요? 인공신경망에서는 훈련을 거듭할 수록, 인풋으로 들어오는 배치 데이터의 분포는 불규칙하고 사실상 랜덤하게 됩니다. 이렇게 데이터의 분포가 변하면,모델은 계속 새로운 데이터 분포에 대응하려 하면서 전반적인 훈련이 느려지는 현상이 발생하게 됩니다. 이때, 훈련을 계속하더라도 데이터의 분포를 유지시켜주는 일종의 ..

원문링크 : 배치 정규화 (Batch Normalization) 정리