EfficientNetV2

#EfficientNetv2 #Classification >> efficientnetv1과 비교했을 때 4배 빠른 학습속도와 6.8배 적은 파라미터수로 비슷한 정확도를 달성함. >> 큰 이미지로 학습하면 학습이 느림 -> progressive learning -> 이미지 크기를 점진적으로 증가 -> 정확도 감소 하기 때문에 이미지가 작을때는 약한 정규화, 크면 강한 정규화 적용하기 (dropout, Random Augment, mixup) >> 초기 layer에 depthwise conv는 학습 속도에 악영향 -> Fused-MBConv는 MBConv의 1x1 conv + 3x3 depthwise conv 대신에, 하나의 3x3conv를 사용 -> 초기 stage에만 Fused-MBConv 적용 (모든 stage에 적용하면 느려짐) >> 모든 stage를 동일한 비율로 scaling up하면 안좋음 -> non-uniform scaling -> 모든 stage를 동일하게 scalin...

원문링크 : EfficientNetV2