Rainbow Memory: Continual Learning with a Memory of Diverse Samples

2021 CVPR 에 제출된 논문입니다. CL 중 Replay 전략을 수정하였는데 불확실성이라고 하는 수치를 통해 이미지들을 정렬하고 수집하게 됩니다. 또한 불확실성을 높이기 위해 다양한 augmentation을 적용합니다. online 셋팅에서의 강함을 나타내고 있으며 blurry setup 이라고 불리는 데이터 재생방법을 사용합니다. 실험적으로 regularization, replay 들과 비교하며 보다 좋은 성능을 기록하는 것을 확인할 수 있습니다. 중요한 내용만 수록하였으며 환경 셋팅에 대한 설명은 정리하지 않았습니다. Introduction 저자들은 episodic memory를 활용한 CL 전략을 제시합니다.(replay or rehearsal) 위와 같이 흔히 CL에서 사용되는 셋업이 아닌 Blurry-CIL을 사용해서 문제 해결을 위한 환경을 설정합니다. 이는 disjointed setup에 비해 realistic한 특성을 가지고 있으며 current task를 학습할...

원문링크 : Rainbow Memory: Continual Learning with a Memory of Diverse Samples