DDGR: Continual Learning with Deep Diffusion-based Generative Replay


DDGR: Continual Learning with Deep Diffusion-based Generative Replay

저자 : Rui Gao, Weiwei Liu 학회 : ICML 2023 Summary 기존에 GAN을 이용해서 생성하던 이미지들은 퀄리티가 좋지 못해서 CL 단계에서 replay로 사용하는 경우에 자꾸만 성능을 떨어트리는 계기가 되었음. 하지만 고 퀄리티의 이미지를 생성하면서 다양성이 보장되는 Diffusion이라는 새로운 생성 모델이 등장하게 됨으로써 생성되는 이미지들을 Replay 하는 것에 대해서 믿음을 가질 수 있게 되었음을 이야기하면서 저자들은 이 방법을 replay를 위한 데이터를 따로 수집하지 않고 Diffusion Model(DM)을 통해 이미지를 생성하면서 Continual Incremental learning의 단계에서 사용하였음. 크게 많은 것을 제안하지는 않았고 DM 을 적절하게 CIL의 흐름에 적용하는 것을 컨트리뷰션으로 여겼음. 따라서 저도 DM에 대해서는 어떻게 사용하였는지에 대해 설명하고 CL 관점에서 소개합니다. 물론 DM에 대부분인 논문인 만큼 핵심적...


#CI #GenerativeReplay #GR #ICML #ICML2023 #incremental #incrementallearning #Replay #ReplayContinual #replaystrategy #논문리뷰 #지속학습 #DM #DiffusionModels #CIL #CL #ClassifierGUidanceDiffusion #classincremental #continual #continuallearning #DDGR #DGR #diffusion #DiffusionBasedGenerativeModel #DiffusionGuidanceContinualLearning #지속학습논문

원문링크 : DDGR: Continual Learning with Deep Diffusion-based Generative Replay