Overcoming Catastrophic Forgetting in Incremental Object Detection via Elastic Response Distillation

ERD ERS Elastic Response Distillation Elastic Response Selection Catastrophic forgetting Continual Learning Incremental Learning 2022 CVPR CNN을 기반으로 하는 Detection 모델에 Catastrophic forgetting을 방지하기 위한 방법으로 ERD + ERS 라는 새로운 전략을 제시하는 논문입니다. 기존에 사용하던 Distillation방법과 유사하지만 다른 Head의 개념에 맞게 변경해서 사용하였고, All Response 말고 High Confidence response만을 사용해서 좋은 성능을 냈다고 이야기 하고 있습니다. 내용은 간단하게 이해할 정도로 소개합니다. Introduction CL = Continual Learning은 우리 동물들에게는 정말 당연한 일이지만 딥러닝 모델에서는 그렇지 않습니다. 현재까지의 딥러닝은 지속적으로 들어오는 정보를 처리...

원문링크 : Overcoming Catastrophic Forgetting in Incremental Object Detection via Elastic Response Distillation