Learning without Forgetting


Learning without Forgetting

Incremental Learning Contionous Learning 지속 학습 TransferLearning Implementation 코드 구현 논문 요약 설명 KD에 이어서 Incremental Learning 중 하나인 Learning Without Forgetting에 대해서 코드를 작성해보고 리뷰하려고 합니다. 제목에서도 알 수 있듯이 잊어버림없이 계속해서 학습하는 것을 말합니다. 자세한 설명은 넘어가도록 하고, 아래 블로그에서 간략적인 내용을 확인할 수 있습니다. 그래도 코드를 구현하려면 논문을 읽어보는 것을 추천합니다. ( Introduction에서 Main Idea와 3 챕터의 이론 설명에서 괜찮은 설명을 하고 있습니다. ) [PAML 2017] Learning Without Forgetting (LwF) 핵심 리뷰 내용 요약 LwF(Learning-Without-Forgetting) 방식의 Incremental Learning 방법론을 제안합니다. Cross E...


#ContinoualLearning #LearningwithoutforgettingImplementation #Learningwithoutforgetting구현 #LWF #LWFImplementation #논문코드구현 #딥러닝 #증가학습 #증류모델 #지식증류모델 #지식증류실험 #KnowledgeDistillationImplementation #Knowledge #Dist #Distillation #Divergence #Implementation #IncrementalLearning #IncrementalLearning코드구현 #jjunsss #KD #KD코드실험 #KL #코드구현

원문링크 : Learning without Forgetting