Deformable DETR 추가사항


Deformable DETR 추가사항

Deformable DETR(D-DETR)을 사용할 때 알아낸 것이 있어 공유하면 좋을 것 같아서 글을 작성합니다. D-DETR은 기존의 DETR을 베이스 삼아 생겨난 모델입니다. 여기서 DETR은 COCO를 사용해서 훈련하고 여기서 Background도 훈련하게 되는데 이는 DETR이 Cross Entropy loss와 Sigmoid를 사용해서 특정 클래스를 결정하기 때문입니다.(하나의 object query에서) 저는 D-DETR도 DETR을 베이스로 삼고있기 때문에 BG를 무조건 하나는 할당해서 내가 훈련하려고 하는 클래스가 90 개 일 때( coco 가정), 91개(number of class + 1)를 class embedding output으로 줘야한다고 생각했습니다. 여태까지 그렇게 알고 있다가 우연찮게 다시 확인할 기회가 생겼는데 D-DETR의 class embedding dimension을 할당하는 부분에서 DETR과는 다르게 정직하게 클래스의 개수 90(number...


#AI #Transformerbased #Transformer #Softmax #Sigmoid #Question #ICLR #DETR #detector #DeformableDETR #DDETR #CE #BCE #Background #궁금증

원문링크 : Deformable DETR 추가사항