FastText, Glove 모델 원리 & Pretrained FastText, Glove 예제

저번 포스팅에서는 Word2Vec 모델에 대해서 알아보았습니다. 이번에는 Word2Vec 모델을 발전시킨 모델인 FastText, Glove 모델에 대해서 알아보겠습니다. ** 본 포스팅은 PC에 최적화 되어있으며, tensorflow 버전은 2.9.1, 작업환경은 colab입니다. ** **공부 참고 자료 - 허민석, 『나의 첫 머신러닝/ 딥러닝』, 위키북스, 2020. ** 1. FastText Word2Vec 보다 조금 발전된 형태 페이스북이 공개한 임베딩, Word2Vec과 기본 아이디어는 동일함 Word2Vec의 단점인 OOV 극복 OOV(Out of Vocabulary) : 학습 시 사용되지 않은 단어는 임베딩을 갖지 못하는 문제 Word2Vec의 경우 학습 시 "smart", "phone" 이 있었다면? 두 단어에 대한 임베딩은 존재 but, "smartphone" 에 대한 임베딩은 존재 X FastText의 경우 "smartphone" 에 대한 임베딩 존재 형태학적 유...

원문링크 : FastText, Glove 모델 원리 & Pretrained FastText, Glove 예제