[NLP] 언어 모델(Language Model) 이란?

언어 모델(Language Model) 언어 모델(Language Model)이란, 문장의 확률을 나타낸 모델이다. 즉 문장 자체의 출현 확률을 예측 이전 단어들이 주어졌을 때, 다음 단어를 예측 과 같은 기능을 위한 모델인 것이다. 예시와 함께 알아보겠다. 중고 맥북프로 14인치 모델 130만원에 OOO 다음과 같은 예시에서 빈칸에 아래와 같은 선택지를 고를 수 있다면, 어떤 것을 고를 것인가? 먹습니다 팝니다 모릅니다 맛있다 일반적으로, 2번 팝니다를 고를 것이다. 인간의 두뇌에는 문맥, 즉 단어와 단어 사이의 확률이 학습이 되어있기 때문에 2번 "팝니다"를 무리없이 고를 수 있다. 이러한 Task를 모방하기 위해, 많은 문장들을 수집하여 단어와 단어 사이의 출현 빈도를 세어 확률을 계산하는것이 언어..

원문링크 : [NLP] 언어 모델(Language Model) 이란?