프로그래밍/NLP

언어모델의 평가방법

Frog Photo Developer 2021. 6. 24. 18:35

현재 딥러닝 관련 언어모델에는 다양한 언어 모델들이 있다 (  BERT, GPT, BART, ELMO,...) 그래서 이러한 언어모델들에 대한 다양한 평가 방법을 소개하고자 한다.

 

PPL

PPL은 perplexity의 약자(?) 이며 ppl의 우리나라말은 헷갈리는과 유사한 의미를 갖는다고 한다. 굳이 직역하자면 헷갈리는정도라고 한다.

ppl 낮아야지 좋은점수이며 높을수록 안좋은 점수라고 한다.

PPL을 최소화한다는 것은 문장의 확률을 최대화하는 것과 같다고 한다.

보다 자세한 설명은 아래의 링크로

 

https://wikidocs.net/21697

 

체인룰을 적용
N-GRAM에 적용

 

'프로그래밍 > NLP' 카테고리의 다른 글

NLP TASK Feature 추출 방법  (0) 2021.12.21
NLP TASK의 평가 방법  (0) 2021.06.24