GPT-1

Generative Pre Training of a language model

1 명칭의 의미

1.1 언어 모델

Language Model

사람의 언어를 이해하는 모델

• 자연어 데이터만(백과사전 등)으로 학습 가능
  • 즉 별도로 라벨링된 데이터가 필요하지 않음

1.2 생산적 모델

Generative Model

1.3 사전 학습

Pre Training Model

2 주요 분야

• 자연어 유추
• 질의 응답
• 문장 의미 유사도 판단
• 분류