GPT-1

From IT Wiki
Generative Pre Training of a language model
GPT-1은 OpenAI가 개발한 첫 번째 인공지능 모델이다.
  • GPT-1은 2017년에 나온 Transformer 아키텍쳐를 기반으로 만들어졌다.

명칭의 의미[edit | edit source]

언어 모델[edit | edit source]

Language Model
사람의 언어를 이해하는 모델
  • 자연어 데이터만(백과사전 등)으로 학습 가능
    • 즉 별도로 라벨링된 데이터가 필요하지 않음

생산적 모델[edit | edit source]

Generative Model

사전 학습[edit | edit source]

Pre Training Model

주요 분야[edit | edit source]

  • 자연어 유추
  • 질의 응답
  • 문장 의미 유사도 판단
  • 분류