GPT 생성에 관한 옵션 소개 !
생성 모델의 경우 어떠한 규칙으로 생성하느냐에 따라 자연어 생성 성능이 천차만별 !
KoGPT-2를 사용할 예정
이 모델을 직접 다운 받아서 사용할 예정 !
GPT2 load를 할 때 vocab 사이즈를 맞춰줘야 함 !
map location에 올라와 있어야 GPU로 사용을 할 수가 있다 !
현재 상태에서 최고 확률인 단어를 선택
model.generate에서 다양한 옵션들을 제공하고 있음 !
항상 최고의 확률로만 단어를 이어나가기 떄문에 똑같은 문장이 계속 반복될 수 밖에 없다 !
그래서 나온게