Closed-book QA가 어떤 것인지.. 알아봄
1~8강까지의 ODQA는 문서를 Retriever해서 거기서 MRC하는 방식 → Open book QA
이 방법은 2019년에 새로운 방식으로 접근하는 방법이다 ! → Closed-book QA
모델이 이미 사전에 대량의 지식을 학습 했기 때문에 굳이 다른 곳에서 지식을 더 가져올 필요가 없다 ! 는 느낌으로 retreiver과정을 하지 않음 ! 바로 답을 generate한다..
Text to Text라는 최종 머신러닝 기법에 대해 알아봄
Closed-book QA에서 사용되는 방법은 generated-based MRC와 유사하다 !
단, 입력에 지문이 없이 질문만 들어간다는 것이 차이점 !
사전학습된 언어 모델은 BART와 같은 Seq2Seq형태의 transformer 모델 사용
Text to text format에서는 각 입력값과 출력값에 대한 설명을 맨 앞에 추가함 !
Text to text problem : 간단하게 input text를 받아서 output으로 text를 생성하는 문제 !