1. reader negative sampling

   dense retriever에서 negative sampling을 통해.. query와 유사한 passage를 찾는

2. topk document split → 예시를 들면 좋을 듯 !

3. split한 문서를.. 문서들 중에서 하나의 문서에서 best답안을 모아 topk개를 만들고.. 거기서 답안을 추론하는 두 단계의 형태로 구성이 됨 ! → utils_qa 수정..

4. lstm, conv, lstm + conv ( residual connection)

그치 주어진 데이터셋이 매우 적어 reader 모델이 적은 양의 context에만 biased 되어 inference 과정에서 새로운 context를 읽고 이해하는 능력이 떯어지는 문제가 있었다.. !

Dense retriever

LSTM + CONV