REPLUG: Retrieval-Augmented Black-Box Language Models

오늘 살펴볼 논문은 “REPLUG: Retrieval-Augmented Black-Box Language Models”이다. REPLUG는 RAG 시스템에서 Black Box LLM을 활용할 때, 이를 이용해서 Retriever를 학습하는 방법에 관한 논문이다.   아래의 그림은 기존 RAG 시스템과 REPLUG 방법의 차이점을 보여준다.   그림 1. 기존 RAG에서의 모델 튜닝 방식과 REPLUG 방법과의 비교   일반적으로 RAG 시스템의 구현에서 학습을 더 읽기