REALM (Retrieval-Augmented Language Model)

REALM (Retrieval-Augmented Language Model) 개요

• 질문 응답 (Question Answering): REALM은 주로 질문 응답 시스템에서 뛰어난 성능을 보이는 모델
  - 사용자의 질문을 받아 관련된 문서를 검색한 후, 이를 바탕으로 답변을 생성하는 방식으로 동작
• Retrieve-then-predict: REALM의 핵심은 검색 후 예측입니다. 먼저 관련된 정보를 검색하고, 그 후 검색된 정보를 바탕으로 답변을 예측하는 방식으로 구성
  - 이는 정보 검색과 텍스트 생성을 분리하여 처리하는 방식
• Neural Knowledge Retriever: REALM은 신경망  기반 지식 검색기를 사용하여, 질의에 대해 관련된 지식을 자동으로 검색
  - 이 검색기는 대규모 문서 집합에서 필요한 정보를 찾아내는 역할
• Knowledge-Augmented Encoder: Fine-tuning: REALM의 인코더는 지식 보강된 인코더
  - fine-tuning을 통해 외부 지식을 모델에 주입하여 성능을 향상
  - 이를 통해 모델이 더 정확한 답변을 생성
• Joint training: REALM은 검색기와 생성기를 joint training 방식으로 학습
  - 즉, 검색기가 검색하는 방법과 생성기가 답변을 생성하는 방법이 동시에 학습
  - 이 과정은 두 모델이 함께 최적화되도록 해, 성능을 극대화
• Injecting inductive biases: REALM은 유도적 편향을 주입하여 모델이 일반적인 패턴을 학습
  - 이는 모델이 더 일반화된 지식을 바탕으로 응답을 생성하게 도와줌

REALM 동작 방식

1. 질문 입력: 사용자가 질문을 입력.
2. 지식 검색 (Retrieve): 질문에 대해 Neural Knowledge Retriever가 외부 문서 데이터베이스에서 관련 정보를 검색
   - 이 검색 과정은 질문과 관련된 문서들을 효율적으로 추출하는 역할
3. 정보 강화 (Augment): 검색된 정보는 인코더에 의해 처리되어, 모델에 추가적인 외부 지식을 주입
   - 이를 통해 모델은 답변을 생성할 때 더 정확하고 풍부한 정보를 반영
4. 답변 생성 (Predict): 강화된 정보는 생성기를 통해 사용되어, 최종적인 답변을 생성
   - 이 답변은 질문과 관련된 구체적인 정보를 바탕으로 생성되며, 더 자연스럽고 관련성 높은 텍스트를 제공

REALM의 주요 특징

• 검색과 예측 분리: REALM은 검색과 생성 과정을 분리하여 처리합니다. 검색을 통해 외부 지식을 모델에 제공
  - 이 정보를 바탕으로 생성을 통해 답변을 예측
  - 이 방식은 정확한 정보가 반영된 답변을 생성하는 데 도움을 줌
• Joint training: 검색기와 생성기를 동시에 학습시키는 joint training 방식은 두 모델이 서로 보완적으로 작동하게 만들어, 모델의 성능을 극대화
• 지식 기반 모델: REALM은 기존 언어 모델에 지식 검색 기능을 추가하여, 더 광범위한 지식을 활용
  - 이 방식은 일반적인 언어 모델보다 더 효율적으로 정보를 처리하고, 더 정확한 답변을 생성하는 데 유리
• Fine-tuning: 모델은 fine-tuning을 통해 특정 도메인에 최적화된 답변을 생성할 수 있도록 조정
  - 이 과정에서 모델은 검색된 정보뿐만 아니라 특정 도메인에 대한 학습도 진행

REALM 평가 (REALM: Evaluation)

• 성능 평가: REALM은 질문 응답 작업에서 우수한 성능
  - 검색된 정보가 정확하고 관련성 있는 정보일수록 모델은 더 정확한 답변을 생성
• 기존 모델과 비교: 기존의 단일 언어 모델(RAG와 같은)과 비교했을 때, REALM은 검색 과정을 추가함으로써 성능이 향상되는 경향
  - 정보 검색의 정확도와 모델의 생성 성능을 모두 고려할 수 있기 때문에, 다양한 NLP 작업에서 우수한 결과를 도출
• 적용 분야: REALM은 질문 응답, 요약, 번역 등 다양한 자연어 처리 작업에 적용
  - 특히, 지식 기반 작업에서 뛰어난 성능을 발휘하며, 정보 검색을 요구하는 과제에 적합

꼭 알아야 할 점

• 검색기와 생성기의 조화: REALM의 핵심은 검색기와 생성기의 조화
  - 이 두 모델이 잘 협력해야 정확하고 관련성 있는 답변을 생성
• 지식 기반 모델의 한계: 외부 지식이 정확하지 않거나 관련성이 낮으면, 모델이 잘못된 정보를 생성할 수 있기 때문에 정확한 지식의 검색이 중요
• fine-tuning 필요성: REALM은 특정 도메인에 맞춰 fine-tuning을 수행하는 것이 중요
  - 그렇지 않으면, 모델이 일반적인 지식에 의존하게 되어 정확한 도메인-specific 답변을 제공 못할 수도 있음