3-1. RAG 개념

RAG(Retrieval-Augmented Generation)

• LLM이 텍스트를 생성할 때 관련 정보를 찾아보고(= retrieval), 그 정보를 활용하여 새로운 텍스트를 만드는(generation) 기술
• 큰 데이터베이스나 인터넷과 같은 정보의 원천에서 필요한 사실이나 데이터를 찾아내고, 그것을 기반으로 텍스트를 만드는 기술

⇒ LLM이 더 정확하고 신뢰할 수 있는 내용을 생성하도록 도움

3-2. RAG 구현 과정

RAG: 정보 검색(Retrieve) + 텍스트 생성(Generate)

• 정보 검색: AI가 대규모 정보로부터 관련 데이터를 찾는 과정
• 텍스트 생성: 찾은 정보를 기반으로 새로운 텍스트를 만드는 과정

3-2-1. 정보 검색

1) 질문 입력

• 사용자가 필요한 정보를 탐색하기 위해 입력을 함 ⇒ 퀴리(query)

2) 검색

• 검색 엔진을 통해 해당 쿼리와 관련된 정보를 데이터베이스나 인터넷에서 찾는 과정

3) 유사도 검색

• 쿼리와 데이터베이스(or 인터넷)에 있는 문서들 사이의 유사도를 계산
  • 키워드 검색과 시맨틱 검색을 모두 포함
• 키워드 검색(keyword search)

  • 사용자가 입력한 단어나 구를 데이터베이스나 인터넷에서 직접 찾는 방식

    → 검색 엔진은 사용자가 입력한 키워드가 문서 내에 명시적으로 나타나는 경우만 해당 문서를 결과로 반환

  • 그러나, 해당 방식은 사용자의 질문 의도나 문맥을 파악하지 못하고 단순히 키워드의 존재 여부만을 기준으로 함 → 때론 관련 없는 결과를 보여주기도 함

• 시맨틱 검색(semantic search)
  • 단어의 의미와 문맥을 이해하여 보다 관련성 높은 결과를 제공하는 기술
  • 단어의 읨, 동의어, 주제, 사용자의 검색 의도 등을 고려함 → 단어가 문서에 직접적으로 나타나지 않더라도 문맥상 관련 있는 결과를 찾아낼 수 있음
  • 키워드 검색보다 훨씬 복잡하며 의미를 정확히 파악하고 문맥을 이해하기 위해 고도의 알고리즘과 자연어 처리 기술을 요구함

4) 랭킹 처리

• 검색 결과로 찾아낸 문서들 중에서 어떤 것이 질문과 가장 관련이 높은지를 결정

  → 가장 관련이 높다고 판단되는 문서부터 순서대로 나열

• 모델이 생성할 텍스트와 가장 관련이 높은 정보를 선택하는 과정

  • 목표: 사용자의 질문/요구에 가장 적합하고 유용한 정보를 찾는 것