[튜링의 사과] LLM을 활용한 RAG 구현하기 워크숍.pdf

• 기업용 챗봇의 경우 단순히 그럴싸한 답변을 생성하는 것이 아니라, 기업의 데이터와 목적에 맞는 정확하고 신뢰할 수 있는 정보를 제공해야 함

RAG

• RAG란 Retrievel(검색) Augmented(증강) Gerneration(생성)의 약자

• 생성형 인공지능 모델에 외부 지식에 대한 문맥을 주입하여 문장을 생성하는 기법

• RAG는 검색에서 시작하여 생성으로 이어지는 프로세스임

• 생성형 인공지능이 학습하지 못한 문장들은 할루시네이션 (그럴싸한 잘못된 문장)을 일으킬 수 있음

  

• RAG를 활용하면 생성형 인공지능 모델이 학습하지 못한 지식에 대해서도 답변할 수 있는 능력을 부여할 수 있음

• 뒤 실습에서는 사용자 질문로부터 RAG를 이용해 외부로부터 지식을 찾아 LLM을 활용하여 답변을 생성할 것

RAG를 이해하기 위한 핵심 개념

• 자연어/문장 임베딩
• 코사인 유사도
• 문장 유사도 모델
  • 문장 유사도로 비슷한 문장을 잘 뽑아내는데 특화한 모델
• 벡터 데이터베이스
  • 자연어/문장 임베딩을 저장하는 벡터 데이터베이스
• LLM 및 프롬프트
  • LLM의 문장 발화 능력 이용

자연어/문장 임베딩

• 자연어 : 사람들이 일상적으로 사용하는 언어