https://wikidocs.net/book/14314
를 참고하여 학습하였습니다.
1.RAG(Retrieval-Augmented Generation)
정보 검색과 텍스트 생성 모델을 결합하여 정확하고 최신 정보를 기반으로 답변을 생성하는 기술
지식 베이스와 생성 모델의 결합으로, 모델이 외부 데이터베이스를 검색하고, 검색된 정보를 기반으로 텍스트를 생성한다.
RAG는 파일을 읽고 질문에 맞는 부분을 찾아 답변에 활용한다.
- Input Query: 사용자가 질문 입력 →
- Embedding: 질문을 벡터로 변환 →
- Retrieval: 벡터 검색으로 관련 문서 찾기 →
- LLM Input: 문서와 질문을 결합 →
- Output: 생성 모델로 답변 생성.
1-1.RAG 프롬프트 구조
지시사항(Instruction) : 기본 지시사항으로 응답 품질을 향상
{user_question}: 사용자가 모델에게 요청하는 질문
{retrieved_documents}: 검색된 관련 문서나 정보
{generate_answer_based_on_context}: 생성된 답변은 위의 검색된 문서들을 바탕으로 작성
지시사항(Instruction)
Question: {user_question}
Context: {retrieved_documents}
Answer: {generate_answer_based_on_context}
반응형
'AI' 카테고리의 다른 글
[LangChain] Tools (0) | 2025.01.15 |
---|---|
[LangChain] HuggingFace API Key 발급, HuggingFace 모델 LangChain에서사용 (0) | 2025.01.13 |
[LangChain] InMemoryCache (0) | 2025.01.13 |