JK
>로딩 중 // 로딩 중
뷰 초기화 중
완료fastapipythonfaissmistral-7btogether-aisentence-transformers
Lexi RAG — 문서 분석 AI 어시스턴트
벡터 DB와 거대언어모델(LLM)을 결합하여 복잡한 문서로부터 정밀한 정보를 도출하는 AI 검색 시스템.
문제 및 해결책
단순 키워드 검색으로는 기술 명세서 내 개념 간의 문맥적 관계를 정확히 파악하기 어렵습니다.
기능
- PDF 및 Markdown 문서 자동 청킹(Chunking) 및 임베딩 생성
- 벡터 유사도와 키워드 랭킹을 결합한 하이브리드 검색
- 문맥 주입을 통한 환각(Hallucination) 현상 방지
- 답변의 근거가 된 출처 문서 명확히 제시
아키텍처
핵심 시스템 구성 요소
- FAISS 벡터 검색을 사용하는 리트리버 모듈
- Together API와 Mistral-7B를 사용하는 생성기 모듈
- 문서 로더 및 청커
애플리케이션 계층
- FastAPI HTTP API
- 구조화된 응답 포맷팅
- 청크 메타데이터 추적 (파일명, 출처)
프로젝트 구조
app
generator.py
main.py
retriever.py
utils.py
data
index
주요 과제
- 문맥 손실을 최소화하는 최적의 청크 크기 결정
- 실시간 임베딩 검색 시 응답 지연 시간 단축
주요 학습
- RAG 파이프라인 구조 및 벡터 데이터베이스 활용
- 정확도를 높이는 프롬프트 엔지니어링 전략