JK
Projecten
JK
>LADEN // LADEN
WEERGAVE INITIALISEREN
Gebouwd en ontworpen doorJK
JK
>LADEN // PROJECT DETAILS
PARSING ARCHITECTURE, DIAGRAMS & API ENDPOINTS
Terug naar projecten
Bekijk op GitHub
Lexi RAG — Document AI Assistent
Voltooidfastapipythonfaissmistral-7btogether-aisentence-transformers

Lexi RAG — Document AI Assistent

AI-gestuurde documentatie-assistent die vectordatabases en LLM's combineert voor nauwkeurige antwoorden.

Probleem en oplossing

Klassiek zoeken op trefwoorden slaagt er niet in conceptuele relaties in omvangrijke documenten te begrijpen.

Functies

  • Chunking en embedding-pijplijn voor PDF's en Markdown
  • Vectorgelijkeniszoekopdrachten met hybride trefwoordranking
  • Antwoordgeneratie verrijkt met contextuele data
  • Bronvermelding om hallucinaties te minimaliseren

Architectuur

Kerncomponenten van het systeem

  • Retriever-module met FAISS-vectorzoekopdracht
  • Generator-module met Together API en Mistral-7B
  • Documentloader en chunker

Applicatielaag

  • FastAPI HTTP API
  • Gestructureerde response-opmaak
  • Bijhouden van chunkmetadata (bestandsnaam, bron)

Projectstructuur

app
generator.pyPromptopbouw en LLM-aanroepen
main.pyIngangspunt van de FastAPI-app en /query-endpoint
retriever.pyDocumentretrieval uit de FAISS-index
utils.pyPDF/DOCX laden en tekstchunking
data
index

Belangrijkste uitdagingen

  • Building accurate RAG pipeline for legal reasoning
  • Maintaining citation relevance and traceability
  • Managing embedding & token efficiency

Belangrijkste lessen

  • RAG requires deep coordination between retrieval and prompt engineering
  • Chunking strategy dramatically affects accuracy
  • Metadata is crucial for real-world citation traceability