JK
Projekty
JK
>ŁADOWANIE // ŁADOWANIE
INICJALIZACJA WIDOKU
Zbudowane i zaprojektowane przezJK
JK
>ŁADOWANIE // PROJECT DETAILS
PARSING ARCHITECTURE, DIAGRAMS & API ENDPOINTS
Powrót do projektów
Zobacz na GitHubie
Lexi RAG — Asystent AI do Dokumentacji
Ukończonofastapipythonfaissmistral-7btogether-aisentence-transformers

Lexi RAG — Asystent AI do Dokumentacji

Inteligentny asystent dokumentacji łączący bazy wektorowe i modele LLM do precyzyjnych odpowiedzi.

Problem i rozwiązanie

Tradycyjne wyszukiwanie słów kluczowych nie radzi sobie ze zrozumieniem relacji semantycznych w złożonych tekstach.

Funkcje

  • Potok dzielenia (chunking) i tworzenia wektorów dla PDF i Markdown
  • Wyszukiwanie podobieństwa wektorowego z rankingiem hybrydowym
  • Generowanie odpowiedzi wzbogaconych o kontekst
  • Wskazywanie źródeł w celu minimalizacji halucynacji

Architektura

Główne komponenty systemu

  • Moduł retrievera wykorzystujący wyszukiwanie wektorowe FAISS
  • Moduł generatora wykorzystujący Together API i Mistral-7B
  • Loader i chunker dokumentów

Warstwa aplikacji

  • FastAPI HTTP API
  • Strukturalne formatowanie odpowiedzi
  • Śledzenie metadanych fragmentów (nazwa pliku, źródło)

Struktura projektu

app
generator.pyBudowanie promptów i wywołania LLM
main.pyPunkt wejścia aplikacji FastAPI i endpoint /query
retriever.pyPobieranie dokumentów z indeksu FAISS
utils.pyŁadowanie PDF/DOCX i dzielenie tekstu
data
index

Kluczowe wyzwania

  • Building accurate RAG pipeline for legal reasoning
  • Maintaining citation relevance and traceability
  • Managing embedding & token efficiency

Kluczowe wnioski

  • RAG requires deep coordination between retrieval and prompt engineering
  • Chunking strategy dramatically affects accuracy
  • Metadata is crucial for real-world citation traceability