JK
>CARGANDO // CARGANDO
INICIALIZANDO VISTA
Completadofastapipythonfaissmistral-7btogether-aisentence-transformers
Lexi RAG — Asistente de IA Documental
Asistente inteligente de documentación que aprovecha bases de datos vectoriales y modelos LLM para respuestas contextuales precisas.
Problema y solución
Las búsquedas tradicionales por palabras clave no comprenden relaciones semánticas en especificaciones técnicas extensas.
Características
- Canal de fragmentación (chunking) y generación de embeddings para PDFs y Markdown
- Búsqueda por similitud vectorial combinada con ranking híbrido
- Generación de respuestas aumentadas con contexto inyectado
- Citas directas de fuentes para minimizar alucinaciones
Arquitectura
Componentes principales del sistema
- Módulo de recuperación basado en búsqueda vectorial FAISS
- Módulo generador basado en Together API y Mistral-7B
- Cargador y fragmentador de documentos
Capa de aplicación
- API HTTP FastAPI
- Formateo estructurado de respuestas
- Seguimiento de metadatos de fragmentos (nombre de archivo, fuente)
Estructura del proyecto
app
generator.py
main.py
retriever.py
utils.py
data
index
Desafíos clave
- Optimizar el tamaño de los fragmentos para equilibrar contexto y coste de tokens
- Reducir latencias en la recuperación vectorial en tiempo real
Aprendizajes clave
- Fundamentos de arquitecturas RAG y modelos de embeddings vectoriales
- Estrategias de ingeniería de prompts para respuestas técnicas precisas