JK
>読み込み中 // 読み込み中
ビューを初期化中
完了fastapipythonfaissmistral-7btogether-aisentence-transformers
Lexi RAG — ドキュメントAIアシスタント
ベクトルDBとLLMを活用し、膨大なドキュメントから的確な回答を抽出するAI検索基盤。
課題と解決策
従来のキーワード検索では、複雑な技術文書における文脈や概念間の関連性を正確に把握できませんでした。
機能
- PDF・Markdown文書の自動チャンク分割と埋め込み生成
- ベクトル類似度検索とキーワードランキングのハイブリッド照会
- 文脈注入によるハルシネーション（誤回答）の抑制
- 回答の根拠となった参照ソースの明示
アーキテクチャ
コアシステムコンポーネント
- FAISS ベクトル検索を用いたレトリーバーモジュール
- Together API と Mistral-7B を用いたジェネレーターモジュール
- ドキュメントローダーとチャンカー
アプリケーション層
- FastAPI HTTP API
- 構造化されたレスポンス整形
- チャンクメタデータの追跡（ファイル名、ソース）
プロジェクト構成
app
generator.py
main.py
retriever.py
utils.py
data
index
主な課題
- ドキュメントの意味を損なわない最適なチャンクサイズの選定
- リアルタイム検索時のクエリレイテンシ低減
学んだこと
- RAGアーキテクチャとベクトルデータベース（Pinecone/Milvus）の活用
- 高精度な回答を導くプロンプトエンジニアリング技術