RAG îți permite să creezi un chatbot care răspunde pe baza documentelor tale. LangFlow oferă șabloane și componente dedicate pentru un astfel de task.
Pornește de la șablonul RAG
La crearea unui flow nou, alege șablonul „Vector Store RAG” (sau similar). Îți oferă structura de bază, gata de configurat.
Componentele necesare
- Încărcarea documentelor (File / Directory) — furnizezi fișierele (PDF, text)
- Split Text — împarte textul în fragmente
- Embeddings — transformă fragmentele în vectori (OpenAI sau Ollama)
- Vector Store — stochează vectorii (de exemplu Chroma, Astra, Qdrant)
- Model + Prompt — generează răspunsul folosind contextul găsit
1. Indexează documentele
În fluxul de „ingestie”, încarci documentele, le împarți, le transformi în embeddings și le salvezi în vector store. Rulezi această parte o dată (sau când se schimbă documentele).
2. Construiește fluxul de întrebare
La o întrebare, fluxul caută în vector store fragmentele relevante și le adaugă în prompt, alături de întrebare, apoi modelul răspunde.
3. Testează în Playground
Pune o întrebare al cărei răspuns se află în documente. Dacă modelul răspunde „nu știu”, verifică dacă documentele au fost indexate corect și dacă folosești același model de embeddings la indexare și la căutare.
Sfat: Folosește același model de embeddings la indexare și la interogare. Dimensiunea fragmentelor influențează calitatea — experimentează pentru rezultate mai bune.