RAG (Retrieval-Augmented Generation) îți permite să faci un chatbot care răspunde pe baza documentelor tale (PDF-uri, pagini, manuale), nu doar din cunoștințele generale ale modelului.
Ce componente îți trebuie
- Un Document Loader (încarcă fișierele: PDF, text, site)
- Un Text Splitter (împarte textul în fragmente)
- Un nod de Embeddings (transformă fragmentele în vectori)
- Un Vector Store (stochează vectorii — de exemplu în memorie, Chroma, Qdrant)
- Un Retrieval QA Chain (leagă căutarea în vectori de model)
1. Încarcă documentele
Adaugă un Document Loader potrivit (de exemplu PDF File) și încarcă fișierele. Leagă-l de un Text Splitter care taie textul în bucăți de câteva sute de caractere.
2. Creează embeddings și vector store
Conectează splitter-ul la un nod de Embeddings (OpenAI sau Ollama) și apoi la un Vector Store. Aici fragmentele devin vectori căutabili.
3. Leagă la un Retrieval QA Chain
Adaugă un Conversational Retrieval QA Chain. Conectează la el: modelul de chat, vector store-ul (ca retriever) și, opțional, memoria. Acum, la fiecare întrebare, Flowise caută fragmentele relevante și le trimite modelului împreună cu întrebarea.
4. Testează
Deschide chat-ul și pune o întrebare al cărei răspuns se află în documente. Modelul ar trebui să răspundă folosind informația din fișierele tale. Dacă răspunde „nu știu”, verifică dacă documentele au fost indexate corect.
Sfat: Pentru informații care se modifică des, folosește un Document Store persistent (Chroma/Qdrant), ca să nu reindexezi la fiecare pornire. Fragmentele prea mari sau prea mici scad calitatea răspunsurilor — experimentează cu dimensiunea.
