LibreChat permite încărcarea de documente și gestionarea întrebărilor pe baza lor (RAG). Modelul folosește conținutul fișierelor tale, prin serviciul de RAG al LibreChat.
1. Activează serviciul RAG
Funcția de documente se bazează pe un serviciu RAG API (inclus în configurația Docker Compose) și pe o bază de date vectorială. Asigură-te că este pornit împreună cu celelalte servicii și configurează un model de embeddings (comercial sau local, prin Ollama).
2. Încarcă un fișier
În fereastra de chat, folosește butonul de atașare pentru a încărca un document (PDF, text etc.). LibreChat îl împarte în fragmente și le transformă în vectori.
3. Pune întrebări
Întreabă despre conținutul documentului. LibreChat caută fragmentele relevante și le trimite modelului împreună cu întrebarea, astfel încât răspunsul să se bazeze pe fișierul tău.
4. Gestionează fișierele
Poți vedea și gestiona fișierele încărcate. Ține cont de limitele de dimensiune configurate și de spațiul ocupat.
Sfat: Pentru confidențialitate maximă, folosește un model de embeddings local (prin Ollama), ca documentele să nu fie trimise către un furnizor extern la indexare. Documentele scanate (imagini) au nevoie de OCR înainte.
