Open WebUI are funcție de RAG (Retrieval-Augmented Generation): poți încărca documente și pune întrebări pe baza lor. Modelul răspunde folosind conținutul fișierelor tale, nu doar cunoștințele generale.
1. Pregătește un model de embeddings
RAG are nevoie de un model de embeddings care transformă textul în vectori. Dacă folosești Ollama, descarcă de exemplu nomic-embed-text. Poți configura modelul de embeddings în Admin → Settings → Documents.
2. Încarcă documente
Există două moduri:
- În conversație — apasă pe iconița de atașare (+) și încarcă un fișier (PDF, text, Word). Apoi întreabă despre el.
- În biblioteca de documente (Workspace → Documents / Knowledge) — adaugi documente permanente, pe care le poți referi în chat cu
#.
3. Pune întrebări
Scrie o întrebare al cărei răspuns se află în document. Open WebUI caută fragmentele relevante și le trimite modelului împreună cu întrebarea ta. Răspunsul va cita informația din fișier.
4. Colecții de cunoștințe (Knowledge)
Poți grupa mai multe documente într-o colecție și o poți lega de un model personalizat, obținând astfel un asistent specializat pe un anumit domeniu (de exemplu documentația firmei tale).
Sfat: Calitatea RAG depinde de calitatea documentelor și de modelul de embeddings. Fișierele scanate (imagini) au nevoie de OCR înainte. Împarte documentele mari în secțiuni clare pentru rezultate mai bune.