RAG (Retrieval-Augmented Generation) este o tehnică prin care un model AI răspunde folosind documentele tale, nu doar cunoștințele generale învățate la antrenare. Este una dintre cele mai utile metode pentru aplicații de business.
Problema pe care o rezolvă
Un model „știe” doar ce a fost în datele lui de antrenare, până la o anumită dată, și nu cunoaște informațiile tale private (manuale, politici, produse). RAG rezolvă asta: caută în documentele tale fragmentele relevante și le oferă modelului ca context pentru răspuns.
Cum funcționează, pas cu pas
- Indexare: documentele sunt împărțite în fragmente și transformate în vectori (embeddings), stocați într-o bază vectorială.
- Căutare: la o întrebare, sistemul caută fragmentele cele mai relevante (semantic).
- Augmentare: aceste fragmente sunt adăugate în prompt, alături de întrebare.
- Generare: modelul răspunde folosind contextul furnizat.
Avantaje
- Răspunsuri bazate pe informațiile tale actuale.
- Reduce halucinațiile (modelul are surse concrete).
- Nu necesită reantrenarea modelului — doar actualizezi documentele.
Unde se folosește
Asistenți de suport pe baza documentației, căutare internă „conversațională”, asistenți juridici/tehnici pe baze de cunoștințe. Instrumente ca Flowise și Open WebUI oferă RAG „la cheie”.
De reținut: Calitatea RAG depinde de calitatea documentelor, de modul de fragmentare și de modelul de embeddings. Documente bine structurate = răspunsuri mai bune.
