Primul pas în MaxKB este adăugarea modelelor. Ai nevoie de un model de tip LLM (pentru răspunsuri) și pentru RAG, de un model de embeddings (pentru indexarea documentelor).
1. Deschide secțiunea de modele
În interfață, mergi la zona de modele (Model Settings). Aici adaugi furnizorii pe care vrei să-i folosești.
2. Adaugă un furnizor comercial
Pentru OpenAI, Claude, Gemini etc., selectează furnizorul, introdu cheia API și alege modelul dorit.
3. Adaugă un model local (Ollama)
Pentru modele locale, adaugă furnizorul Ollama și indică adresa serverului (de exemplu http://host.docker.internal:11434, dacă MaxKB rulează în Docker) și numele modelului descărcat. Astfel folosești modele fără costuri per token, cu datele păstrate local.
4. Configurează și modelul de embeddings
Pentru baze de cunoștințe (RAG), adaugă un model de embeddings (comercial sau local, de exemplu nomic-embed-text prin Ollama). Fără el, nu poți indexa documente.
5. Testează
După adăugare, modelele devin disponibile la crearea aplicațiilor și a bazelor de cunoștințe.
Sfat: Pentru confidențialitate maximă, folosește modele locale prin Ollama atât pentru LLM, cât și pentru embeddings — astfel documentele nu ajung la un furnizor extern.
