Open WebUI îți permite să descarci și să gestionezi modele direct din interfață (când folosești Ollama), fără să scrii comenzi. Iată cum.
1. Deschide gestionarea modelelor
Intră în Settings → Models (sau, ca administrator, în panoul Admin → Models). Aici vezi modelele disponibile și le poți adăuga pe altele.
2. Descarcă un model nou
Introdu numele modelului dorit (de exemplu llama3.1, mistral, nous-hermes2) și apasă butonul de descărcare (pull). Open WebUI îi cere lui Ollama să descarce modelul; vezi progresul în timp real.
3. Alegerea variantei potrivite
Multe modele au variante după dimensiune (de exemplu 8B, 70B) și după cuantizare (Q4, Q5, Q8). Variantele mai mici și mai puternic cuantizate consumă mai puțin RAM/VRAM, dar pot fi ceva mai puțin precise. Alege în funcție de resursele VPS-ului.
4. Setează un model implicit
Poți stabili modelul folosit în mod prestabilit în conversații noi și poți restricționa ce modele văd utilizatorii obișnuiți.
5. Șterge modelele nefolosite
Modelele ocupă spațiu pe disc (uneori mulți GB). Șterge-le pe cele de care nu mai ai nevoie ca să eliberezi spațiu.
Sfat: Verifică periodic spațiul liber pe disc. Unele modele mari pot umple rapid un VPS. Un model de embeddings (de exemplu nomic-embed-text) este necesar dacă vrei să folosești funcția RAG cu documente.
