Instalarea Ollama pe un VPS (de exemplu un plan VPS HostX cu Ubuntu/Debian) durează câteva minute.
De ce ai nevoie?
- Un VPS cu acces root prin SSH (la HostX, portul 5334)
- Opțional, un GPU pentru modele mari (Ollama detectează automat GPU-urile compatibile)
1. Instalează Ollama
curl -fsSL https://ollama.com/install.sh | shScriptul instalează Ollama și îl configurează ca serviciu systemd, care pornește automat. Serverul ascultă, implicit, pe portul 11434 (doar local).
2. Verifică instalarea
ollama --version
systemctl status ollama3. Rulează primul model
ollama run llama3.1La prima rulare, modelul se descarcă automat, apoi pornește o sesiune de chat în terminal.
4. Testează API-ul local
curl http://127.0.0.1:11434/api/tagsAr trebui să vezi lista modelelor instalate.
Locația modelelor
Implicit, modelele se salvează în /usr/share/ollama/.ollama/models (sau în home-ul utilizatorului). Poți schimba locația cu variabila OLLAMA_MODELS, utilă dacă vrei să folosești un disc dedicat.
Important: Implicit, Ollama ascultă doar pe 127.0.0.1 și nu are autentificare. Dacă vrei să-l accesezi din rețea, securizează-l cu un reverse proxy și firewall (vezi ghidul dedicat). Nu-l expune direct în Internet.
