Implicit, Ollama ascultă doar local (127.0.0.1:11434) și nu are autentificare. Dacă vrei să-l accesezi din altă mașină sau dintr-un container, trebuie să-l expui — dar cu grijă, pentru că oricine ajunge la port poate folosi modelele tale.
1. Fă Ollama să asculte pe rețea
Setează variabila OLLAMA_HOST. Pentru serviciul systemd, editează configurarea serviciului:
systemctl edit ollama
și adaugă:
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"
Apoi:
systemctl daemon-reload && systemctl restart ollama
2. NU-l lăsa expus direct în internet
Pentru că nu are autentificare, expunerea directă pe internet este riscantă. Folosește una dintre variante:
- Reverse proxy cu autentificare (Nginx/Caddy) + HTTPS, care adaugă un strat de parolă/token
- Tunel SSH — cea mai simplă cale sigură pentru acces personal de la distanță
- Rețea privată — expune-l doar către mașinile din rețeaua internă/VPN
3. Firewall
Blochează accesul public la portul 11434. Lasă-l accesibil doar de la adresele/serviciile care chiar au nevoie.
4. Containere Docker
Dacă o aplicație în Docker trebuie să acceseze Ollama de pe gazdă, folosește adresa potrivită (de exemplu http://host.docker.internal:11434) și asigură-te că portul este accesibil în rețeaua containerelor, nu pentru tot internetul.
Important: Tratează endpointul Ollama ca pe o resursă privată. Un port 11434 deschis public înseamnă că oricine îți poate consuma resursele serverului rulând modele.