Un Modelfile este un fișier de configurare cu care creezi o variantă personalizată a unui model în Ollama — de exemplu cu un mesaj de sistem fix, anumiți parametri sau pornind de la un fișier GGUF propriu.
La ce folosește?
Cu un Modelfile poți „împacheta” un comportament: un asistent cu o personalitate anume, o temperatură prestabilită sau un model importat manual. Rezultatul apare ca un model separat, pe care îl rulezi normal.
Structura de bază
FROM llama3.1
SYSTEM "Ești asistentul de suport HostX. Răspunzi politicos, în limba română, doar despre găzduire web."
PARAMETER temperature 0.6
PARAMETER num_ctx 4096
Directivele principale
- FROM — modelul de bază (sau calea către un fișier GGUF)
- SYSTEM — mesajul de sistem aplicat automat
- PARAMETER — parametri precum
temperature,num_ctx(fereastra de context),top_petc - TEMPLATE — șablonul de prompt (avansat)
Creează modelul
ollama create suport-hostx -f Modelfile
ollama run suport-hostx
Importul unui model GGUF
Dacă ai un fișier GGUF descărcat (de exemplu de pe Hugging Face), îl poți folosi ca bază:
FROM ./model-descarcat.gguf
Sfat: Modelfile este ideal pentru a standardiza asistenți în echipă — definești o dată comportamentul și toți folosesc aceeași variantă, consistentă.