Cum configurez furnizorii de modele în LibreChat (.env și librechat.yaml)?

LibreChat se configurează prin două fișiere principale: .env (secrete și setări de bază) și librechat.yaml (configurare avansată a endpointurilor și modelelor).

Fișierul .env

Aici pui cheile și setările de bază, de exemplu:

OPENAI_API_KEY=cheia_ta
ANTHROPIC_API_KEY=cheia_ta
GOOGLE_KEY=cheia_ta

Tot aici activezi/dezactivezi funcții (înregistrare, încărcare de fișiere etc.) și setezi secretele de securitate.

Fișierul librechat.yaml

Pentru configurări avansate — de exemplu endpointuri personalizate compatibile OpenAI (Groq, OpenRouter, Ollama, un server local) — folosești librechat.yaml. Aici definești fiecare endpoint, modelele disponibile și denumirile afișate.

endpoints:
  custom:
    - name: "Ollama"
      apiKey: "ollama"
      baseURL: "http://host.docker.internal:11434/v1"
      models:
        default: ["llama3.1"]

Aplică modificările

După ce editezi aceste fișiere, repornește serviciile:

docker compose up -d --force-recreate

Verifică

În interfață, la selectorul de modele, ar trebui să apară furnizorii și modelele configurate.