Înainte de a construi aplicații în Dify, trebuie să configurezi cel puțin un furnizor de modele. Dify suportă mulți furnizori comerciali și modele locale.
1. Deschide setările de modele
Mergi la Settings → Model Providers în consolă. Aici adaugi furnizorii pe care vrei să-i folosești.
2. Adaugă un furnizor comercial
Pentru OpenAI, Anthropic, Google etc., introdu cheia API obținută de la furnizor. Dify va prelua modelele disponibile.
3. Adaugă un model local (Ollama)
Dify se poate conecta la Ollama. Adaugă furnizorul Ollama și indică adresa serverului (de exemplu http://host.docker.internal:11434, dacă Dify rulează în Docker) și numele modelului. Astfel folosești modele locale, fără costuri per token.
4. Setează tipurile de model
Poți configura modele separate pentru:
- Chat/LLM — generarea răspunsurilor
- Embeddings — pentru Knowledge/RAG (de exemplu un model de embeddings de la OpenAI sau
nomic-embed-textprin Ollama) - Rerank — opțional, pentru a îmbunătăți rezultatele căutării
5. Alege modelul implicit
Setează un model system default, folosit în aplicații noi. În fiecare aplicație poți schimba ulterior modelul.
Sfat: Configurează atât un model de chat, cât și unul de embeddings — cel din urmă este necesar pentru funcția Knowledge (RAG). Pentru confidențialitate, folosește modele locale prin Ollama.
