Un punct forte al modelelor Hermes este function calling — capacitatea de a apela unelte/funcții definite de tine. Astfel, modelul nu doar generează text, ci poate cere execuția unei funcții (de exemplu „caută vremea”, „interoghează baza de date”) și folosi rezultatul.
Cum funcționează, pe scurt
- Îi descrii modelului uneltele disponibile (nume, descriere, parametri, de obicei în format JSON Schema)
- La o întrebare potrivită, modelul returnează o cerere de apel către o unealtă, cu argumentele completate
- Aplicația ta execută funcția și trimite rezultatul înapoi modelului
- Modelul formulează răspunsul final, folosind rezultatul
Definirea uneltelor
Descrii fiecare unealtă clar: un nume, o descriere a scopului și schema parametrilor. Descrierile bune sunt esențiale — pe baza lor decide modelul ce unealtă să apeleze și cu ce argumente.
Prin API compatibil OpenAI
Dacă rulezi Hermes prin vLLM sau llama.cpp cu endpoint compatibil OpenAI, poți folosi câmpul tools din cererea de chat, la fel ca la API-ul OpenAI. Modelul răspunde cu tool_calls când decide să folosească o unealtă.
Utilizare tipică
- Agenți care caută informații sau apelează API-uri externe.
- Asistenți care interoghează baze de date la cerere.
- Automatizări în care modelul declanșează acțiuni concrete.
Sfat: Începe cu 1-2 unelte bine descrise. Testează că modelul le apelează corect înainte de a adăuga altele. Validează întotdeauna argumentele primite înainte de a executa funcția.
