Pentru integrări în aplicații ai adesea nevoie ca modelul să returneze JSON structurat, nu text liber. Modelele Hermes au performanțe bune pentru furnizarea de informații in format JSON.
De ce JSON
Un răspuns în JSON poate fi procesat automat de aplicația ta (de exemplu pentru a completa un formular, a salva în baza de date sau a declanșa o acțiune). Textul liber este greu de interpretat programatic.
1. Cere explicit formatul în prompt
În mesajul de sistem, specifică structura dorită, de exemplu:
Răspunde DOAR cu JSON valid, cu forma:
{ "nume": string, "email": string, "prioritate": "mica"|"medie"|"mare" }
Fără text în plus.2. Oferă un exemplu
Un exemplu concret de intrare și ieșirea JSON așteptată crește mult fiabilitatea (few-shot).
3. Folosește „JSON mode” / grammar, dacă e disponibil
Unele servere (vLLM, llama.cpp) permit constrângerea ieșirii la un anumit format (de exemplu prin JSON schema sau grammar GBNF). Astfel, modelul nu poate produce decât JSON valid — cea mai sigură metodă.
4. Validează în aplicație
Chiar și așa, validează JSON-ul primit înainte de a-l folosi. Dacă parsarea eșuează, poți re-cere răspunsul.
Sfat: Combinația „instrucțiune clară + exemplu + constrângere de format la nivel de server” oferă cele mai stabile rezultate JSON. Cere modelului să nu adauge explicații în afara JSON-ului.
