Formatul de prompt ChatML și mesajul de sistem la Hermes

Modelele Hermes folosesc formatul de prompt ChatML. Înțelegerea lui te ajută să obții răspunsuri mai bune și să folosești corect mesajul de sistem.

Ce este ChatML

ChatML structurează conversația în mesaje cu roluri, delimitate de marcaje speciale. Rolurile uzuale sunt system (instrucțiuni), user (utilizator) și assistant (model). Un schimb arată, simplificat, astfel:

<|im_start|>system
Ești un asistent util care răspunde în limba română.<|im_end|>
<|im_start|>user
Salut! Cu ce mă poți ajuta?<|im_end|>
<|im_start|>assistant

Rolul mesajului de sistem

Mesajul de system definește comportamentul, tonul și regulile modelului. Hermes răspunde foarte bine la instrucțiuni de sistem clare — de exemplu poți stabili personalitatea, limba, formatul răspunsului sau restricțiile.

Nu scrii manual marcajele, de obicei

Când folosești Ollama, vLLM sau un API compatibil OpenAI, trimiți mesajele ca listă de obiecte (role + content) iar aplicarea șablonului ChatML se face automat. Marcajele contează mai ales când construiești promptul „de mână”.

Sfaturi pentru prompturi bune

• Pune instrucțiunile importante în mesajul de sistem.
• Fii explicit despre limbă și format (de exemplu „răspunde în română, pe scurt”).
• Pentru sarcini repetabile, păstrează un mesaj de sistem consistent.