Sampling: top-p, top-k & max tokens
Në shqip: Parametrat e gjenerimit
ShpjegimiSQ
Përveç temperaturës, mund të kontrollosh: max_tokens (sa e gjatë përgjigjja), top-p/top-k (sa fjalë të mundshme merren parasysh), dhe stop sequences (ku ndalet). Për përgjigje të sakta, temperaturë e ulët; për kreativitet, më e lartë.
EnglishEN
Besides temperature you can control: max_tokens (how long the answer is), top-p/top-k (how many candidate words are considered) and stop sequences (where it stops). For precise answers, low temperature; for creativity, higher.
Si ta mendosh
Si cilësimet e një muzikanti: sa të improvizojë dhe sa gjatë të luajë.
Lexoje në anglisht
Like a musician's settings: how much to improvise and how long to play.