Positional encoding
Në shqip: Kodimi i pozicionit
ShpjegimiSQ
Transformer-at i shohin të gjitha fjalët njëkohësisht, prandaj duhet t'u thuhet ku është secila në fjali („qeni kafshoi njeriun“ ≠ „njeriu kafshoi qenin“). Kodimi i pozicionit (si RoPE) shton këtë informacion.
EnglishEN
Transformers see all words at once, so they must be told where each sits in the sentence (“dog bites man” ≠ “man bites dog”). Positional encoding (like RoPE) adds that information.
Si ta mendosh
Si numrat e vendeve në teatër që tregojnë kush ku ulet.
Lexoje në anglisht
Like seat numbers in a theatre showing who sits where.