LoRA & parameter-efficient fine-tuning
Në shqip: LoRA dhe përshtatja efikase
ShpjegimiSQ
Përshtatja e plotë e një LLM-je kërkon GPU të shtrenjta. LoRA ndryshon vetëm një pjesë shumë të vogël të peshave (nëpërmjet „adapterëve“), kështu modelet përshtaten edhe në një GPU të vetme — dhe adapterët zënë vetëm disa MB.
EnglishEN
Fully fine-tuning an LLM needs expensive GPUs. LoRA changes only a tiny fraction of the weights (through “adapters”), so models can be adapted on a single GPU — and the adapters take just a few MB.
Si ta mendosh
Si të shtosh një aksesor në një makinë në vend që ta rindërtosh.
Lexoje në anglisht
Like adding an accessory to a car instead of rebuilding it.