QLoRA
AddestramentoQuantized Low-Rank Adaptation. Variante di LoRA che quantizza il modello base a 4 bit (NF4) prima dell'addestramento: consente di adattare modelli fino a 65B su una singola GPU da 48 GB, con adattatori di pochi MB.
Quantized Low-Rank Adaptation. Variante di LoRA che quantizza il modello base a 4 bit (NF4) prima dell'addestramento: consente di adattare modelli fino a 65B su una singola GPU da 48 GB, con adattatori di pochi MB.