QLoRA (Nicelenmiş Düşük Dereceli Uyarlama)

QLoRA (Quantized Low-Rank Adaptation / Nicelenmiş Düşük Dereceli Uyarlama), LoRA yönteminin bellek verimliliğini ileri bir boyuta taşıyan, büyük dil modellerinin tek bir tüketici sınıfı GPU üzerinde dahi yüksek başarımla ince ayardan (fine-tuning) geçirilmesini sağlayan gelişmiş bir PEFT tekniğidir.

Standart LoRA yönteminde eğitilebilir parametre sayısı azaltılsa da dondurulmuş ana modelin ağırlıkları yüksek hassasiyette (genellikle 16-bit) bellekte tutulmaya devam eder; bu da onlarca milyar parametreli modeller için kurumsal düzeyde donanım ihtiyacını korur. QLoRA, ana model ağırlıklarını bilgi kaybını en aza indiren özel bir 4-bit NormalFloat (NF4) veri tipine sıkıştırarak (nicelleştirerek) bellek kullanımını dramatik biçimde düşürür. Modelin dondurulmuş ağırlıkları 4-bit olarak saklanırken, eğitim sırasında bu ağırlıklar geçici olarak 16-bit değerlere açılarak düşük dereceli LoRA adaptör katmanları üzerinden gradyan hesaplamaları gerçekleştirilir.

Yöntem, performansı korumak için üç temel yenilik sunar: Normal dağılıma sahip model ağırlıkları için teorik olarak en uygun sıkıştırmayı sağlayan 4-bit NormalFloat veri tipi, nicelleştirme sabitlerini de yeniden nicelleyerek ek bellek tasarrufu sağlayan Çift Nicelleştirme (Double Quantization) ve bellek sıçramalarında eğitimin çökmesini önleyen Sayfalanmış İyileştiriciler (Paged Optimizers).

QLoRA, 16-bit tam ince ayar ve klasik LoRA ile kıyaslandığında görev performansından neredeyse hiç ödün vermeden 65 milyar parametrelik dev modellerin bile tek bir 48 GB veya 24 GB GPU üzerinde ince ayardan geçirilmesini mümkün kılarak yapay zekâ araştırmalarını demokratikleştiren çığır açıcı bir standart haline gelmiştir.