Batch – (Toplu İşlem)

Batch (Toplu İşlem), makine öğrenmesi ve derin öğrenme alanında, veri kümesinin belirli büyüklükteki alt gruplara ayrılarak model tarafından tek seferde işlenmesini ifade eden temel bir kavramdır. Büyük veri kümelerinin tamamını aynı anda işlemek çoğu zaman yüksek bellek gereksinimi ve hesaplama maliyeti doğurduğundan, eğitim verileri daha küçük gruplara bölünerek modele sırayla sunulur. Her bir veri grubu batch olarak adlandırılır ve bu gruptaki örnekler birlikte işlenerek model parametrelerinin güncellenmesinde kullanılır. Bir batch içerisinde yer alan örnek sayısı ise batch size (batch büyüklüğü) olarak tanımlanır.

Makine öğrenmesi modelinin eğitimi sırasında her batch için ileri yayılım (forward propagation) gerçekleştirilir, tahmin hatası hesaplanır ve geri yayılım (backpropagation) yöntemiyle model ağırlıkları güncellenir. Tüm eğitim verilerinin bir kez işlenmesi epoch olarak adlandırılır. Örneğin 10.000 örnekten oluşan bir veri kümesi, batch büyüklüğü 100 olarak belirlenirse model bir epoch boyunca 100 farklı batch üzerinde çalışır. Eğitim sürecinde batch büyüklüğünün seçimi, model performansı ve eğitim süresi üzerinde doğrudan etkilidir. Küçük batch değerleri daha sık ağırlık güncellemesi yaparak modelin genelleme yeteneğini artırabilirken, eğitim süresini uzatabilir. Büyük batch değerleri ise grafik işlem birimlerinin (GPU) daha verimli kullanılmasını sağlayabilir ancak daha fazla bellek gerektirir ve bazı durumlarda modelin genelleme başarısını olumsuz etkileyebilir.

Derin öğrenmede üç temel eğitim yaklaşımı bulunmaktadır. Batch Gradient Descent, tüm veri kümesini tek seferde kullanarak ağırlıkları günceller. Stochastic Gradient Descent (SGD) her güncellemede yalnızca tek bir örneği kullanır. Mini-Batch Gradient Descent ise belirli büyüklükteki veri gruplarını işleyerek bu iki yaklaşım arasında denge kurar ve günümüzde en yaygın kullanılan yöntemdir. Batch kavramı yalnızca model eğitimiyle sınırlı olmayıp, çıkarım (inference), veri ön işleme ve dağıtık hesaplama süreçlerinde de kullanılmaktadır. Yapay zekâ uygulamalarında uygun batch büyüklüğünün belirlenmesi; eğitim hızı, bellek kullanımı, hesaplama verimliliği ve model doğruluğu arasında optimum dengenin kurulması açısından kritik öneme sahiptir.