Batch size

Número de tokens processados em paralelo durante a inferência.