O que é batching?
Juntar vários pedidos e processá-los de uma vez só, em vez de um por um, para atender muito mais gente com o mesmo equipamento.
Também chamado de: processamento em lote.
Uma analogia
A Família não faz uma viagem por caixa: enche o caminhão e entrega o bairro inteiro numa rodada só.
Esta verbete ainda não tem exemplo prático revisado, e por isso não está publicado nos buscadores. A definição e a analogia acima vêm do glossário do curso.
Onde isso aparece no curso
- Custos de inferência (production)