# Protocolo: Qual o impacto do tamanho do batch na latência de resposta de um pipeline de QA com Haystack usando FAISS?

Este protocolo avalia como o tamanho do batch afeta a latência média das respostas em um pipeline de perguntas e respostas (QA) implementado com Haystack e FAISS. O objetivo é medir a latência para diferentes tamanhos de batch em condições controladas.

Pergunta: Como o tamanho do batch influencia a latência média de resposta em um pipeline de QA com Haystack e FAISS?

Hipótese: Aumentar o tamanho do batch reduz a latência média por consulta até um ponto, após o qual a latência volta a crescer devido à sobrecarga de processamento.

- fonte oficial https://faiss.ai/

Fonte: https://ulc.upnetix.com.br/labs/protocolo-qual-o-impacto-do-tamanho-do-batch-na-latencia-de-resposta-de-um-pipeline-de-qa-com-haystack-usando-faiss/ · Upnetix Learning Center · uso com citação obrigatória.