Qual o valor ideal de nlist no FAISS?

Depende do volume de vetores e RAM; para 1 milhão de vetores, nlist=1000 é um ponto de partida, mas ajuste conforme seu caso.

Posso usar todo o RAM disponível no heap do Elasticsearch?

Não. O recomendado é até 50% da RAM física, com limite de 32GB.

Batch size alto sempre melhora a performance do Reader?

Não. Batch size alto pode estourar a RAM e causar OOM. Teste e monitore.

Como saber se o top_k do Retriever está alto demais?

Se a CPU saturar ou a latência subir sem ganho de recall, o top_k está excessivo.

Entrar ou criar conta

Haystack intermediário: pipelines de busca semântica e QA corporativo

Ajuste fino de recursos: tuning de memória, CPU e indexação

Em resumo

O dimensionamento eficiente de pipelines Haystack depende do ajuste preciso de memória, CPU e parâmetros de indexação. Esta lição detalha como configurar FAISS e Elasticsearch, otimizar Reader e Retriever, e monitorar recursos para garantir performance estável.

Conta gratuita