Qual a diferença entre liveness e readiness probe?

Liveness detecta se o processo está vivo e reinicia o pod em caso de falha; readiness verifica se o pod está pronto para receber tráfego, sem reiniciar.

Posso automatizar rollback de modelo com probes?

Não. Probes só reiniciam pods; rollback de versão exige automação adicional, como GitOps.

Escalonamento automático resolve todos os problemas de performance?

Não. Ele só mitiga sobrecarga; problemas de código ou modelo ruim não são resolvidos com mais pods.

Como saber se minhas probes estão corretas?

Simule falhas e monitore se o comportamento esperado ocorre (remover do tráfego ou reiniciar pod).

Self-healing e auto-remediação em serving de IA

Em resumo

Serviços de IA em produção falham. Automatizar respostas a falhas e degradações é essencial para manter a disponibilidade e confiabilidade do InferenceService no KServe. Liveness/readiness probes, reinício automático de pods e ações baseadas em métricas são as principais ferramentas, mas têm limites claros.

Conta gratuita