Serving de modèles (vLLM, Triton)

Inférence à faible latence, batching, autoscaling.