Plan de tests de charge
Scripts k6 dans deploy/loadtest/. À exécuter uniquement sur staging.
Résultats mesurés en local (débit, latences, quotas, RTO et RPO) : performance-results.md.
| Script | Objectif | Seuils |
|---|---|---|
chat-completions.js | Passerelle /v1/gateway/chat/completions, 20 req/s stable puis rampe à 150 req/s | erreurs < 1 %, p95 < 8 s, TTFB p95 < 2 s |
control-plane-api.js | API de gestion (lectures, audit), 300 VUs | erreurs < 0,5 %, p95 < 300 ms, p99 < 1 s |
rag-agents.js | Requêtes RAG et lancement d'exécutions d'agents | RAG p95 < 800 ms |
k6 run -e BASE_URL=<control-plane-url> -e EAI_API_KEY=$KEY deploy/loadtest/chat-completions.js
À observer : HPA et ScaledObjects KEDA (vLLM vllm:num_requests_waiting, workers lag JetStream), pool PostgreSQL, latence OPA/OpenFGA, écrans Métriques en direct et Allocation GPU du portail, métriques vllm:* et DCGM_FI_* dans Prometheus. Critères de sortie : aucun seuil franchi, pas d'erreur 5xx liée à la saturation, temps de montée en charge vLLM consigné.