Aller au contenu principal

C-13 Limites de ressources

Brique C: Agents, autonomie, exécution. Version anglaise: C-13-resource-limits

1. Rôle et responsabilités​

Borne la consommation par run, agent et tenant : quotas Kubernetes (CPU, mémoire) et limites runtime (étapes, tokens, coût, durée, concurrence).

  • Réserver un quota avant le run (quotas brique H)
  • Appliquer ResourceQuota / LimitRange
  • Limiter les runs concurrents par agent

2. Position dans l'architecture et interactions​

  • Appelants: Agent Runtime, Sandbox, FinOps.
  • Chemin d'exécution: Synchrone au démarrage, contrôle continu dans la boucle.
  • Toute interaction passe par l'API Control Plane v1 (/v1) derrière la passerelle API (D-14).

3. Composant open source et partie développée​

  • Open source: Kubernetes ResourceQuota, LimitRange
  • Développé: Limites runtime et réservation de quotas.
  • Intégration externe via un adaptateur eai/integrations/<system>.py avec repli in-process lorsque l'URL n'est pas configurée.

4. Modèle de données​

Tables (schéma eai, RLS tenant_id):

  • eai.runs (budgets)
  • eai.quotas

Colonnes communes : id uuid, tenant_id uuid NOT NULL, created_at, updated_at ; politique RLS current_setting('app.tenant_id', true)::uuid.

5. Contrat​

  • Contrat appliqué: agent-manifest + execution-contract
  • Schéma JSON: contracts/v1/agent-manifest.schema.json, contracts/v1/execution-contract.schema.json
  • Champs clés: spec.budgets, budgets.max_cost, budgets.max_duration_s
  • Validation : POST /v1/contracts/{name}/validate ; application d'un manifeste : POST /v1/manifests/apply.

6. Endpoints API​

  • POST /v1/quotas/reserve
  • POST /v1/agents/{id}/runs
  • PATCH /v1/agents/{id}

Requête PATCH /v1/agents/{id}:

{
  "budgets": {
    "max_steps": 30,
    "max_concurrent_runs": 5,
    "max_cost": {
      "amount": "2.00",
      "currency": "EUR"
    }
  }
}

Réponse:

{
  "id": "agt_support",
  "version": 4,
  "budgets": {
    "max_steps": 30,
    "max_concurrent_runs": 5
  }
}

7. Exemples SDK​

Python:

from enterprise_ai import EnterpriseAI

client = EnterpriseAI(base_url="<control-plane-url>", api_key="eai_xxx_secret")
client.agents.run("agt_support", "Triage the open tickets", budgets={"max_tool_calls": 30})

TypeScript:

import { EnterpriseAI } from "@enterprise-ai/sdk";

const client = new EnterpriseAI({ baseUrl: "<control-plane-url>", apiKey: process.env.EAI_API_KEY });
await client.agents.run("agt_support", { task: { objective: "Triage INC-42" }, budgets: { max_steps: 30 } });

Java:

EnterpriseAIClient client = EnterpriseAIClient.builder()
    .baseUrl("<control-plane-url>")
    .apiKey(System.getenv("EAI_API_KEY"))
    .build();
client.runs().start("agt_support", Map.of("task", "Summarize INC-42", "budgets", Map.of("max_steps", 30)));

Go:

c, _ := eai.NewClient(eai.WithBaseURL("<control-plane-url>"), eai.WithAPIKey(os.Getenv("EAI_API_KEY")))
c.Runs.Start(ctx, "agt_support", map[string]any{"task": "Summarize INC-42", "budgets": map[string]any{"max_steps": 30}})

8. Configuration​

  • Variables d'environnement: EAI_DATABASE_URL
  • Clés Helm: controlPlane.resources, sandbox.runtimeClasses

9. Contrôles de sécurité​

  • Limites non modifiables par l'agent lui-même
  • Toutes les requêtes portent le tenant issu du credential ; RLS PostgreSQL
  • Chaque mutation et décision de politique écrit un événement d'audit chaîné

10. Observabilité​

  • Métriques Prometheus: eai_budget_exceeded_total{kind}, eai_runs_concurrent
  • Traces: spans OpenTelemetry avec conventions sémantiques GenAI (gen_ai.operation.name, gen_ai.agent.id, gen_ai.tool.name), attributs eai.tenant_id, eai.run_id, propagation traceparent.
  • Actions d'audit: run.transition

11. Unités FinOps​

  • Réservation puis validation / libération des quotas.
  • Émis comme Usage Event (POST /v1/finops/usage) avec tenant, projet, agent et run.

12. Modes de défaillance et résilience​

  • Quota indisponible -> 429 quota_exceeded
  • Libération automatique à la fin du run
  • Erreurs normalisées (enveloppe error, message_i18n en/fr)

13. Adoption autonome (client d'un client)​

  • enterprise_ai.agent + enterprise_ai.quotas.
  • SDK: enterprise_ai.agent (AgentsClient, RunsClient, SessionsClient)
  • Déploiement minimal : chart Helm avec controlPlane.enabled=true et PostgreSQL ; composants externes désactivés utilisent leur repli in-process.

14. Tests d'acceptation​

  1. 6e run concurrent avec limite 5 -> 429
  2. Accès inter-tenant refusé
  3. Erreur renvoyée en fr avec Accept-Language: fr