Aller au contenu principal

C-11 Humain dans la boucle

Brique C: Agents, autonomie, exécution. Version anglaise: C-11-human-in-the-loop

1. Rôle et responsabilités​

Suspend un run sur une action à risque jusqu'à une décision humaine dans le portail, avec séparation des fonctions.

  • Créer une demande d'approbation (action, risque, contexte)
  • Mettre le run en état waiting_approval et attendre la décision (client.approvals.wait), puis reprendre le tour avec AgentLoop.resume(run_id)
  • Le demandeur ne peut pas approuver

2. Position dans l'architecture et interactions​

  • Appelants: Tool Gateway (requires_approval), politiques OPA (obligation approval).
  • Chemin d'exécution: Workflow durable : état waiting_approval, reprise par signal.
  • Toute interaction passe par l'API Control Plane v1 (/v1) derrière la passerelle API (D-14).

3. Composant open source et partie développée​

  • Open source : portail (Next.js) ; adaptateur Temporal optionnel pour les attentes longues
  • Développé: Modèle d'approbation, notifications, expiration.
  • Intégration externe via un adaptateur eai/integrations/<system>.py avec repli in-process lorsque l'URL n'est pas configurée.

4. Modèle de données​

Tables (schéma eai, RLS tenant_id):

  • eai.approvals

Colonnes communes : id uuid, tenant_id uuid NOT NULL, created_at, updated_at ; politique RLS current_setting('app.tenant_id', true)::uuid.

5. Contrat​

  • Contrat appliqué: policy-contract (obligations) + execution-contract
  • Schéma JSON: contracts/v1/execution-contract.schema.json, contracts/v1/policy-contract.schema.json
  • Champs clés: state=waiting_approval, approval_id
  • Validation : POST /v1/contracts/{name}/validate ; application d'un manifeste : POST /v1/manifests/apply.

6. Endpoints API​

  • GET /v1/approvals
  • POST /v1/approvals
  • GET /v1/approvals/{id}
  • POST /v1/approvals/{id}/decide

Requête POST /v1/approvals/{id}/decide:

{
  "decision": "approve",
  "comment": "Amount checked"
}

Réponse:

{
  "id": "apr_19",
  "status": "approved",
  "decided_by": "usr_42",
  "run_id": "run_01J9"
}

7. Exemples SDK​

Python:

from enterprise_ai import EnterpriseAI

client = EnterpriseAI(base_url="<control-plane-url>", api_key="eai_xxx_secret")
client.approvals.decide("apr_19", decision="approve", comment="ok")

TypeScript:

import { EnterpriseAI } from "@enterprise-ai/sdk";

const client = new EnterpriseAI({ baseUrl: "<control-plane-url>", apiKey: process.env.EAI_API_KEY });
await client.approvals.decide("apr_19", { decision: "approve" });

Java:

EnterpriseAIClient client = EnterpriseAIClient.builder()
    .baseUrl("<control-plane-url>")
    .apiKey(System.getenv("EAI_API_KEY"))
    .build();
client.approvals().decide("apr_19", Map.of("decision", "approve", "comment", "ok"));

Go:

c, _ := eai.NewClient(eai.WithBaseURL("<control-plane-url>"), eai.WithAPIKey(os.Getenv("EAI_API_KEY")))
c.Approvals.Decide(ctx, "apr_19", "approve", "ok")

8. Configuration​

  • Variables d'environnement: EAI_APPROVAL_TTL_SECONDS=86400, EAI_DATABASE_URL
  • Clés Helm: controlPlane.config.EAI_APPROVAL_TTL_SECONDS

9. Contrôles de sécurité​

  • Séparation des fonctions appliquée côté serveur
  • Relation OpenFGA approver sur le projet
  • Toutes les requêtes portent le tenant issu du credential ; RLS PostgreSQL
  • Chaque mutation et décision de politique écrit un événement d'audit chaîné

10. Observabilité​

  • Métriques Prometheus: eai_approvals_pending, eai_approval_latency_seconds
  • Traces: spans OpenTelemetry avec conventions sémantiques GenAI (gen_ai.operation.name, gen_ai.agent.id, gen_ai.tool.name), attributs eai.tenant_id, eai.run_id, propagation traceparent.
  • Actions d'audit: approval.request, approval.decide

11. Unités FinOps​

  • Attente non facturée en calcul (workflow en sommeil).
  • Émis comme Usage Event (POST /v1/finops/usage) avec tenant, projet, agent et run.

12. Modes de défaillance et résilience​

  • Expiration -> rejet automatique
  • Idempotency-Key sur decide
  • Erreurs normalisées (enveloppe error, message_i18n en/fr)

13. Adoption autonome (client d'un client)​

  • enterprise_ai.approvals + Control Plane.
  • SDK: enterprise_ai.agent (AgentsClient, RunsClient, SessionsClient)
  • Déploiement minimal : chart Helm avec controlPlane.enabled=true et PostgreSQL ; composants externes désactivés utilisent leur repli in-process.

14. Tests d'acceptation​

  1. Le demandeur qui approuve -> 403
  2. L'approbation reprend le run
  3. Accès inter-tenant refusé
  4. Erreur renvoyée en fr avec Accept-Language: fr