Aller au contenu principal

E-09 Gestionnaire de contexte

Brique E: Données, RAG, contexte, mémoire. Version anglaise: E-09-context-manager

1. Rôle et responsabilités​

Construit, compresse et budgète le contexte envoyé au modèle, avec provenance de chaque segment. Budget : B_context = W_model - B_output - B_reasoning - B_safety.

  • Calculer le budget à partir de la fenêtre du modèle
  • Prioriser les segments (system, skills, mémoire, RAG, historique)
  • Compresser (résumé, troncature, élimination) et tracer compression_actions
  • Calculer classification_max

2. Position dans l'architecture et interactions​

  • Appelants: Loop Controller (C-03), SDK.
  • Chemin d'exécution: Synchrone.
  • Toute interaction passe par l'API Control Plane v1 (/v1) derrière la passerelle API (D-14).

3. Composant open source et partie développée​

  • Open source: aucun (à développer)
  • Développé: Entièrement développé.
  • Intégration externe via un adaptateur eai/integrations/<system>.py avec repli in-process lorsque l'URL n'est pas configurée.

4. Modèle de données​

Tables (schéma eai, RLS tenant_id):

  • eai.run_steps (context_id)

Colonnes communes : id uuid, tenant_id uuid NOT NULL, created_at, updated_at ; politique RLS current_setting('app.tenant_id', true)::uuid.

5. Contrat​

  • Contrat appliqué: context-contract
  • Schéma JSON: contracts/v1/context-contract.schema.json
  • Champs clés: budget.window, budget.output_reserved, budget.reasoning_reserved, budget.safety_margin, budget.context_budget, budget.used, segments, compression_actions, classification_max
  • Validation : POST /v1/contracts/{name}/validate ; application d'un manifeste : POST /v1/manifests/apply.

6. Endpoints API​

  • POST /v1/context/plan

Requête POST /v1/context/plan:

{
  "model_id": "gpt-4.1",
  "window": 128000,
  "output": 4000,
  "reasoning": 8000,
  "safety": 2000,
  "segments": [
    {
      "kind": "history",
      "tokens": 130000,
      "priority": 2
    }
  ]
}

Réponse:

{
  "budget": {
    "window": 128000,
    "output_reserved": 4000,
    "reasoning_reserved": 8000,
    "safety_margin": 2000,
    "context_budget": 114000,
    "used": 113500
  },
  "compression_actions": [
    {
      "segment": 0,
      "action": "summarize"
    }
  ]
}

7. Exemples SDK​

Python:

from enterprise_ai import EnterpriseAI

client = EnterpriseAI(base_url="<control-plane-url>", api_key="eai_xxx_secret")
plan = client.context.plan(model_id="gpt-4.1", window=128000, output=4000, reasoning=8000, safety=2000, segments=segs)

TypeScript:

import { EnterpriseAI } from "@enterprise-ai/sdk";

const client = new EnterpriseAI({ baseUrl: "<control-plane-url>", apiKey: process.env.EAI_API_KEY });
const plan = await client.context.plan({ modelId: "gpt-4.1", window: 128000, output: 4000, reasoning: 8000, safety: 2000, segments });

Java:

EnterpriseAIClient client = EnterpriseAIClient.builder()
    .baseUrl("<control-plane-url>")
    .apiKey(System.getenv("EAI_API_KEY"))
    .build();
ContextPlan plan = client.context().plan(req);

Go:

c, _ := eai.NewClient(eai.WithBaseURL("<control-plane-url>"), eai.WithAPIKey(os.Getenv("EAI_API_KEY")))
plan, _ := c.Context.Plan(ctx, map[string]any{"window": 128000, "output": 4000})

8. Configuration​

  • Variables d'environnement: EAI_DATABASE_URL
  • Clés Helm: controlPlane.config, controlPlane.secrets

9. Contrôles de sécurité​

  • classification_max comparée à la classification autorisée du modèle
  • Provenance obligatoire par segment
  • Toutes les requêtes portent le tenant issu du credential ; RLS PostgreSQL
  • Chaque mutation et décision de politique écrit un événement d'audit chaîné

10. Observabilité​

  • Métriques Prometheus: eai_context_tokens_used, eai_context_compressions_total{action}
  • Traces: spans OpenTelemetry avec conventions sémantiques GenAI (gen_ai.operation.name, gen_ai.agent.id, gen_ai.tool.name), attributs eai.tenant_id, eai.run_id, propagation traceparent.
  • Actions d'audit : aucune action dédiée, le plan de contexte est calculé sans état ; l'appel modèle qui suit produit model.invoke.

11. Unités FinOps​

  • Tokens d'entrée économisés par compression.
  • Émis comme Usage Event (POST /v1/finops/usage) avec tenant, projet, agent et run.

12. Modes de défaillance et résilience​

  • Budget négatif -> 422 context_budget_negative
  • Erreurs normalisées (enveloppe error, message_i18n en/fr)

13. Adoption autonome (client d'un client)​

  • enterprise_ai.llm.context, sans autre dépendance.
  • SDK: enterprise_ai.privacy / dlp / knowledge_bases / memory / retention / lineage
  • Déploiement minimal : chart Helm avec controlPlane.enabled=true et PostgreSQL ; les composants externes désactivés utilisent leur repli in-process.

14. Tests d'acceptation​

  1. context_budget = window - output - reasoning - safety
  2. used <= context_budget après compression
  3. Accès inter-tenant refusé
  4. Erreur renvoyée en fr avec Accept-Language: fr

RAG gouverné (kit L4)​

Seuls les fragments autorisés, actifs (hors quarantaine) et d'une source encore active entrent dans le contexte ; chaque réponse porte citations et lineage_run_id.