Aller au contenu principal

Budget de contexte

L'écran Budget de contexte (titre de page Planificateur de budget de contexte) permet de planifier comment la fenêtre de contexte d'un modèle se répartit entre les segments d'entrée, la sortie, le raisonnement et une marge de sécurité, et de calculer le plan avec le Context Manager du Control Plane. Chemin dans le portail : /llm/context. Il est utilisé par les développeurs et les ingénieurs de la plateforme IA qui dimensionnent prompts, historique et recherche. L'écran est construit dans portal/src/screens/llm-tools.tsx (ContextPlanner) avec le calcul local de portal/src/lib/context-budget.ts.

Ce que montre l'écran​

La section Formule du budget (« W est la fenêtre de contexte du modèle. Le budget restant est ce que vous pouvez consacrer aux prompts, à l'historique et à la recherche. ») :

  • la formule B_context = W - B_out - B_reasoning - B_safety avec les valeurs courantes et le résultat (en rouge quand les budgets réservés dépassent la fenêtre) ;
  • quatre champs numériques : Fenêtre W (défaut 200000), Sortie B_out (8192), Raisonnement B_reasoning (8192), Sécurité B_safety (2048) ;
  • une barre avec la légende Utilisé par les segments, Sortie B_out, Raisonnement B_reasoning, Sécurité B_safety ;
  • trois cartes : Disponible B_context, Utilisé par les segments, Dépassement (en rouge au-dessus de zéro) ;
  • les messages « Les budgets réservés dépassent la fenêtre : réduisez sortie, raisonnement ou sécurité. » ou « Les segments dépassent le budget : le Context Manager va compresser ou écarter des segments. »

La section Segments : une ligne par segment avec son nom et ses Jetons (défaut system 1500, history 42000, retrieval 60000, tools 6000), un bouton de suppression par ligne, Ajouter un segment, puis Calculer le plan avec l'API et la réponse JSON.

Tout ce qui figure dans Formule du budget est calculé dans le navigateur, sans appel.

Actions​

Bouton ou actionCe qu'il faitAppel d'APIRôles
Champs Fenêtre W, Sortie B_out, Raisonnement B_reasoning, Sécurité B_safetyRecalculent le budget tout de suite dans le navigateur.aucuntout le monde
Ajouter un segmentAjoute une ligne segment_<n> à 0 jeton.aucuntout le monde
Bouton de suppression (par segment)Retire le segment.aucuntout le monde
Calculer le plan avec l'APIEnvoie la fenêtre, les budgets réservés et les segments (name, tokens) et affiche le plan : budget (avec context_budget et used), segments, compression_actions, classification_max, context_id.POST /v1/context/planlecteurs LLM

Rôles​

  • POST /v1/context/plan exige l'un des rôles READ de services/control-plane/src/eai/domains/llm/__init__.py (ROLES.llmReaders dans portal/src/lib/kit.ts) : tenant_admin, platform_admin, security_officer, finops, developer, auditor, viewer, agent, ai_platform_engineer, ai_governance_officer, support_engineer.
  • Le calcul local ne demande aucun rôle.

Tâches courantes​

Dimensionner le budget de recherche d'un agent​

  1. Régler la fenêtre. Saisissez la Fenêtre de contexte du modèle (lue dans le Registre des modèles) dans Fenêtre W. Résultat attendu : la formule se met à jour. En cas d'échec : une valeur de 0 rend le budget impossible.
  2. Réserver sortie et raisonnement. Réglez Sortie B_out sur le nombre de jetons max prévu et Raisonnement B_reasoning sur le budget de raisonnement, pour que la réponse ait toujours de la place. Résultat attendu : Disponible B_context affiche ce qui reste. En cas d'échec : « Les budgets réservés dépassent la fenêtre » signifie que les réservations sont trop grandes.
  3. Décrire les segments. Ajustez les Jetons de system, history, retrieval et tools, ou Ajouter un segment. Résultat attendu : Dépassement vaut 0. En cas d'échec : réduisez la recherche ou l'historique jusqu'à ce que Dépassement vaille 0.

Vérifier le plan avec le Control Plane​

  1. Calculer. Cliquez sur Calculer le plan avec l'API, pour que le Context Manager du Control Plane valide le même budget. Résultat attendu : un plan JSON avec budget.context_budget égal à Disponible B_context. En cas d'échec : « Le contexte obligatoire ne tient pas dans la fenêtre du modèle. » (voir la section Dépannage).

  2. Comparer avec la ligne de commande. Le même plan se calcule avec la CLI (voir docs/sdks/cli-reference.md) :

    enterprise-ai context --window 200000 --output-tokens 8192 --reasoning 8192 --safety 2048 plan

    Résultat attendu : le même budget que l'écran. En cas d'échec : vérifiez les valeurs saisies des deux côtés.

Dépannage​

SymptômeCauseCorrection
Résultat en rouge, « Les budgets réservés dépassent la fenêtre »W - B_out - B_reasoning - B_safety est nul ou négatif.Baissez les réservations de sortie, de raisonnement ou de sécurité.
« Le contexte obligatoire ne tient pas dans la fenêtre du modèle. » (context_overflow, 422) sur Calculer le plan avec l'APILes segments envoyés par cet écran n'ont pas de type : le Context Manager les traite comme prompt, un type obligatoire, et ne peut donc ni les compresser ni les écarter quand ils dépassent le budget, ou le budget est nul ou négatif.Réduisez les jetons des segments jusqu'à ce que Dépassement vaille 0, ou réduisez les réservations.
« Le paramètre window est invalide. » (parameter_invalid, 422)Fenêtre W vaut 0.Saisissez une fenêtre positive.
Panneau d'erreur forbidden (403) sur Calculer le plan avec l'APIRôle hors des lecteurs LLM.Demandez un rôle de lecteur à un administrateur ; la formule locale fonctionne toujours.

Pages liées​