Aller au contenu principal

io.enterpriseai.ContextBudget

Source : sdks/java/enterprise-ai-java/src/main/java/io/enterpriseai/ContextBudget.java. Retour à l'index de la référence du SDK Java.

remarque

Cette page est générée par tools/docs/gen_sdk_reference.py depuis les sources du SDK et les dossiers de textes OpenAPI. Ne la modifiez pas à la main : changez la source et régénérez.

Modèle ContextBudget​

Budget de jetons d'un appel de modèle : B_context = W_model - B_output - B_reasoning - B_safety (Context Contract v1, champ budget).

Champs :

NomTypeRequisDescription
windowintouiFenêtre de contexte du modèle en jetons (window), positive ou nulle.
outputReservedintouiJetons réservés à la sortie (output_reserved).
reasoningReservedintouiJetons réservés au raisonnement (reasoning_reserved).
safetyMarginintouiMarge de sécurité en jetons (safety_margin) ; of prend 5 % de la fenêtre, au moins 256.

ContextBudget.contextBudget​

int contextBudget()

Jetons restants pour le contexte assemblé ; négatif quand les réservations dépassent la fenêtre.

Cet élément ne prend aucun paramètre.

Retour : int. window - outputReserved - reasoningReserved - safetyMargin, en jetons.

ContextBudget.fits​

boolean fits(int tokens)

Vrai quand tokens tient dans le budget de contexte.

NomTypeDéfautRequisDescription
tokensintouiTaille du contexte en jetons.

Retour : boolean. Vrai quand tokens est inférieur ou égal à contextBudget().

ContextBudget.overflow​

int overflow(int tokens)

Jetons à retirer d'un contexte de tokens pour qu'il tienne, 0 quand il tient.

NomTypeDéfautRequisDescription
tokensintouiTaille du contexte en jetons.

Retour : int. Le nombre de jetons en trop, jamais négatif.