Aller au contenu principal

context.ts

Source : sdks/typescript/packages/sdk/src/context.ts. Retour à l'index de la référence du SDK TypeScript.

remarque

Cette page est générée par tools/docs/gen_sdk_reference.py depuis les sources du SDK et les dossiers de textes OpenAPI. Ne la modifiez pas à la main : changez la source et régénérez.

Interface ContextBudgetInit​

Tailles transmises au constructeur de ContextBudget.

Champs :

NomTypeRequisDescription
windownumberouiW : fenêtre de contexte du modèle en jetons.
outputnumberouiSortie de l'opération (transcription, références d'images...).
reasoningnumbernonB_reasoning : jetons réservés au raisonnement interne.
safetynumbernonB_safety : marge de sécurité en jetons (2 pour cent de la fenêtre par défaut).
localeLocalenonLangue des messages d'erreur, en (par défaut) ou fr.

Interface BudgetSegment​

Un morceau de contexte transmis à ContextBudget.plan : identifiant, nombre de jetons, priorité et indicateur obligatoire.

Champs :

NomTypeRequisDescription
idstringouiIdentifiant du segment, renvoyé dans included ou dropped.
tokensnumberouiTaille du segment en jetons.
prioritynumbernonLes segments de priorité plus haute sont gardés en premier (0 par défaut).
requiredbooleannonSi vrai (par défaut), un rendu sans valeur ni valeur par défaut échoue.

Interface BudgetPlan​

Résultat de ContextBudget.plan : les jetons réservés, le budget de contexte, les jetons utilisés et les identifiants des segments gardés et écartés.

Champs :

NomTypeRequisDescription
windownumberouiFenêtre de contexte du modèle en jetons.
output_reservednumberouiJetons réservés à la réponse.
reasoning_reservednumberouiJetons réservés au raisonnement interne.
safety_marginnumberouiMarge de sécurité en jetons.
context_budgetnumberouiJetons disponibles pour le contexte du prompt.
usednumberouiJetons des segments gardés.
remainingnumberouiBudget de contexte restant après les segments gardés.
includedstring[]ouiIdentifiants des segments gardés, dans l'ordre d'entrée.
droppedstring[]ouiIdentifiants des segments écartés, dans l'ordre d'entrée.

Classe ContextBudget​

Utilitaire local du Context Manager : B_context = W - B_out - B_reasoning - B_safety.

Attributs :

NomTypeRequisDescription
outputnumberouiJetons réservés à la réponse (B_out).
reasoningnumberouiJetons réservés au raisonnement interne (B_reasoning).
safetynumberouiMarge de sécurité en jetons (B_safety), 2 pour cent de la fenêtre par défaut.
windownumberouiFenêtre de contexte du modèle en jetons (W).

Constructeur ContextBudget​

new ContextBudget(init: ContextBudgetInit)

Arrondit les tailles à l'entier inférieur et les vérifie ; lève RangeError sur une taille négative et ContextOverflowError quand les réserves dépassent la fenêtre.

NomTypeDéfautRequisDescription
initContextBudgetInitouiTailles de la fenêtre, de la sortie, du raisonnement et de la marge en jetons, et langue des messages.

ContextBudget.assertFits​

assertFits(tokens: number): void

Lève ContextOverflowError quand le nombre de jetons donné ne tient pas.

NomTypeDéfautRequisDescription
tokensnumberouiNombre de jetons à comparer au budget de contexte.

Retour : void.

Erreurs levées : ContextOverflowError.

ContextBudget.contextBudget​

contextBudget(): number

Jetons disponibles pour le contexte du prompt : fenêtre moins sortie, raisonnement et marge.

Cet élément ne prend aucun paramètre.

Retour : number. Budget de contexte en jetons.

ContextBudget.fits​

fits(tokens: number): boolean

Indique si un nombre de jetons tient dans le budget de contexte.

NomTypeDéfautRequisDescription
tokensnumberouiNombre de jetons à vérifier.

Retour : boolean. Vrai quand tokens est au plus égal au budget de contexte.

ContextBudget.plan​

plan(segments: BudgetSegment[]): BudgetPlan

Sélection gloutonne : les segments obligatoires d'abord, puis par priorité décroissante, en gardant l'ordre d'entrée à égalité.

NomTypeDéfautRequisDescription
segmentsBudgetSegment[]ouiSegments à faire tenir ; les obligatoires doivent tenir, sinon ContextOverflowError est levée.

Retour : BudgetPlan. Chiffres du budget et identifiants des segments gardés et écartés.

Fonctions​

isEffort​

isEffort(value: unknown): value is Effort

Indique si une valeur est l'un des niveaux d'effort none, low, medium, high ou max.

NomTypeDéfautRequisDescription
valueunknownouiValeur à vérifier.

Retour : value is Effort. Vrai quand la valeur est une chaîne d'effort connue.

compareEffort​

compareEffort(a: Effort, b: Effort): number

Compare deux niveaux d'effort sur l'échelle ordonnée none < low < medium < high < max.

NomTypeDéfautRequisDescription
aEffortouiPremier niveau d'effort.
bEffortouiSecond niveau d'effort.

Retour : number. Négatif quand a est inférieur à b, 0 en cas d'égalité, positif quand il est supérieur.

estimateTokens​

estimateTokens(text: string): number

Estimation approximative des jetons (environ 4 caractères par jeton), utilisée quand aucun tokenizer n'est disponible.

NomTypeDéfautRequisDescription
textstringouiTexte à mesurer.

Retour : number. Longueur du texte divisée par 4, arrondie au supérieur ; 0 pour un texte vide.