`resources/llm-management.ts`

Source : sdks/typescript/packages/sdk/src/resources/llm-management.ts. Retour à l'index de la référence du SDK TypeScript.

remarque

Cette page est générée par tools/docs/gen_sdk_reference.py depuis les sources du SDK et les dossiers de textes OpenAPI. Ne la modifiez pas à la main : changez la source et régénérez.

Alias de type `LlmBudgetPeriod`

Période de budget d'un quota de projet LLM ou d'une clé LiteLLM.

Définition : "daily" \| "weekly" \| "monthly" \| "total".

Interface `LlmProjectQuota`

Quota d'un projet LLM (reporté dans son équipe LiteLLM, limites quotidienne et mensuelle appliquées aussi par la passerelle).

Champs :

Nom	Type	Requis	Description
`budget_amount`	`string \| null`	non	Budget par `budget_period`, décimal, au moins 0, dans `budget_currency`.
`budget_currency`	`string`	non	Devise ISO 4217 du budget, trois lettres majuscules, `USD` par défaut.
`budget_period`	`LlmBudgetPeriod`	non	Période de budget d'un quota de projet LLM ou d'une clé LiteLLM.
`token_limit`	`number \| null`	non	Nombre maximal de jetons par `token_period`, au moins 0. Appliqué par la passerelle du Control Plane au moyen d'un quota FinOps quand le projet est lié et que la période est `daily` ou `monthly`.
`token_period`	`LlmBudgetPeriod`	non	Période de la limite de jetons : `daily`, `weekly`, `monthly` (par défaut) ou `total`.
`rpm_limit`	`number \| null`	non	Requêtes par minute autorisées pour le projet.
`tpm_limit`	`number \| null`	non	Jetons par minute autorisés pour le projet.
`max_parallel_requests`	`number \| null`	non	Nombre maximal de requêtes simultanées du projet.
`alert_threshold_pct`	`number`	non	Seuil d'alerte en part du budget, en pour cent (de 1 à 100, 80 par défaut) : transmis dans les métadonnées de l'équipe LiteLLM et utilisé comme budget souple de chaque nouvelle clé (cette part de son `max_budget`).
`hard_stop`	`boolean`	non	Si vrai (par défaut), les appels sont refusés une fois le budget dépensé (budget maximal LiteLLM, quotas FinOps stricts). Si faux, le budget ne fait qu'alerter.

Interface `LlmKeyCreate`

Limites d'une clé LiteLLM : jamais plus larges que celles du projet (422 llm_key_limit_exceeds_project).

Champs :

Nom	Type	Requis	Description
`name`	`string`	non	Nom d'affichage de la clé.
`key_alias`	`string`	non	Alias unique de la clé dans LiteLLM, de 1 à 120 caractères, lettres, chiffres, points, tirets et soulignés, commençant par une lettre ou un chiffre. Généré à partir des noms du tenant et du projet s'il est omis.
`models`	`string[]`	non	Modèles que la clé peut appeler.
`max_budget`	`string \| null`	non	Limite de budget de la clé, sous forme de chaîne décimale ; null pour aucune limite propre.
`budget_period`	`LlmBudgetPeriod`	non	Période de budget d'un quota de projet LLM ou d'une clé LiteLLM.
`rpm_limit`	`number \| null`	non	Requêtes par minute autorisées pour la clé.
`tpm_limit`	`number \| null`	non	Jetons par minute autorisés pour la clé.
`max_parallel_requests`	`number \| null`	non	Nombre maximal de requêtes simultanées de la clé.
`duration_days`	`number \| null`	non	Durée de vie de la clé en jours, de 1 à 3650 ; la clé expire ensuite. Omettez-la pour une clé sans échéance.

Classe `LlmManagementResource`

Gestion des LLM. Projets LLM d'un tenant, leur quota et les clés virtuelles LiteLLM que les applications utilisent pour appeler les modèles.

Resource

`LlmManagementResource.blockKey`

blockKey(projectId: string, keyId: string, opts?: CallOptions)

Bloquer une clé de projet. Bloque la clé dans LiteLLM : les appels qui l'utilisent sont refusés jusqu'à son déblocage. Le statut devient blocked. Une clé révoquée répond 409 llm_key_revoked. Audité (llm_key.block). Demande tenant_admin ou platform_admin.

Route : /v1/llm/projects/{project_id}/keys/{key_id}/block (POST).

Nom	Type	Requis	Description
`projectId`	`string`	oui	Identifiant (UUID) du projet LLM.
`keyId`	`string`	oui	Identifiant (UUID) de la clé dans la plateforme.
`opts`	`CallOptions`	non	Options de l'appel (requête, clé d'idempotence, traceparent, en-têtes).