Aller au contenu principal

Allocation GPU

L'écran Allocation GPU vous permet de voir le temps GPU, l'énergie et le coût des déploiements de modèles locaux sur une période, la répartition de ce coût entre les tenants, et les politiques d'allocation qui le valorisent. Chemin dans le portail : /finops/gpu (menu FinOps > Allocation GPU). Les administrateurs de plateforme définissent les politiques ; les analystes FinOps et les administrateurs de tenant lisent l'allocation.

Ce que montre l'écran​

ZoneContenu
Du et AuPériode de l'allocation, par défaut les 30 derniers jours jusqu'à aujourd'hui.
Section Allocation, tableau des déploiementsUne ligne par déploiement : Identifiant de déploiement, Échantillons, GPU, Heures GPU, Heures GPU actives (heures pondérées par l'utilisation), Énergie (kWh), Coût, Alloué, Non alloué, Échantillons sans tarif (échantillons qu'aucune politique d'allocation ne valorise).
Section Allocation, tableau des tenantsAffiché quand des tenants ont consommé : Identifiant du tenant, Secondes GPU, Part, Coût. Le coût d'un déploiement est réparti au prorata des secondes GPU mesurées sur les événements d'usage de chaque tenant.
Tableau Politiques d'allocationNom, Motif de déploiement, Modèle de GPU, Coût horaire GPU, Surcoût %, PUE, Activé.
États videsAucun usage GPU (les échantillons GPU sont envoyés par les déploiements vLLM) ; Aucune politique d'allocation.

Un administrateur de plateforme connecté sans tenant voit tous les tenants ; les autres appelants voient leur propre tenant.

Actions​

Bouton ou actionCe qu'il faitAppel APIRôles
Du / AuRecharge l'allocation pour la période.GET /v1/finops/gpu/allocation (from, to)Lecteurs de la section FinOps
Réessayer (encadré d'erreur)Renvoie la requête d'allocation.GET /v1/finops/gpu/allocationLecteurs de la section FinOps
Nouvelle politique d'allocationOuvre le formulaire : Nom (obligatoire), Motif de déploiement (par défaut *), Modèle de GPU (par exemple L40S), Devise (par défaut USD), Coût horaire GPU (obligatoire, par exemple 2.10), Surcoût % (par défaut 0), PUE (par exemple 1.4), Prix de l'énergie par kWh (par exemple 0.18), Activé. Créer l'envoie.POST /v1/finops/allocation-policiesplatform_admin
Actualiser (icône flèche ronde)Recharge les politiques.GET /v1/finops/allocation-policiesLecteurs de la section FinOps

Les échantillons GPU eux-mêmes sont envoyés par les déploiements avec POST /v1/finops/gpu/samples (platform_admin).

Rôles​

RôleAccès
platform_adminLit l'allocation de tous les tenants et crée les politiques d'allocation (ROLES.allocationAdmins de portal/src/lib/kit.ts).
finops, tenant_admin, auditorLisent l'allocation de leur tenant et les politiques ; Nouvelle politique d'allocation est masqué.
developer, viewer, security_officerAutorisés en lecture par l'API, mais la section FinOps du menu du portail ne s'ouvre pas pour eux.

Tâches courantes​

Valoriser les GPU d'un déploiement local​

  1. Ouvrir le formulaire. Sans politique, les échantillons restent sans tarif. Cliquez sur Nouvelle politique d'allocation. Résultat attendu : le formulaire s'ouvre à droite. En cas d'échec : le bouton n'est affiché qu'à platform_admin.
  2. Remplir la politique. Saisissez un Nom, un Motif de déploiement qui correspond aux identifiants de déploiement (* pour tous), le Modèle de GPU, le Coût horaire GPU, puis PUE et Prix de l'énergie par kWh pour ajouter le coût de l'énergie. Résultat attendu : les champs sont remplis. En cas d'échec : PUE doit valoir 1 ou plus.
  3. La créer. Cliquez sur Créer. Résultat attendu : la politique est listée, et les échantillons des déploiements correspondants pris pendant que la politique est en vigueur sont valorisés : Échantillons sans tarif baisse sur ces périodes. En cas d'échec : forbidden signifie que vous n'êtes pas administrateur de plateforme.

Vérifier le coût GPU imputé à chaque tenant​

  1. Choisir la période. Mettez Du et Au sur le mois à vérifier. Résultat attendu : le tableau des déploiements montre le coût du mois. En cas d'échec : Aucun usage GPU signifie qu'aucun échantillon n'a été reçu sur la période.
  2. Lire le tableau des tenants. Comparez Part et Coût par tenant, et Non alloué par déploiement : le coût non alloué correspond au temps GPU qu'aucun événement d'usage de tenant ne justifie. Résultat attendu : Alloué plus Non alloué égale Coût pour chaque déploiement. En cas d'échec : vérifiez que les événements d'usage des tenants portent deployment_id et gpu_seconds dans Événements d'usage.

Dépannage​

SymptômeCauseCorrection
Aucun usage GPUAucun échantillon GPU sur la période.Vérifiez que les déploiements vLLM envoient leurs échantillons à POST /v1/finops/gpu/samples avec une identité d'administrateur de plateforme.
Échantillons sans tarif supérieur à zéroAucune politique d'allocation activée ne correspond au déploiement.Créez une politique dont le Motif de déploiement lui correspond.
Erreur tenant_required (HTTP 403)Un appelant sans tenant qui n'est pas administrateur de plateforme.Connectez-vous à un tenant.
Erreur forbidden (HTTP 403) à la création d'une politiqueLes politiques sont créées par platform_admin seulement.Adressez-vous à un administrateur de plateforme.
Erreur validation_error (HTTP 422)Un coût négatif, un PUE inférieur à 1, ou une devise qui n'est pas en trois lettres majuscules.Corrigez le champ.

Pages liées​