Livre blancGouverner les agents IA en production : politiques, approbations humaines et arrêt d'urgence.Lire le livre blanc
NavinAI Platform

Article · Gouvernance

FinOps des LLM : estimé, mesuré, facturé

Navin Enterprise AI suit le coût de chaque appel de modèle en trois temps : estimé avant l'appel, mesuré après grâce à l'Usage Event, puis rapproché de la facture du fournisseur. Comptabilité des tokens, registre des prix et quotas gardent le cycle sous contrôle.

Publié le 2 min de lecture

Le coût d'un modèle dépend des tokens, des secondes d'audio et du temps GPU, et il arrive de plusieurs fournisseurs avec des grilles tarifaires différentes. Navin Enterprise AI traite le coût comme une donnée de gouvernance, tenue par le Control Plane unique à côté des politiques et des quotas.

Trois temps pour chaque appel

  • Estimé : grille tarifaire multipliée par les unités prévues, avant l'appel (POST /v1/gateway/estimate, POST /v1/finops/estimate).
  • Mesuré : l'Usage Event après l'appel, avec les tokens, les secondes et le temps GPU (POST /v1/finops/usage).
  • Facturé : import de la facture ou de l'export du fournisseur, puis rapprochement (POST /v1/finops/reconciliation/run, GET /v1/finops/reconciliation/report).

Comptabilité des tokens et registre des prix

La comptabilité des tokens (brique B09) compte les unités de chaque appel qui traverse le Model Gateway et produit un Usage Event. Le registre des prix des modèles (brique B10) tient les grilles tarifaires, et le moteur de tarification (brique H03) transforme les unités en coûts. Les coûts sont inscrits dans un grand livre (brique H02) appuyé sur PostgreSQL et sur ClickHouse pour l'analytique.

Les quotas avant, pas après

Avant l'appel, l'estimation réserve le quota ; après l'appel, le coût mesuré le valide. Les réservations jamais confirmées expirent grâce au worker serveur. Le routeur ne choisit que parmi les triplets fournisseur, modèle et région autorisés par la politique, et la bascule reste dans ces listes.

Le rapprochement

Le rapprochement des coûts (brique B11) compare les coûts mesurés à ce que les fournisseurs facturent réellement, à partir d'un import de facture ou d'un export du fournisseur, et produit un rapport. Les sessions vocales temps réel sont mesurées à la seconde et au token, et le temps des GPU locaux est comptabilisé avec l'exporteur DCGM : l'inférence auto-hébergée a elle aussi un coût.

  • Livre blancGouvernance

    Gouverner les agents IA en production

    Comment Navin Enterprise AI garde les agents autonomes sous contrôle : politiques OPA empilées de la plateforme au tenant puis au projet, approbations avec un humain dans la boucle, kill switch disponible à tout moment et registre de gouvernance comme source de vérité unique.

    26 min de lecture
  • Fiche techniqueAgents

    Des runtimes MCP isolés par utilisateur et par projet

    Le registre et la passerelle MCP décident qui peut utiliser quel serveur ; le runtime MCP crée à la demande des instances isolées sur le ToolHive Kubernetes Operator et les détruit après usage. Chaque appel d'outil passe toujours par la politique, la DLP et l'approbation.

    3 min de lecture
  • Fiche techniqueSécurité

    Analyse obligatoire des fichiers par ClamAV et YARA-X

    Chaque fichier envoyé à l'IA passe en quarantaine, est analysé par ClamAV et YARA-X puis validé avant que Docling, l'OCR ou le RAG ne puissent le lire. Entièrement local, en échec fermé, journalisé et hautement disponible.

    2 min de lecture

Voyez ces principes appliqués à vos cas d'usage

Un architecte vous présente la plateforme sur vos propres contraintes.