B09 - Comptabilité des tokens

Groupe	Technologie	Statut	Service	Phase de la feuille de route	Contrats
B - Gestion des LLM et Model Gateway	Développé	à développer	finops	2	usage-event

Retour à l'index - English

Rôle et responsabilités

Compte les tokens d'entrée, de sortie, de raisonnement et en cache par appel et émet des Usage Events.

Modèle de données

Les Usage Events suivent contracts/v1/usage-event.schema.json (units, pricing, cost, source) et sont stockés dans eai.usage_events, répliqués vers ClickHouse.

Tables (schéma eai, chaque table tenant porte tenant_id uuid NOT NULL avec une politique RLS sur current_setting('app.tenant_id', true)::uuid) : eai.usage_events, eai.price_cards, eai.fx_rates, eai.recon_imports, eai.audit_events.

Endpoints API

• POST /v1/finops/usage
• POST /v1/finops/usage/batch
• GET /v1/finops/usage

POST /v1/finops/usage HTTP/1.1
Host: <control-plane-host>
X-API-Key: eai_xxx_secret
Accept-Language: fr
Content-Type: application/json

{"schema_version": "1.0", "event_id": "6f1c2a9e-4b7d-4e2a-9c1f-2d3e4f5a6b7c", "occurred_at": "2026-10-30T09:00:00Z", "tenant_id": "18de5695-21f9-4053-a4ea-beb4bf2a5932", "agent_id": null, "session_id": null, "task_id": null, "usage_type": "llm", "provider": "openai", "model_id": "gpt-4o-eu", "region": "eu", "units": {"input_tokens": 1200, "output_tokens": 300}, "pricing": {"pricing_version": "2025-05", "currency": "USD", "effective_at": "2026-10-30T09:00:00Z"}, "cost": {"estimated": null, "measured": null, "billed": null}, "source": "gateway"}

{"id": "57120d60-19f6-49bd-b4a8-1b0012675bc2", "event": {"schema_version": "1.0", "event_id": "6f1c2a9e-4b7d-4e2a-9c1f-2d3e4f5a6b7c", "occurred_at": "2026-10-30T09:00:00Z", "tenant_id": "18de5695-21f9-4053-a4ea-beb4bf2a5932", "usage_type": "llm", "provider": "openai", "model_id": "gpt-4o-eu", "region": "eu", "units": {"input_tokens": 1200, "output_tokens": 300}, "pricing": {"price_card_id": "a9f571c4-9c05-4254-8e25-e1d5273a9b3d", "pricing_version": "2025-05", "currency": "USD", "effective_at": "2026-10-30T09:00:00Z", "reasoning_billing": "included_in_output"}, "cost": {"estimated": null, "measured": {"amount": "0.006", "currency": "USD"}, "billed": null}, "status": "measured", "source": "gateway", "labels": {}}, "breakdown": {"tier": null, "lines": [{"key": "input_tokens", "per": "1000000", "note": null, "amount": "0.003", "quantity": "1200", "unit_price": "2.5"}, {"key": "output_tokens", "per": "1000000", "note": null, "amount": "0.003", "quantity": "300", "unit_price": "10"}], "unpriced": [], "price_card": {"id": "a9f571c4-9c05-4254-8e25-e1d5273a9b3d", "version": "2025-05", "provider": "openai", "reference": false, "model_pattern": "gpt-4o*"}}, "fx": {"base": "USD", "legs": [], "rate": "1", "quote": "USD"}, "measured_in_price_currency": {"amount": "0.006", "currency": "USD"}, "user_id": "alice", "duplicate": false}

Les erreurs utilisent l'enveloppe commune {"error": {"code", "message", "message_i18n", "details", "request_id"}} ; les listes sont paginées avec limit et cursor.

Utilisation des SDK

Python (enterprise_ai):

from enterprise_ai import EnterpriseAI

client = EnterpriseAI(base_url="<control-plane-url>", api_key="eai_xxx_secret")
items = client.finops.list_price_cards()

TypeScript (@enterprise-ai/sdk):

import { EnterpriseAI } from "@enterprise-ai/sdk";

const eai = new EnterpriseAI({ baseUrl: "<control-plane-url>", apiKey: process.env.EAI_API_KEY });
const items = await eai.finops.priceCards.list();

Java (enterprise-ai-java):

EnterpriseAIClient client = EnterpriseAIClient.builder()
    .baseUrl("<control-plane-url>")
    .apiKey(System.getenv("EAI_API_KEY"))
    .build();
var items = client.finops().listPriceCards();

Go (enterprise-ai-go):

client, _ := eai.NewClient(eai.WithBaseURL("<control-plane-url>"), eai.WithAPIKey(os.Getenv("EAI_API_KEY")))
items, err := client.FinOps.ListPriceCards(ctx)

Configuration

• Environnement : EAI_DATABASE_URL, EAI_OTEL_EXPORTER_OTLP_ENDPOINT.
• Valeurs Helm : controlPlane.enabled, controlPlane.replicas, controlPlane.resources, controlPlane.config.

Contrôles de sécurité

• Authentification par JWT OIDC, clé API tenant avec scopes, ou mTLS SPIFFE ; le tenant est résolu depuis l'identifiant, jamais depuis le corps.
• Autorisation par décisions OpenFGA et OPA ; chaque mutation et décision écrit une ligne eai.audit_events chaînée par hash.
• Les secrets ne sont jamais renvoyés par l'API ; TLS partout ; les politiques réseau Cilium restreignent qui peut joindre le service.

Observabilité

• Métriques : eai_token_accounting_requests_total, eai_token_accounting_errors_total, eai_token_accounting_latency_seconds (Prometheus).
• Traces : spans OpenTelemetry eai.finops.* avec propagation W3C traceparent, spans IA envoyés à Opik.
• Actions d'audit : finops.price_card.create, finops.price_card.retire, finops.reconciliation.run, policy.evaluate.

Aspects FinOps

Le coût d'exploitation est imputé par tenant et projet via les labels des Usage Events et les requêtes de ressources Kubernetes ; pas de coût direct par appel.

Modes de défaillance et résilience

• Réplicas sans état derrière l'API Gateway, PostgreSQL HA pour l'état ; la sonde GET /readyz retire les pods défaillants.
• Système externe indisponible : échec fermé pour les décisions de sécurité, code d'erreur explicite, aucun contournement silencieux.

Adoption autonome (client d'un client)

Un client d'un client peut adopter cette brique seule avec le sous-client SDK Python client.finops (TS eai.finops, Java client.finops(), Go client.FinOps). Déploiement minimal : Control Plane API + PostgreSQL + Keycloak (ou clés API), le Control Plane charge tous les domaines de services/control-plane/src/eai/domains ; les composants optionnels du chart se coupent dans deploy/helm/enterprise-ai/values.yaml (vllm.enabled, qdrant.enabled, nats.enabled, workers.enabled).

Tests d'acceptation

1. Un tenant ne peut ni lire ni modifier les ressources d'un autre tenant (test RLS).
2. Chaque mutation produit un événement d'audit vérifiable par GET /v1/audit/verify.
3. Les erreurs sont renvoyées en anglais et en français selon Accept-Language.