Une nouvelle métrique pour rendre l’IA plus durable

GreenPT propose une réflexion sur une métrique de durabilité de l’IA centrée sur la transparence : le mWh pour 100 tokens. Les utilisateurs de GreenPT reçoivent en temps réel une estimation de leur consommation d’énergie, ce qui encourage un usage de l’IA plus efficace et moins impactant.

Le système permet de calculer l’impact carbone à l’échelle d’une session ou d’un prompt, et il est conçu pour soutenir le reporting Software Carbon Intensity (SCI). En s’alignant sur les normes ISO, GreenPT fournit des repères clairs, vérifiables et concrets pour améliorer la durabilité des systèmes intelligents.

Introduction

Le secteur de l’IA commence enfin à mesurer ce qu’il consomme. Les travaux récents de Google sur l’énergie, le carbone et l’eau consommés par prompt avec Gemini, ainsi que la première publication complète de Mistral sur l’impact environnemental de ses LLM, ont fait dépasser au débat le stade des estimations au doigt mouillé.

Mais beaucoup de choses restent opaques : les datacenters se multiplient, la puissance consommée par l’inférence ne cesse d’augmenter, et pourtant personne ne peut dire avec certitude ce que coûte réellement une interaction, ni comment comparer des exécutions entre modèles et configurations.

Avec GreenPT, nous ouvrons grand le capot, même s’il s’agit d’un premier pas et non du dernier mot.

Parce que nous hébergeons nous-mêmes nos modèles et nos compteurs, nous pouvons montrer les vrais coûts d’exploitation : le bon, le mauvais et le gênant. Le but n’est pas la perfection. C’est une transparence radicale que d’autres peuvent reproduire, critiquer et améliorer. Si le secteur veut grandir de façon responsable, il lui faut une métrique qui fasse de l’efficacité un choix produit, pas une réflexion après coup. Aujourd’hui, nous commençons par une métrique que vous pouvez utiliser, auditer et sur laquelle vous pouvez agir.

Un nouveau van, une route inconnue

Emma venait de récupérer son van électrique flambant neuf : élégant, silencieux et plein de promesses. Elle ne suivait aucun GPS. Pas de carte, pas d’horaire, juste une intention : rouler jusqu’à ce qu’un paysage la fasse s’arrêter, non par obligation, mais parce qu’il aurait le goût d’une destination.

Ses premiers tours de roue furent hésitants, dans des rues urbaines pleines de mouvement et d’impatience. Les feux passaient trop souvent au rouge, et chaque bouchon faisait jongler son pied entre le frein et l’accélérateur. Elle regardait l’affichage de consommation, en kWh aux 100 km, grimper à chaque manœuvre maladroite. Il ne mentait pas. Il lui disait que l’écoconduite ne dépendait pas seulement de la batterie du van, mais d’elle : sa façon d’accélérer, le temps passé à l’arrêt moteur allumé, son attention à l’élan du véhicule. Dans le silence de l’habitacle, elle comprit qu’elle ne faisait pas que conduire le van : elle mesurait ses choix.

Laissant derrière elle l’agitation de la ville, elle s’engagea sur les boucles de banlieue, puis sur la route dégagée. Avec moins d’arrêts et une vitesse mieux maîtrisée, la consommation baissa. Un étal de fruits au bord de la route apparut, éclat de couleur et de vie. Le couple de personnes âgées qui le tenait offrait plus que des fraises : ils partagèrent de vieilles histoires de route et leur regard sur les habitudes de conduite locales. Emma s’attarda et apprit comment les conditions régionales, la pente des routes et même la direction du vent pouvaient modifier l’efficacité.

Elle reprit la route en expérimentant. Pouvait-elle descendre la prochaine pente en roue libre, sans freinage régénératif ? Comment le régulateur de vitesse se comporterait-il sur les petites routes sinueuses ? Elle coupa la climatisation pour en voir l’effet : la consommation baissa légèrement, mais l’inconfort monta. La conduite devint un dialogue. Chaque action avait une conséquence.

Sur les hauts plateaux, le brouillard s’installa. Emma alluma les antibrouillards. Puis le chauffage. Puis les essuie-glaces. Elle avait chaud, elle était en sécurité, et elle consommait davantage. La jauge en kWh/100 km repartit à la hausse. Elle fit une pause sur une place de food trucks aux cuisines du monde entier, où un livreur lui expliqua comment le relief et la pression des pneus (oui, même ça) influençaient ses prévisions quotidiennes d’autonomie. Curieuse, Emma vérifia les siens.

Désormais, elle ne voyait plus la jauge comme un indicateur de performance, mais comme le récit d’une interaction. La résistance au vent sur la portion côtière. Le vent de face contre le vent arrière. Des provisions bien lourdes sur la banquette arrière ? Même cette charge supplémentaire avait un effet. Chaque décision, la sienne ou celle de la nature, ajoutait une ligne à la métrique. Le trajet était devenu un terrain d’apprentissage, d’adaptation et de pleine conscience.

Enfin, en haut d’une prairie balayée par le vent et baignée de lumière dorée, elle se gara. Pas parce qu’elle devait recharger. Pas parce qu’elle était perdue. Parce que quelque chose dans cette immensité ouverte et silencieuse lui parlait.

Elle était arrivée. Et cette fois, ce n’était pas qu’un arrêt panoramique. C’était la récompense d’une conduite consciente.

De la route à l’exécution : comprendre le parcours énergétique de l’IA

Le voyage d’Emma n’a jamais consisté seulement à atteindre une destination. Il portait sur la manière d’y arriver et sur ce que cela coûtait : pas seulement en pourcentage de batterie, mais en impact. Chaque coup de volant façonnait la métrique en kWh aux 100 km de son van électrique, et chaque arrêt lui apportait un nouvel éclairage. Elle commença à voir la consommation d’énergie non plus comme un simple chiffre, mais comme une relation entre choix, contexte et conséquences.

Nous pensons que les systèmes intelligents méritent la même transparence. C’est pourquoi nous avons développé une nouvelle norme :

mWh pour 100 tokens (échantillonné toutes les secondes)

Ce n’est pas qu’une métrique de performance : c’est une carte du parcours, pensée pour l’IA.

Nous invitons la communauté à utiliser cette métrique, à la tester sur ses propres charges de travail et à partager ses résultats avec nous. Une participation plus large est indispensable pour dépasser les totaux d’énergie et aller vers des mesures de l’énergie de l’IA fondées sur les charges de travail, comparables et transparentes.

Tokens = distance

Dans le van d’Emma, les kilomètres marquaient la progression physique. En IA, les tokens mesurent la distance de calcul : la quantité de contenu que traite votre système. Tout comme les longs trajets demandent plus d’énergie, des prompts ou des réponses plus longs augmentent naturellement la consommation. Mais l’efficacité avec laquelle cette « distance » est parcourue dépend de l’itinéraire : l’architecture du modèle, la structure du prompt et les paramètres du système.

Ce que recouvrent les tokens

Dans GreenPT, toutes les mentions de « tokens » désignent spécifiquement les tokens de sortie générés par le modèle pendant l’inférence. Les tokens d’entrée ne sont pas inclus dans la métrique. Ainsi, le mWh pour 100 tokens reflète le coût énergétique de la production de nouvelles réponses, et les comparaisons restent cohérentes entre prompts, charges de travail et modèles.

mWh = énergie

C’est notre consommation d’énergie : le travail électrique fourni pour générer les réponses de l’IA. Tout comme Emma voyait le niveau de batterie de son van évoluer en temps réel, les équipes IA peuvent désormais voir la signature énergétique de chaque prompt en direct, exprimée directement en milliwattheures.

CO₂ = coût

L’énergie est une chose, l’impact en est une autre. C’est là qu’intervient notre couche CO₂. Tout comme le prix du kWh varie selon la région et l’heure, nous calculons l’intensité carbone de façon dynamique, en tenant compte :

• de la localisation sur le réseau (par exemple, forte part de charbon ou d’énergies renouvelables) ;
• du moment de la journée (heures de pointe ou heures de surplus) ;
• du carbone intrinsèque (l’impact en amont de l’infrastructure sur laquelle vous tournez).

Le CO₂ devient une couche de coût qui traduit l’énergie en conséquences environnementales. Plus le contexte est propre, plus le carbone par mWh est faible, tout comme une recharge en heures creuses est moins chère et plus verte pour un véhicule électrique.

Échantillonnage à la seconde = retour en direct

L’échantillonnage en temps réel offre une visibilité continue sur la façon dont l’énergie estimée et la génération de tokens s’accumulent pendant l’inférence. Les utilisateurs peuvent ainsi ajuster leurs prompts, gérer la charge ou choisir des modèles plus légers pendant que le système tourne, en réagissant aux variations d’efficacité au moment où elles apparaissent.

Durée de session = durée du trajet

Un prompt n’est qu’un virage, mais une session est le trajet entier. La durée totale d’une session reflète la fenêtre d’activité de l’IA. Une session qui s’égare ou qui tourne au ralenti consomme davantage, tout comme un véhicule électrique laissé allumé à l’arrêt vide discrètement ses réserves.

Pourquoi c’est important

Ce cadre de mesure fait passer l’usage de l’IA d’un mode passif à un mode participatif. Il ne dit pas seulement combien a été consommé : il montre pourquoi. Il transforme l’interaction avec le système en une boucle de rétroaction transparente, où :

• la distance (tokens) peut être réduite grâce à la conception des prompts ;
• l’énergie (mWh) peut être optimisée par le choix du modèle ;
• le coût (CO₂) peut être réduit par un meilleur choix du moment et de l’infrastructure ;
• la durée peut être raccourcie grâce à une orchestration intelligente.

Et, comme pour le trajet d’Emma, le parcours ne se résume plus à la performance : il devient une affaire de conscience, de responsabilité et de navigation réfléchie.

La visibilité apporte le contrôle. Avec le contrôle, l’IA ne devient pas seulement intelligente, mais responsable.

Comprendre la métrique : une nouvelle approche de la transparence énergétique de l’IA

La métrique d’usage de l’IA de GreenPT exprime l’énergie électrique estimée nécessaire pour parcourir une distance de calcul fixe de 100 tokens. La métrique est indépendante du temps : elle représente l’énergie par unité produite, tandis que l’intervalle d’échantillonnage d’une seconde sert uniquement à observer comment l’énergie totale estimée et le total de tokens s’accumulent pendant l’inférence.

L’énergie est exprimée en milliwattheures (mWh). Elle est estimée en appliquant une valeur de puissance documentée pour le matériel. On obtient l’énergie estimée en multipliant la puissance supposée (en watts) par le temps écoulé (en secondes), en additionnant ces incréments, puis en convertissant le résultat en mWh.

Comme 1 wattheure correspond à 3 600 watts-secondes et que 1 wattheure vaut 1 000 milliwattheures, la conversion des watts-secondes en mWh est :

mWh = watts-secondes / 3,6

Les tokens servent d’unité de « distance » de calcul. Rapporter la métrique à « 100 tokens » permet de comparer directement différents modèles, charges de travail et configurations matérielles. La métrique d’efficacité se calcule donc ainsi :

mWh pour 100 tokens = (total des mWh consommés / total des tokens générés) x 100

À tout moment de l’inférence, le système met à jour les totaux cumulés une fois par seconde. On obtient une valeur en direct, mais cumulée :

efficacité actuelle = (mWh cumulés / tokens cumulés) x 100

La valeur se stabilise au fil de la session, puisqu’elle reflète toute l’énergie et tous les tokens produits depuis le début de l’interaction. L’intervalle d’échantillonnage n’apparaît pas dans la formule elle-même : c’est uniquement la fréquence d’observation utilisée pour mettre à jour les totaux cumulés.

Cette formulation s’aligne sur les pratiques de la physique et de l’électrotechnique, où l’énergie s’obtient en intégrant la puissance dans le temps et où l’efficacité se calcule en divisant l’énergie cumulée par le travail cumulé. L’approche garde une clarté physique, évite de confondre la cadence de mesure avec la définition de la métrique et garantit la reproductibilité.

La métrique soutient aussi l’analyse environnementale, puisqu’elle permet de combiner l’énergie estimée avec des facteurs d’intensité carbone qui dépendent du moment et du lieu. On obtient ainsi des valeurs en équivalent CO₂ adaptées à l’ACV, au reporting SCI et aux audits de durabilité.

Comme la métrique est rapportée à une distance de calcul plutôt qu’au temps, elle permet des comparaisons cohérentes entre différentes architectures matérielles et conditions d’inférence. Sur une utilisation prolongée, les données cumulées éclairent le comportement des modèles, l’efficacité de la génération de tokens, la variabilité de la charge du système, les effets de latence et les caractéristiques d’exploitation à long terme.

Priorité actuelle : la transparence au niveau du GPU

Pour l’instant, la mesure porte principalement sur les charges d’inférence GPU, car elles constituent la principale source de consommation d’énergie en temps réel dans la plupart des systèmes d’IA à base de transformers. Nos calculs de référence utilisent une puissance fixe de 300 W pour garantir la reproductibilité, mais cette constante est dérivée de la télémétrie directe des unités de gestion des GPU (par exemple NVIDIA NVML) et recalibrée régulièrement à partir de celle-ci. La valeur de référence fixe reflète ainsi le comportement réel du matériel, tout en offrant une métrique stable et comparable d’une exécution et d’un modèle à l’autre.

Évolutions à venir : une responsabilité à l’échelle du système

Dans les prochaines itérations, notre cadre de mesure devrait s’étendre pour offrir une transparence sur toute la pile, notamment :

• Autres composants du serveur : intégration de l’utilisation du CPU, de la bande passante mémoire, des E/S de stockage et de la consommation des interconnexions (par exemple PCIe, NVLink) pour refléter le comportement énergétique de l’ensemble du système.
• Influence du datacenter : prise en compte de l’indicateur d’efficacité énergétique (PUE) et du surcoût du refroidissement pour mieux refléter les implications énergétiques de l’infrastructure à grande échelle.
• Facteurs carbone liés au réseau : fusion en temps réel avec les cartes d’intensité carbone des gestionnaires de réseau régionaux, afin de saisir les variations temporelles et géographiques des émissions par kWh.
• Carbone intrinsèque et métriques d’ACV : de futurs modules intégreront les principes de l’analyse de cycle de vie (ACV) pour refléter le coût environnemental de la fabrication, du transport et de la fin de vie du matériel, et donner une image plus complète de l’empreinte environnementale totale du système.

Pour rendre la métrique concrète, l’annexe qui suit présente un cas d’usage complet et autonome. Elle montre comment les prompts, les étapes de validation et la structure de raisonnement s’articulent pour révéler le comportement énergétique en pratique. L’annexe fournit l’ensemble des benchmarks utilisés dans ce document.

Télécharger le rapport complet (PDF)

Auteurs

• Wilco Burggraaf - Conseiller, GreenPT et HighTech Innovators
• Cas Burggraaf - CTO, GreenPT
• Robert Keus - CEO, GreenPT