Glossaire des datacenters, de l'énergie et de l'IA
Les termes de l'énergie, des datacenters et des LLM, définis en une phrase.
- TWh
- Térawattheure : 1 milliard de kWh. 415 TWh représentent environ la consommation annuelle d'électricité d'un grand pays industriel.
- Datacenter (centre de données)
- Bâtiment hébergeant serveurs, stockage et réseau, avec alimentation électrique, refroidissement et sécurité.
- Hyperscaler
- Très grand opérateur de cloud (Amazon Web Services, Microsoft, Google, Meta) exploitant des sites de plusieurs dizaines de MW.
- PUE
- Power Usage Effectiveness : énergie totale du site divisée par l'énergie des équipements informatiques. 1,0 est l'idéal théorique.
- WUE
- Water Usage Effectiveness : litres d'eau consommés sur site par kWh d'énergie informatique.
- CUE
- Carbon Usage Effectiveness : émissions de CO2 du site divisées par l'énergie informatique, en kgCO2e/kWh.
- Entraînement
- Phase de calcul intensive où un modèle d'IA apprend à partir de données.
- Inférence
- Utilisation d'un modèle entraîné pour répondre à une requête. Elle domine souvent l'énergie d'un modèle très utilisé.
- Grand modèle de langage (LLM)
- Modèle d'IA entraîné sur de grands corpus de texte pour comprendre et générer du langage.
- Application agentique
- Système où un modèle planifie et enchaîne plusieurs actions et appels d'outils pour atteindre un objectif.
- GPU, TPU
- Processeurs graphiques et processeurs de tenseurs : accélérateurs de calcul utilisés pour l'IA.
- Serveur accéléré
- Serveur équipé d'accélérateurs de calcul. Selon l'IEA, il explique près de la moitié de la hausse nette de consommation des datacenters d'ici 2030.
- Free cooling
- Refroidissement par l'air ou l'eau extérieurs, sans groupe froid, quand la température le permet.
- Refroidissement liquide
- Évacuation de la chaleur par un liquide au contact des puces (direct-to-chip) ou par immersion.
- Quantification
- Réduction de la précision numérique d'un modèle pour diminuer mémoire et énergie.
- Distillation
- Entraînement d'un petit modèle à imiter un grand modèle pour gagner en efficacité.
- Intensité carbone
- Émissions de CO2e par kWh d'électricité, variable selon le réseau et l'heure.
- PPA
- Power Purchase Agreement : contrat long terme d'achat d'électricité, souvent renouvelable.
- 24/7 CFE
- Carbon-free energy 24/7 : objectif d'alimenter un site en énergie sans carbone à chaque heure.
- Scopes 1, 2, 3
- Catégories d'émissions : directes (1), électricité achetée (2), chaîne de valeur dont fabrication du matériel (3).
- Effet rebond
- Hausse de l'usage qui compense, en tout ou partie, le gain d'efficacité obtenu.
- Token
- Unité de texte lue et produite par un modèle : mot, morceau de mot ou ponctuation. Le découpage dépend du modèle.
- mWh
- Milliwattheure : un millième de Wh. L'énergie d'une réponse de LLM se compte souvent en centaines ou milliers de mWh.
- Mélange d'experts (MoE)
- Architecture où seule une partie des paramètres, les experts, est activée à chaque token.
- Paramètres actifs
- Paramètres réellement utilisés pour produire un token. Ils déterminent l'énergie par token bien mieux que la taille totale d'un modèle MoE.
- EcoLogits
- Méthode et bibliothèque libres d'estimation de l'énergie, du carbone et de l'eau de l'inférence d'un LLM à partir de ses paramètres et des tokens.
- Compar:IA
- Comparateur public français de modèles d'IA, qui affiche une énergie estimée avec EcoLogits.
- Classe énergétique EcoLogits
- Lettre de A à F selon l'énergie estimée pour un million de tokens de sortie : A sous 100 Wh, F à partir de 10 000 Wh.
- Cache de prompt
- Réutilisation du calcul d'un début de prompt déjà traité, qui réduit énergie et prix.
Voir PUE et WUE et consommation de l’IA.
Dernière mise à jour :