Applications agentiques : un effet multiplicateur sur la consommation
Un agent ne répond pas une fois : il planifie, appelle des outils, relit, corrige. Chaque étape est une requête de plus.
En bref
- La consommation d'une tâche agentique est à peu près le nombre d'étapes × les tokens traités × l'énergie par token.
- Les modèles de raisonnement produisent beaucoup plus de tokens : les mesures publiées montrent des écarts d'un ordre de grandeur ou plus.
- Aucune statistique mondiale fiable n'existe sur la part des agents dans la consommation des datacenters.
- Les leviers sont d'abord de conception : budget de tokens, routage vers des petits modèles, cache, conditions d'arrêt.
Pourquoi l'effet est multiplicatif
- Boucles de planification : plusieurs appels de modèle par tâche, parfois des dizaines.
- Contexte long : l'historique, les documents et les résultats d'outils sont retraités à chaque étape.
- Raisonnement étendu : des milliers de tokens intermédiaires avant la réponse visible.
- Parallélisme : plusieurs agents ou tentatives lancés en même temps.
Un ordre de grandeur, à titre d'illustration
Hypothèse arithmétique, pas une mesure : si une requête simple coûte 0,3 Wh et qu'un agent en enchaîne 20 de contexte plus long, la tâche coûte au moins 6 Wh, soit 20 fois plus pour un résultat que l'utilisateur perçoit comme une seule réponse.
Illustration arithmétique, pas une mesure.
Bonnes pratiques de conception
- Fixer un budget maximal d'étapes et de tokens par tâche.
- Router les sous-tâches simples vers des modèles plus petits.
- Mettre en cache les résultats d'outils et les préfixes de prompt répétés.
- Mesurer les tokens et l'énergie estimée par tâche dans l'observabilité.
- Ne pas déclencher d'agent quand une règle déterministe suffit.
Voir aussi la consommation par requête des grands modèles de langage et les leviers de réduction.
Dernière mise à jour :