Découvrez l’énergie nécessaire à vos requêtes chatbot grâce à cet …

Découvrez l'énergie nécessaire à vos requêtes chatbot grâce à cet ...



Les systèmes d’IA consomment beaucoup d’énergie pour fonctionner, mais personne ne dispose de chiffres précis, surtout pour les requêtes individuelles des chatbots. Un ingénieur de Hugging Face a développé un outil pour tenter de le savoir.

Pour exécuter rapidement des calculs complexes, les systèmes d’IA nécessitent des puces puissantes, plusieurs GPU et des centres de données étendus, qui consomment tous de l’énergie lorsque vous posez une question à ChatGPT. C’est en partie pourquoi l’accès gratuit à de nombreux chatbots est limité : les coûts d’électricité rendent les calculs onéreux pour l’hébergeur.

Consommation d’énergie de l’interface de chat

Pour démystifier ce phénomène, Julien Delavande, ingénieur chez Hugging Face, a développé une interface de chat IA qui affiche des estimations de consommation d’énergie en temps réel pour les conversations. Il compare la consommation d’énergie de différents modèles, tâches et requêtes. Par exemple, une invite nécessitant un raisonnement est susceptible de consommer davantage d’énergie qu’une simple requête d’information. Outre les watts-heures et les joules, l’outil affiche la consommation selon des indicateurs plus accessibles, tels que le pourcentage de charge d’un téléphone ou le temps de conduite, à partir des données de l’Agence de protection de l’environnement (EPA).

Lorsque j’ai interrogé Chat UI Energy sur la météo à New York, la première comparaison proposée concernait une charge de téléphone (ma requête consommait environ 9,5 %). En cliquant sur cette estimation, l’outil affiche d’autres comparaisons équivalentes, notamment 45 minutes d’utilisation d’une ampoule LED, 1,21 seconde d’utilisation d’un micro-ondes et 0,15 seconde d’utilisation d’un grille-pain. Au fur et à mesure que vous discutez, le bot affiche la consommation totale d’énergie et la durée de la conversation en bas de la fenêtre de discussion.

L’IA fait croître la demande mondiale d’électricité

Bien que ma requête fût très simple, elle nécessitait un accès à Internet, dont le bot ne dispose pas. C’est peut-être la raison pour laquelle il a fallu 90 secondes (et plus d’énergie que prévu) pour obtenir une réponse. Cependant, même à titre d’estimation, 45 minutes d’utilisation d’une ampoule LED semblent anecdotiques, ce qui met en perspective la consommation d’énergie de requêtes beaucoup plus complexes et comportant plusieurs étapes.

Seules les entreprises d’IA connaissent la consommation réelle d’énergie de leurs systèmes, mais des études estiment que, compte tenu des tendances de la demande, celle-ci ne fait qu’augmenter. Un rapport de l’Agence internationale de l’énergie de 2024 prévoit une augmentation de la demande mondiale d’électricité de 3,4 % d’ici 2026, notamment en raison d’une « expansion notable » des centres de données. Un rapport du Berkeley Lab a également constaté une accélération de la croissance des centres de données, avec un taux de croissance prévu de « 13 % à 27 % entre 2023 et 2028 ».

Ce communiqué souligne la distinction entre les plateformes open source comme Hugging Face et les entreprises d’IA plus opaques.

« Avec des projets comme l’AI Energy Score et des recherches plus larges sur l’empreinte énergétique de l’IA, nous favorisons la transparence au sein de la communauté open source », déclarent les créateurs du chat. « Un jour, la consommation d’énergie pourrait être aussi visible que les étiquettes nutritionnelles des aliments ! »

Comment l’essayer

Vous pouvez essayer le chatbot ici et naviguer entre plusieurs modèles open source, notamment Google Gemma 3, Llama 3.3 et Mistral Nemo Instruct.



Source link

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.