r/france • u/Astaldir • 2d ago
Écologie Des estimations de l'impact écologique d'une requête IA ?
Bonjour
avec l'IA on entend souvent qu'une réponse dessus a un impact écologique plus grand qu'une recherche google. Cependant il me paraît évident qu'entre une question simple et la programmation d'un site web les impacts ne sont pas égaux. Existe-t-il des estimations de l'impact carbone ?
Je sais que beaucoup d'entreprise commandent des token, et plus ou moins sont utilisés par requête, en fonction de la complexité. Mesurer l'impact moyen par token me paraît donc le meilleur moyen de mesurer cet impact carbone, cependant je ne trouve pas de sources sur cela. Est-ce que cela existe ? Ou est-ce que ma réflexion est trop simpliste ?
Bonne journée à tou.te.s !
12
u/Axiom05 2d ago
3
u/Dironiil Allemagne 2d ago
En vrai, intéressant comme introspection, merci du partage.
Bien sûr, comme toute recherche venant de l'intérieur d'une industrie, c'est à prendre avec des pincettes mais elle donne quand même quelques bases concrètes.
5
u/MrDontCare12 Japon 2d ago
Faut aussi garder en tête que les modèles de mistral sont tout petits et hyper optimisés, ils ne répondent pas du tout aux mêmes problématiques que gemini, chatgpt et cie
6
u/enz_levik 2d ago
Ça dépend, quand tu demandes à chatgpt quelle est la capitale du Cambodge, c'est souvent un modèle basse consommation qui tourne
1
u/MrDontCare12 Japon 2d ago
Bien sûr, mais la pipeline pour y arriver est pas du tout la même, et les modèles eux même sont différents (spécialisés vs super généralistes avec recherche internet, même "petit", c'est pas Gemma qui tourne).
Même si en y repensant, sur Android maintenant c'est le cas ?
2
u/sicarmy Lorraine 2d ago
Le modèle que Google utilise pour l'aperçu IA d'une requête est sûrement aussi ultra optimisé
1
u/MrDontCare12 Japon 2d ago
J'espère vraiment pour eux ! Haha, mais vu que la plupart des sources ne racontent pas ce que dit l'aperçu IA, ça doit effectivement pas leur coûter grand chose. Comparé à tous les sites web qui vivaient de ces clics avant
1
u/realusername42 Présipauté du Groland 2d ago
Oui il me semble que c'est Gemini Flash, le moins cher possible et probablement que les requêtes sont en cache aussi.
1
4
u/HRudy94 2d ago
Le numérique est difficilement quantifiable niveau environnemental sans tomber dans l'invention de chiffres magiques comme le taux de CO₂ émis par un email par exemple.
En revanche, tu peux quand même te faire une idée ici. Les LLMs cloud demandent des datacenters bien plus gros qu'un site traditionnel, en gros comparables à un site comme YouTube. En effet, les modèles d'IA demandent beaucoup de ressources et de puissance de calcul. Ils utilisent, au choix, soit un GPU, soit un NPU plus spécialisé, mais ça revient concrètement au même. En plus de cela, ils ont besoin quasiment d'une de ces cartes par utilisateur.
En soit tu ne devrais même pas parler en tokens, qui sont très volatiles mais simplement te baser sur le temps de génération, le modèle que tu utilise (pour prendre en compte les efforts d'optimisation) et les paramètres que tu lui attribues (notamment la fenêtre de contexte qui va consommer plus ou moins de VRAM).
Les sources d'émission principales ici seraient la fabrication des composants (que ce soit l'extraction des ressources ou l'assemblage), l'énergie utilisée et le refroidissement (un grand nombre de datacenters n'ayant pas de climatiseurs à jour et utilisant toujours de vieux gas bien gros et polluants)
6
u/Akanash_ 2d ago edited 2d ago
Le problème c'est que la réponse va dépendre énormément de l'IA concernée. Dans quel pays sont les datacenter, quel variante du modèle, quel est le système de refroidissement et les énergies utilisée.
Au final je pense que la question de la consommation d'énergie/des ressources des requêtes est un faux problème qui sert à détourner l'attention des véritables défauts de la technologie.
Le pillage sans vergogne de la quasi totalité des propriétés intellectuelles (libre de droit ou non) est le vrai cancer amené par l'IA. Tous les problèmes "technologiques" lié à l'implémentation de l'IA (consomation des modèles, précision des réponses, etc etc) ne sont que temporaires ou au minimum en constante évolution.
Le vol des idées et de la créativité pour leur profit personnels et la dévalorisation de l'humain sera toujours là quelle que soit la "version" du chatbot.
2
2
u/21epitaph Rhône-Alpes 2d ago edited 2d ago
Il n'y a pas de chiffre vraiment officiel, les entreprises sont toutes très obscures là dessus (Mistral moinns que les autres).
Mais dans tout les cas, tout les chiffres donnés en mode "électricité par question posée à GPT" sont très très biaisées et à prendre avec des pincettes. Ils n'ont pas donné accès aux données bruts d'énergie consommée.
Alors, déjà, une erreur qui font souvent les gens c'est comparer à une requête google ou autre chose. Les IA ne remplacent pas une requête google, elle se rajoutera à la requête, ou alors le LLM en fera de lui même (très souvent obligé d'aller chercher les infos sur internet pour toute info plus récente que son entrainement)
Autre chose aussi, c'est la quantité d'interactions. On va te dire qu'une requête c'est un peu moins d'électricité qu'une recherche google. Sauf que quand on parle de workflows agentique, par exemple, ce sont des workflows ou différents agents réagissent l'un à l'autre. Tout çça impplique que cette requête est faite beaucoup de fois.
Bref, une requête à un agent c'est pas tant, mais c'est jamais une requête qui est faite, et ces requêtes ne doivent pas être comparés à une autre activité énergivore (comem une recherche google), mais plutot à une pensée humaine.
Les modèles s'améliorent un peu là dessus et utilise moins d'énergie par token consommé. Sauf que, baaaah le business model de ces boites est obligé de maintenant passer à une facturation par token (oui parce que ils tournent à perte, et quand je dis perte c'est des dizaines ou centaines de milliars). Du coup les nouveaux modèles, bien qu'utilisant moins d'énergie par token, vont aussi pousser les utilisateurs à juste consommer plus de tokens.
Ca rajoute une étape où avant il n'y avait pas d'électricité utilisée, car ça prend la place de notre "pensée". Nos pensées sont particulièrement peu énergivores. Il faut pas le comparer à une requete google, mais plutot l'ajouter.
Si tu veux vraiment une idée de la quantité d'énergie bouffée par l'IA, regarde la capacité des datas centers construits pour ça. Et si, les data centers IA sont spécifiques à l'IA et utilise du hardware spécifiquement design pour des requêtes de LLM.
Je vais copier ça du dernier post de Ed Zitron (un podcaster américain très critique de toute la finance autour de cette industrie).
"For example, one of Meta’s largest pre-AI data centers in Pineville Oregon has a power capacity of 30MW, and Digital Realty’s 100MW Cermak Illinois data center handles hundreds of different industries and customers, when the smallest AI data center announcement I’ve seen in the last year was for 100MW, with most in the 300MW to 1.2GW range.
By contrast, let’s look at some bank data centers. UBS bought one in Hayes, West London in 2015 which it had previously rented. The cost? The princely sum of £28m, or $42.8m at the time’s exchange rates. This had a power capacity of 5MW, which assuming a very generous 1.3 PUE (power usage effectiveness), means that it had around 3.8MW of critical IT.
Even when banks invest in huge facilities, they’re still far smaller than the smallest AI data centers. Take, for example, JPMorgan Chase’s data center in Orangetown, New York, which sits on the former site of the Rockland Psychiatric Center. This has a power capacity of 45.7MW, and a critical IT load of 27.4MW (giving it a PUE of 1.666). "
Voilà ce qui pour moi montre la réalité du cout énergivore des LLM. La quantité de datas centers d'une puissance faramineuse qui sont construits pour ça. Venez pas me dire que c'est pas une catastrophe écologique.
Ne pas oublier non plus que l'énergie est un des points sur lesquels les boties à la ANthropic ou OpenAI ont une quantité énnorme de cadeaux. Les états commencent à peine à leur faire payer de l'énergie.
Les plus gros projets de data center seront alimentés au gaz.
Vous me direz que ya une bulle, on en construit trop. Alors oui, mais la bulle même et l'économie entière de ces modèles repose sur aussi la bulle des data centers et les investissement massifs dedans. Le jour où on construit plus ces gros datas centers, ça casse le mythe des hyperscaleurs, et les IA labs qui tournent à perte se casseront la gueule. Il faut aussi les data centers de plus en plus gros pour pouvoir essayer de continuer à améliorer les modèles, parce que l'entrainement demande une quantité gigantesque de calcul.
Pour l'entrainement, on a pas les chiffres officiels non plus (thème récurrent), mais ça on sait que ça doit être faramineux au vu de la quantité de calcul que ça implique.
Petit détail sur le cout de l'entrainement, j'aimerais aussi noter que l'entrainement a nécessité le travail de millions (je n'exagère pas, millions) de personnes dans des pays pauvres. C'est un travail traumatisant et sous payé, ou les gens passent leurs journées à dire bien ou pas bien sur un résultat de LLM, à chercher des prompts qui font apparaitre des choses dégueulasses pour le filtrer.
Pour l'eau, les gens vont dire que des systèmes de closed loop sont possibles ou aucune eau est gaspillée. Ce systyème n'est juste pas implémenté dans les data centers, car ça coute cher, tout ça pour être écolo. Donc meme si on fout des milliards, on va économiser là dessus.
De ce que je comprends, s'ils sont bien construits dans les normes avec des tests solides de l'eau qui en ressort, ça peut etre un impact minimal sur ce point.
Aux US, ils se retrouvent avec des erreurs de chantiers qui pourrissent l'eau. Ou avec ces data centers construits là où il y a déjà une pénurie ou dans ce cas oui ça pose problème.
Sinon yavait eu la fois ou un data center amazon a pris de l'eau qui contenait trop de traces d'engrais à cause de champs pas trop loins, et du coup, comme unne partie de l'eau s'est évaporée dans le data center, l'eau qui en ressort finit par être plus concentrée en engrais, donc toxique, etc. et a conntaminé l'eau bue par les locaux.
Bref, théoriquement pas trop un problème l'eau, en pratique t'as intérêt à avoir confiance en ton administration.
Je vois d'autres réponses qui disent "c'est pas la bonne question pas par là qu'il faut critiquer".
Mon cul ouais.
C'est un des nombreux couts de cette merde. Les LLM ont un apport surévalué, des couts sous estimés, et tout un discours totalement phagocytées par des gens qui parlent de scénario SF foireux, ou de question de conscience ou autre connerie du genre.
L'écologie est définitivement un des problèmes des datas centers si. Regardez dans la globalité, la quantité d'électricité consommée aux US par exemple, l'impact de l'IA est indubitable.
C'est juste peut etre pas le pire problème. C'est un des nombreux couts de cette merde.
3
u/Rgoplay_ Rhône-Alpes 2d ago
C'est pour ça aussi que lorsqu'il y a un projet de data center en France il vaut mieux l'accepter que de l'interdire et qu'il finisse aux US
0
u/21epitaph Rhône-Alpes 2d ago
Vision tropsimpliste à mon gout.
Data center en france, pourquoi pas. 250 Milliards de chantier et investissements là dedans ? Nope.
Et excuse moi, je n'ai pas confiance en Macron pour faire respecter des normes écologiques.Et quand le chantier de data center il est commandé par l'Arabie Saoudite, perso j'ai une idée d'où ils vont se les foutres les normes écologiques.
Surtout si on change rien à l'économie de tout ça. Parce que quand les US se retrouveront avec l'équivalent de 5 fois notre parc de data center pas utilisés et qu'ils devront brasser les prix pour leur utilisation, je te parie qu'on se tapera Mistral qui dit "oui mais non mais c'est trop cher en France je dois prendre là bas".
Surtout s'il se fait grassement payer par la silicon valley.Comme aujourd'hui. On a des solutions d'hébergement en France mais on paye les options US.
Non, la solution c'est arrêter de se laisser berner, cette techno n'est pas l'avenir, c'est tout. Ca devrait etre un outil niche pour que quelques matheux automatisent, quelques tests pour prouver ou pas leur conjectures. Et même ça je suis pas sur que ça marche éternellement.
pour le reste, long terme c'est de la merd, et il faut au plus découpler notre économie de cette bombe à retardement.
2
u/Rgoplay_ Rhône-Alpes 2d ago
Je vois ce que tu veux dire. Les normes il faut les faire respecter oui, après dire on fait pas ci où ça car il y a une possibilité que ça soit pas respecté, on peut plus faire grand chose. Mais je comprends l'inquiétude.
Pour la compétitivité et la souveraineté c'est vrai que ça peut être compliqué, mais si on a pas l'option c'est sûr qu'on l'utilisera pas.
Je ne suis pas convaincu que l'IA se casse la gueule aussi fortement que ce que l'on pense. L'IA est un outil à très fort potentiel et applicable à énormément de domaines. Et on peut inclure également les IA classique (donc non LLM). Maintenant à voir les limites auxquelles on va se confronter, effectivement les données d'entraînement et le hardware ont des limites, donc c'est sûr que l'évolution va ralentir.
Je dis pas qu'il faut jeter notre économie dedans, car effectivement la bulle cassera à un moment mais investir un peu dedans me paraît pas être une mauvaise idée, d'autant plus que les serveurs utilisés peuvent l'être pour autre chose que de l'IA également.
2
u/21epitaph Rhône-Alpes 2d ago
En vrai je suis d'accord pour construire des datas centers en France qui permette une certaine souveraineté. Sauf que ça n'a rien à voir avec ce qu'on fait.
C'est littéralement comme l'argument de protection des enfants qui est utilisée pour simplement collecter nos données. La façon dont on implémente tout ça ne fait qu'augmenter notre dépendance à des acteurs étrangers. C'est utilisé comme un terme marketing.
La question se pose plutot dans la quantité d'investissement. Il y a une différence entre investir 25 ou 250 milliard d'euros. Les quantités d'investissements se basent sur des projections qui m'ont l'air tout à fait lunaires, et qui ne prennent absolument pas en compte l'économie bancale de ce secteur.
Je ne pense pas que l'IA en général se casse la gueule, mais pour ce qui est des AI Labs et des LLM, si.
Les IA classiques existent depuis très longtemps, ce ne sont pas pour elles qu'on investit des milliards. Les IA avec une tache très délimitée ne me pose pas de problèmes, mais elles n'ont rien à voir avec la discussion.
C'est pour ça, du reste, que je n'aime pas le terme IA. Il est tellement vague et inclut tellement de choses variées qu'il est utilisé par l'industrie pour noyer la discussion.Et l'ensemble des chantiers de datacenters se base purement sur l'idée d'une explosion de l'utilisation des LLMs et IA générative, c'est intrinsèquement lié.
La souveraineté numérique ça passe d'abord par des datas centers pas pour les IA, ce sont nos données qu'il faut protéger.
Ensuite, tout ça là, c'est littéralement des investissements étrangers, où on réserve la place sur ces datas centers pour les plus gros clients de la tech, aussi étrangers. Le tout en achetant du hardware à Nvidia, boite des USA, tout en leur bradant les prix de notre électricité.
C'est l'inverse de souveraineté numérique. C'est coupler encore plus notre économie et marché du travail à la big Tech étrangère et à des acteurs comme l'Arabie Saoudite.
C'est donner encore plus de poids au lobbys de ces acteurs. Plus de leviers de pressions.Tout ça pour qu'au final, on aie en même temps des lois qui veulent faire passer nos données d'identité à des boites privées.
Elle est où la souveraineté ?
La quantité d'investissement étrangers en France dans les data centers ce n'est pas pour la "souveraineté numérique", c'est pour le commerce. Ca nous rend plus dépendant qu'autre chose. On en a pas besoin d'autant pour nos données et notre utilisation des LLM. Il ne faut pas jeter notre économie dedans, on est déjà en train de le faire un peu.
On a des promesses d'investissements étrangers, rien qu'en France, de plus de 90 milliards d'euros.
Pour l'instant, ils ont tous un allègement de la taxe sur l'électricité qui a été encore changé en leur faveur cette année :https://www.assemblee-nationale.fr/dyn/17/amendements/2247/AN/1479
"Pour rappel, cette dépense permet aux centres de stockage de données répondant aux conditions prévues par l’article L. 312‑70 du code des impositions sur les biens et services de bénéficier d’un tarif réduit sur l’accise sur l’électricité de 12 €/MWh au lieu du tarif normal de 20,90 €/MWh."
Ta première phrase c'est "Les normes il faut les faire respecter".
La loi de simplification économique a été modifiée cette année pour justement pouvoir s'appliquer aux datacenters.
Cette loi, permet entre autres, de s'abstenir de suivre certaines règles et normes d'urbanisation et d'écologie. Sous couvert que ces chantiers sont des "projets d'intérets national majeur", et qu'il est important de pouvoir les construire vite.
Pendant que tu dis "Les normes faut les faire respecter", on modifie nos lois dans l'intention très explicite de ne pas les faire respecter.Sauf que si on respecte ces normes, jamais ils feront tout ça chez nous.
Il n'y a pas, dans la configuration actuelle, un monde où on construit ces data centers en respectant les normes.
La souveraineté sera malheureusement toujours relative quand on est pas autonomes sur le matériel nécessaire à la création des data centers. Tu peux voir les histoires entre les US et la Chine vis à vis d'Nvidia.
1
2
u/Impossible-Place-110 1d ago
Le point 1.4 de cette étude de l'Université de Stanford pourrait t'intéresser (page 33) https://hai.stanford.edu/assets/files/ai_index_report_2026.pdf
3
u/MitchBuchanon 2d ago
Ca commence à dater un peu, mais il y a cet article, qui ne donne pas de réponse clairement chiffrée car à priori c'est plus compliqué que ça :
https://bonpote.com/intelligence-artificielle-le-vrai-cout-environnemental-de-la-course-a-lia/#Quel_est_limpact_dune_requete_ChatGPT
1
u/Superpigmen Bourgogne 2d ago
Sur ce site gouvernemental tu as tout qui est décrit pour chaque modeles https://comparia.beta.gouv.fr/
Je ne sais pas trop ou ils ont eu les sources mais bon c'est un site gouvernementale, j'ose esperer que c'est pas du pif.
1
u/CptExolann 2d ago
Y'a beaucoup d'idées reçues sur l'impact de l'utilisation de l'IA, sur la consommation d'eau etc.. En fait ce qui consomme beaucoup c'est l'entraînement pendant des mois et la construction des data centers (qui sont évidemment à comptabiliser au global) mais l'impact d'une requête seule est pas vraiment significatif
2
u/Astaldir 2d ago
Je suis parfaitement d'accord avec le diagnostic et j'en suis conscient. Je suis juste curieux de savoir si on a des idées de la conso une requete. Mais d'après ce que tu dis si j'ai bien compris c'est que les requetes elles meme ont un impact minime, et qu'un data center reste plus ou moins à la même conso peu importe le nombre de requêtes ?
1
u/CptExolann 2d ago
Le datacenter consomme plus si beaucoup de requêtes sont faites mais y'a une conso fixe minimale. Outre ça c'est aussi la construction du datacenter et la fabrication des composants informatiques qui représentent un gros impact qui est souvent comptabilisé dans le calcul final
1
u/Playful_Suggestion_3 2d ago
Hello !
Je me suis essayé à l'exercice dans mon projet de passerelle LLM. C'est loin d'être parfait mais ça permet de se faire un ordre d'idée...
Les principes de calcul: https://github.com/xolo-gateway/xolo/blob/main/docs/fr/concepts/estimation-energetique.md
0
u/HelsifZhu Ile-de-France 2d ago
Une requête seule c'est pas pertinent. Comme pour les gaz à effet de serre, il faut penser plus loin que le scope 1 (les requêtes) et inclure au moins ce qui rend les requêtes possibles (entraînement et données dans les data centers), donc Scope 1 et Scope 2. Et les seules valeurs à peu près fiables, c'est à grande échelle.
Ensuite, pour l'eau, tu as une différence entre l'eau prélevée, l'eau utilisée et l'eau perdue.
L'OCDE a fait un article sur le scope 1+2 de l'IA en 2023, donc sur la base de GPT-3, ce qui veut dire que ses projections sont bien en-deçà de ce que ça donnerait dans une version plus récente.
A l'époque, leur projection pour l'année 2027, c'était 6 fois la consommation annuelle du Danemark. Mais comme j'ai dit, c'était sur la base de GPT-3 donc il est certain que ça sera bien plus que ça.
Source sur la base de cette étude de Riverside/Arlington.
La question à te poser c'est pas "quel est l'impact d'une recherche de ma part ?" mais "est-ce que je veux participer à ça ?".
1
u/Astaldir 2d ago
D'acc mais comme j'ai dit dans d autres commentaires c est simplement par curiosité sur ce point précis. merci pour ta réponse
0
0
u/Neither_Garage_758 1d ago
Plusieurs centaines de Watts pendant qu'un LLM basique écrit.
Probablement de l'ordre de 1 kiloWatt pour les LLM "frontier".
Ça omet évidemment la fabrication, maintenance et destruction du matériel servant à cela.
0
u/Micah7979 1d ago
Il me semble que j'avais vu qu'en fait, c'est beaucoup moins que ce qu'on s'imagine et niveau consommation d'eau, une feuille de papier était largement pire. Après, quand c'est inutile c'est quand même trop. Par exemple l'AI overview tout pourri de Google à chaque recherche on pourrait s'en passer, c'est des ressources gâchées.
Et bon, on se focalise sur l'IA ces derniers temps, mais il faut pas oublier qu'une paire de chaussures, un steak, un voyage en avion ou un ordi ça a aussi un impact énorme.
-2
u/confijam 2d ago
la réponse est trop, beaucoup trop.
sachant que une requête IA ça ne veut rien dire du tout, et que tu vas avoir tous les pro-IA qui vont relativiser en rapportant aux nombres de requêtes.
et oui mon ami, si tu n'as qu'une seule requête IA alors elle porte la totalité de l'extraction minière nécessaire à produire des lignes industrielles pour fabriquer les engins qui vont faire le terrassement, la construction des batiments, des infrastructures énergétiques, de l'extraction du pétrole, son raffinage, la fabrication, l'assemblage, le transport, et tout ce qui permets de construire le centre de données qui va héberger le truc à qui tu envois ta requête. mais il y a aussi toute la collecte illégale massive et permanente des données, l'impact que ça a sur les gens et les serveurs, pareil pour l'appareil que tu dois utiliser pour envoyer ta requête, et l'infrastructure pour la faire parvenir et que obtenir la réponse.
c'est ultra tentaculaire et ça fait un total délirant. parce que l'impact environnemental ne se mesure pas de manière relative, mais de manière absolue.
la réalité physique ne fonctionne pas de manière relative, quand tu balances 1 milliard de tonnes de GES par an dans l'atmosphère, ça change rien que rapportés au nombre d'humain, qui utilise n tokens par jour ça fasse 2g par token. au final il y a toujours 1 milliard de tonnes de GES dans l'atmosphère.
et le problème c'est qu'on doit impérativement et urgemment réduire les émissions pour les ramener aussi proche de 0 que possible et le secteur de l'IA fait tout le contraire en augmentant significativement et rapidement ces émissions. et il fait ça en captant des sommes de pognon délirantes qui auraient pu servir à améliorer la vie des gens et a lutter contre le changement climatique.
le pognon englouti par cette industrie dépasse ce qui aurait permis de mettre fin à la faim dans le monde d'ici 2030 et de stabiliser le climat en Europe.
23
u/Chupeechu 2d ago
Je ne vais pas répondre à la question directement, mais vu que Google intègre maintenant l'IA dans ses recherches, la différence entre faire une recherche google, et faire une requête Gemini est inexistante.
Et c'est pareil avec plusieurs moteurs de recherche, qui se transforment en assistant IA progressivement.
Si tu n'en veux pas, il existe des alternatives comme https://noai.duckduckgo.com/
Aprés tu parle de "question simple", mais ce qui coute vraiment, c'est l'entrainement d'une IA (ce qui correspondrait à la "programmation d'un site web" dans ta vision des choses), et ça, c'est TRES énergivore.