Quanta aigua utilitza la IA?

Segur que has sentit de tot, des de "la IA es beu una ampolla d'aigua cada poques preguntes" fins a "bàsicament són unes gotes". La veritat és més matisada. La petjada hídrica de la IA varia molt en funció d'on s'executa, de quant dura la teva pregunta i de com un centre de dades refreda els seus servidors. Així que sí, la xifra principal existeix, però viu dins d'un conjunt d'advertències.

A continuació, desglosso xifres clares i llistes per prendre decisions, explico per què les estimacions no coincideixen i mostro com els constructors i els usuaris quotidians poden reduir la factura de l'aigua sense convertir-se en monjos de la sostenibilitat.

Articles que potser t'agradaria llegir després d'aquest:

🔗 Què és un conjunt de dades d'IA?
Explica com els conjunts de dades permeten l'entrenament i el desenvolupament de models d'aprenentatge automàtic.

🔗 Com la IA prediu tendències
Mostra com la IA analitza patrons per predir canvis i resultats futurs.

🔗 Com mesurar el rendiment de la IA
Desglossa les mètriques essencials per avaluar la precisió, la velocitat i la fiabilitat.

🔗 Com parlar amb la IA
Guia estratègies de suggeriments efectives per millorar la claredat, els resultats i la coherència.

Quanta aigua utilitza la IA? Xifres ràpides que realment pots fer servir 📏

• Per indicació, el rang típic avui dia: des de submil·lilitre per a una indicació de text mitjana en un sistema convencional, fins a desenes de mil·lilitres per a una resposta més llarga i de càlcul més alt en un altre. Per exemple, la comptabilitat de producció de Google informa d'una indicació de text mitjana d'aproximadament 0,26 mL (amb la sobrecàrrega completa de servei inclosa) [1]. L'avaluació del cicle de vida de Mistral calcula una resposta d'assistent de 400 tokens a uns 45 mL (inferència marginal) [2]. El context i el model importen molt.

• Entrenament d'un model a escala fronterera: pot arribar als milions de litres , principalment de refrigeració i aigua integrada en la generació d'electricitat. Una anàlisi acadèmica àmpliament citada va estimar uns 5,4 milions de litres per entrenar un model de classe GPT, incloent-hi uns 700.000 litres consumits in situ per a la refrigeració, i va defensar la programació intel·ligent per reduir la intensitat de l'aigua [3].

• Centres de dades en general: els grans emplaçaments abasten centenars de milers de galons per dia de mitjana als principals operadors, amb pics més alts en alguns campus depenent del clima i el disseny [5].

Siguem sincers: aquestes xifres semblen inconsistents al principi. Ho són. I hi ha bones raons.

Mètriques d'ús de l'aigua per IA ✅

Una bona resposta a Quanta aigua utilitza la IA? hauria de complir algunes condicions:

1. Claritat dels límits
   Inclou només de refrigeració in situ o també fora de les utilitzada per les centrals elèctriques per generar electricitat? Les millors pràctiques distingeixen entre l'extracció d'aigua i el consum d'aigua i els abastos 1-2-3, de manera similar a la comptabilitat del carboni [3].

2. Sensibilitat de la ubicació
   L'aigua per kWh varia segons la regió i la combinació de la xarxa, de manera que la mateixa indicació pot tenir diferents impactes sobre l'aigua depenent d'on es serveix, una raó clau per la qual la literatura recomana la programació en funció del temps i el lloc [3].

3. Realisme de la càrrega de treball
   El nombre reflecteix les indicacions de producció mitjana , incloent-hi la capacitat inactiva i la sobrecàrrega del centre de dades, o només l'accelerador en el moment màxim? Google emfatitza la comptabilitat de tot el sistema (inactivitat, CPU/DRAM i sobrecàrrega del centre de dades) per a la inferència, no només els càlculs de la TPU [1].

4. Tecnologia de refrigeració
   La refrigeració evaporativa, la refrigeració líquida de circuit tancat, la refrigeració per aire i els enfocaments emergents de consum directe al xip canvien dràsticament la intensitat de l'aigua. Microsoft està implementant dissenys destinats a eliminar l'ús d'aigua de refrigeració per a certs llocs de nova generació [4].

5. Hora del dia i estació
   La calor, la humitat i les condicions de la xarxa canvien l'eficàcia de l'ús de l'aigua a la vida real; un estudi influent suggereix programar les feines importants quan i on la intensitat de l'aigua és menor [3].

Extracció d'aigua vs consum d'aigua, explicat 💡

• Extracció = aigua extreta de rius, llacs o aqüífers (parts retornades).

• Consum = aigua no retornada perquè s'evapora o s'incorpora a processos/productes.

consumeixen principalment aigua per evaporació. La generació d'electricitat pot extreure grans volums (de vegades consumint-ne una part), depenent de la planta i del mètode de refrigeració. Una IA creïble etiqueteja el número d'aigua que informa [3].

On va l'aigua a la IA: les tres galledes 🪣

1. Abast 1: refrigeració in situ
   La part visible: aigua evaporada al mateix centre de dades. Les opcions de disseny com ara evaporació vs. aire o líquid de circuit tancat van establir la línia de base [5].

2. Àmbit 2: generació d'electricitat
   Cada kWh pot portar una etiqueta d'aigua oculta; la barreja i la ubicació determinen el senyal de litres per kWh que hereta la càrrega de treball [3].

3. Abast 3 - cadena de subministrament
   La fabricació de xips depèn de l'ús d'aigua ultrapura. No la veureu en una mètrica "per indicació" tret que el límit inclogui explícitament impactes incorporats (per exemple, un LCA complet) [2][3].

Proveïdors en xifres, amb matisos 🧮

• 
  Mètode de publicació de Google Gemini mitjana de la sol·licitud de text és d'aproximadament 0,26 mL d'aigua juntament amb uns 0,24 Wh d'energia; les xifres reflecteixen el trànsit de producció i els límits complets [1].

• Cicle de vida de Mistral Large 2
  Un LCA independent poc comú (amb ADEME/Carbone 4) revela ~281.000 m³ per a entrenament + ús inicial i un marginal d'inferència de ~45 mL per a una resposta assistent de 400 tokens

• L'ambició de Microsoft de consumir zero aigua
  Els centres de dades de nova generació estan dissenyats per no consumir aigua per a la refrigeració , basant-se en enfocaments directes al xip; els usos administratius encara necessiten una mica d'aigua [4].

• Escala general de centres de dades
  Els principals operadors publiquen centenars de milers de galons per dia de mitjana en llocs individuals; el clima i el disseny impulsen les xifres a l'alça o a la baixa [5].

• La línia de base acadèmica anterior
  L'anàlisi seminal de la "IA assedegada" va estimar milions de litres per entrenar models de classe GPT, i que entre 10 i 50 respostes mitjanes podrien equivaler aproximadament a una de 500 mL , depenent en gran mesura de quan/on s'executen [3].

Per què les estimacions discrepen tant 🤷

• Diferents límits
  Algunes xifres només compten la refrigeració in situ ; altres afegeixen l'aigua de l'electricitat ; els LCA poden afegir la fabricació de xips . Pomes, taronges i amanida de fruites [2][3].

• Diferents càrregues de treball
  Una breu indicació de text no és una llarga execució multimodal/de codi; els objectius de processament per lots, concurrència i latència canvien la utilització [1][2].

• Diferents climes i xarxes
  Refrigeració evaporativa en una regió càlida i àrida ≠ refrigeració per aire/líquid en una regió fresca i humida. La intensitat de l'aigua de la xarxa varia molt [3].

• Metodologies de proveïdors
  Google va publicar un mètode de publicació a nivell de sistema; Mistral va publicar un LCA formal. Altres ofereixen estimacions puntuals amb mètodes dispersos. Una afirmació de gran repercussió de "una quinzena part d'una culleradeta" per indicació va ser notícia, però sense detalls dels límits, no és comparable [1][3].

• Un objectiu en moviment
  La refrigeració està evolucionant ràpidament. Microsoft està provant la refrigeració sense aigua en certs llocs; el desplegament d'aquestes mesures reduirà l'aigua in situ, fins i tot si l'electricitat aigües amunt encara porta un senyal d'aigua [4].

Què pots fer avui per reduir la petjada hídrica de la IA 🌱

1. Ajustar la mida del model
   Els models més petits i ajustats a les tasques sovint coincideixen amb la precisió mentre consumeixen menys càlcul. L'avaluació de Mistral subratlla les fortes correlacions entre la mida i la petjada, i publica xifres d'inferència marginal perquè pugueu raonar sobre els compromisos [2].

2. Trieu regions amb un consum d'aigua adequat.
   Preferiu regions amb climes més freds, refrigeració eficient i xarxes amb una intensitat d'aigua més baixa per kWh; el treball de la "IA assedegada" demostra que amb atenció al temps i al lloc ajuda [3].

3. Canviar les càrregues de treball en el temps
   Programar la formació/inferència per lots pesats per a hores d'eficiència d'aigua (nits més fresques, condicions de xarxa favorables) [3].

4. Demaneu al vostre proveïdor mètriques transparents sobre
   la demanda d'aigua per ordre de subministrament , definicions de límits i si les xifres inclouen la capacitat inactiva i les despeses generals de les instal·lacions. Els grups polítics pressionen per la divulgació obligatòria per fer possibles les comparacions exactes [3].

5. La tecnologia de refrigeració és important
   Si feu servir maquinari, avalueu la refrigeració de circuit tancat/directa al xip ; si esteu al núvol, preferiu regions/proveïdors que inverteixin en dissenys de llum d'aigua [4][5].

6. Utilitzeu aigües grises i reutilitzeu opcions
   Molts campus poden substituir les fonts no potables o reciclar dins dels circuits; els grans operadors descriuen l'equilibri de les fonts d'aigua i les opcions de refrigeració per minimitzar l'impacte net [5].

Un exemple ràpid per fer-ho realitat (no és una regla universal): traslladar una tasca de formació nocturna d'una regió càlida i seca a l'estiu a una regió més fresca i humida a la primavera, i executar-la durant les hores punta i més fresques, pot canviar tant in situ com fora de les instal·lacions (xarxa). Aquest és el tipus de programació pràctica i sense complicacions que pot permetre [3].

Taula comparativa: consells ràpids per reduir el consum d'aigua de la IA 🧰

(El "preu" és flexible per disseny; les implementacions varien.)

Immersió profunda: el repiqueig polític s'està fent més fort 🥁

Els organismes d'enginyeria demanen la divulgació obligatòria de l'energia i l'aigua dels centres de dades perquè els compradors i les comunitats puguin jutjar els costos i els beneficis. Les recomanacions inclouen definicions de l'abast, informes a nivell de lloc i orientació sobre la ubicació, perquè sense mètriques comparables i conscients de la ubicació, estem discutint a les fosques [3].

Immersió profunda: no tots els centres de dades consumeixen de la mateixa manera 🚰

Hi ha el mite persistent que "la refrigeració per aire no utilitza aigua". No del tot. Els sistemes amb aire pesat sovint requereixen més electricitat , que en moltes regions transporta aigua oculta de la xarxa; per contra, la refrigeració per aigua pot reduir l'energia i les emissions a costa de l'aigua in situ. Els grans operadors equilibren explícitament aquests inconvenients lloc per lloc [1][5].

Immersió profunda: una ràpida comprovació de la realitat sobre les afirmacions virals 🧪

Potser heu vist afirmacions en negreta que diuen que una sola indicació equival a "una ampolla d'aigua" o, a l'altre extrem, a "només unes gotes". Millor postura: humilitat amb les matemàtiques . Els límits creïbles actuals són ~0,26 mL per a una indicació de producció mitjana amb una despesa general de servei complet [1] i ~45 mL per a una resposta d'assistent de 400 fitxes (inferència marginal) [2]. L'afirmació tan compartida de "una quinzena part d'una culleradeta" no té un límit/mètode públic; tracteu-la com una previsió meteorològica sense la ciutat [1][3].

Mini-FAQ: Quanta aigua fa servir la IA?, de nou, en anglès senzill 🗣️

• Aleshores, què hauria de dir en una reunió?
  "Segons l'indicació, va des de gotes fins a uns quants glops , depenent del model, la durada i on s'executa. L'entrenament requereix piscines , no tolls". A continuació, cita un o dos exemples més amunt.

• És la IA excepcionalment dolenta?
  Està concentrada : els xips d'alta potència empaquetats junts creen grans càrregues de refrigeració. Però els centres de dades també són on la millor tecnologia d'eficiència sol arribar primer [1][4].

• I si ho canviem tot a refrigeració per aire?
  Podríeu reduir in situ però augmentar fora de les instal·lacions mitjançant electricitat. Els operadors sofisticats valoren ambdues coses [1][5].

• I què passa amb la tecnologia del futur?
  Els dissenys que eviten refredar l'aigua a escala serien revolucionaris per a l'Abast 1. Alguns operadors s'estan movent en aquesta direcció; l'electricitat aigües amunt encara porta un senyal d'aigua fins que les xarxes canvien [4].

Observacions finals: massa llarg, no ho he llegit 🌊

• Per indicació: penseu en submil·lilitres o desenes de mil·lilitres , depenent del model, la longitud de la indicació i on s'executa. Indicació mitjana ~0,26 mL en una pila principal; ~45 mL per a una resposta de 400 tokens en una altra [1][2].

• Formació: milions de litres per a models de frontera, cosa que fa que la programació, la ubicació i la tecnologia de refrigeració siguin crítiques [3].

• Què cal fer: models de la mida adequada, triar regions amb poca aigua, traslladar les feines pesades a hores més fresques, preferir proveïdors que provin dissenys amb poca aigua i exigir límits transparents [1][3][4][5].

Metàfora lleugerament defectuosa per acabar: la IA és una orquestra assedegada: la melodia és informàtica, però la bateria és aigua de refrigeració i de xarxa. Afina la banda i el públic encara escoltarà la música sense que s'activin els aspersors. 🎻💦

Referències

1. Blog de Google Cloud: Quanta energia utilitza la IA de Google? Hem fet els càlculs (metodologia + ~0,26 mL de mitjana, sobrecàrrega de servei complet). Enllaç
   (PDF d'article tècnic: Mesurar l'impacte ambiental de la implementació de la IA a escala de Google .) Enllaç

2. Mistral AI - La nostra contribució a un estàndard ambiental global per a la IA (LCA amb ADEME/Carbone 4; ~281.000 m³ d'entrenament + ús inicial; ~45 mL per resposta de 400 tokens Enllaç

3. Li et al. - Fer que la IA tingui menys "set": descobrint i abordant la petjada hídrica secreta dels models d'IA (entrenament de milions de litres , conscient del temps i el lloc , retirada vs. consum). Enllaç

4. Microsoft: els centres de dades de nova generació no consumeixen aigua per a la refrigeració (dissenys directes al xip que tenen com a objectiu la refrigeració sense aigua en determinats llocs). Enllaç

5. Centres de dades de Google: funcionament sostenible (compromisos de refrigeració cada lloc; informes i reutilització, incloses les aigües regenerades/grises; ordres de magnitud d'ús diari típic a nivell de lloc). Enllaç

Troba la darrera versió d'IA a la botiga oficial d'assistents d'IA

Sobre nosaltres