Milieu-impact van grote taalmodellen: een vergelijkende analyse

De meedogenloze zoektocht naar innovatie op het gebied van artificial intelligence (AI) heeft geleid tot de ontwikkeling van steeds geavanceerdere large language models (LLMs). Hoewel deze modellen indrukwekkende mogelijkheden vertonen op verschillende gebieden, zijn de milieuconsequenties die gepaard gaan met hun training en implementatie grotendeels onbelicht gebleven. Bedrijven die AI-modellen ontwikkelen, delen graag prestatiegegevens op benchmarks, maar vermijden meestal de milieu-impact. Recent onderzoek werpt licht op de vaak over het hoofd geziene energie-, water- en koolstofkosten die verbonden zijn aan deze krachtige AI-tools.

Een nieuwe benchmark voor het beoordelen van de milieu-impact

In de zoektocht naar het kwantificeren van de milieu-impact van AI heeft een team van onderzoekers van de University of Rhode Island, Providence College en de University of Tunis een infrastructuur-bewuste benchmark voor AI-inferentie geïntroduceerd. Dit onderzoek, beschikbaar op de preprint server arXiv van Cornell University, biedt een nauwkeurigere evaluatie van de ecologische effecten van AI. De benchmark combineert openbare API-latentiegegevens met informatie over de onderliggende GPUs en regionale samenstellingen van het elektriciteitsnet om de milieuvoetafdruk per prompt voor 30 gangbare AI-modellen te berekenen. Deze uitgebreide aanpak houdt rekening met energieverbruik, waterverbruik en koolstofemissies, wat resulteert in een "eco-efficiëntie" score.

Abdeltawab Hendawi, universitair docent aan de University of Rhode Island, legt de motivatie achter de studie uit: "We begonnen na te denken over het vergelijken van deze modellen in termen van milieubronnen, water, energie en koolstofvoetafdruk." De bevindingen onthullen aanzienlijke verschillen in de milieu-impact van verschillende AI-modellen.

Verschillen in energieverbruik: OpenAI, DeepSeek en Anthropic

De studie benadrukt aanzienlijke verschillen in energieverbruik tussen toonaangevende AI-modellen. OpenAI’s o3-model en DeepSeek’s primaire redeneermodel verbruiken meer dan 33 wattuur (Wh) voor een enkel uitgebreid antwoord. Dit staat in schril contrast met OpenAI’s kleinere GPT-4.1 nano, die meer dan 70 keer minder energie vereist. Anthropic’s Claude-3.7 Sonnet komt naar voren als het meest eco-efficiënte model in de studie.

De onderzoekers benadrukken de cruciale rol van hardware bij het bepalen van de milieu-impact van AI-modellen. De GPT-4o mini, die bijvoorbeeld oudere A100 GPUs gebruikt, verbruikt meer energie per query dan de grotere GPT-4o, die op meer geavanceerde H100-chips draait. Dit onderstreept het belang van het benutten van geavanceerde hardware om de milieuvoetafdruk van AI te minimaliseren.

De milieutol van de lengte van de query

De studie onthult een direct verband tussen de lengte van de query en de milieu-impact. Langere queries leiden steevast tot een groter bronnenverbruik. Zelfs schijnbaar onbeduidende, korte prompts dragen bij aan de totale milieubelasting. Een enkele korte GPT-4o prompt verbruikt ongeveer 0,43 Wh aan energie. Onderzoekers schatten dat bij OpenAI’s geprojecteerde 700 miljoen GPT-4o calls per dag het totale jaarlijkse energieverbruik kan variëren van 392 tot 463 gigawattuur (GWh). Om dit in perspectief te plaatsen: dat is genoeg energie om jaarlijks tussen de 35.000 Amerikaanse huizen van stroom te voorzien.

De cumulatieve impact van AI-adoptie

De studie benadrukt dat de adoptie van AI door individuele gebruikers snel kan escaleren tot aanzienlijke milieukosten. Nidhal Jegham, een onderzoeker aan de University of Rhode Island en de hoofdauteur van de studie, legt uit dat "het jaarlijkse gebruik van ChatGPT-4o evenveel water verbruikt als de drinkwaterbehoefte van 1,2 miljoen mensen per jaar." Jegham waarschuwt dat hoewel de milieu-impact van een enkel bericht of prompt onbeduidend lijkt, "zodra je het opschaalt, vooral gezien de mate waarin AI zich overal verspreidt, het echt een groeiend probleem wordt."

Dieper ingaan op de milieu-impact metrics

Om de implicaties van de bevindingen van de studie ten volle te begrijpen, is een gedetailleerdere analyse van de milieu metrics die gebruikt worden om de AI-modellen te evalueren essentieel. De volgende secties geven een overzicht van de belangrijkste metrics:

Energieverbruik

Energieverbruik is een fundamentele maatstaf voor het elektrische vermogen dat nodig is om AI-modellen te laten werken. De studie kwantificeert het energieverbruik in wattuur (Wh) per query, waardoor een directe vergelijking van de energie-efficiëntie van verschillende modellen mogelijk is. Het minimaliseren van het energieverbruik is cruciaal voor het verminderen van de koolstofvoetafdruk en de algehele milieu-impact van AI.

Factoren die het energieverbruik beïnvloeden:

• Modelgrootte en complexiteit: Grotere en complexere modellen hebben doorgaans meer energie nodig om te werken dan kleinere, eenvoudigere modellen.
• Hardware-efficiëntie: De GPUs en andere hardwarecomponenten die gebruikt worden om AI-modellen uit te voeren, spelen een belangrijke rol in het energieverbruik. Meer geavanceerde en energiezuinige hardware kan de energievoetafdruk van AI aanzienlijk verminderen.
• Lengte en complexiteit van de query: Langere en complexere queries vereisen over het algemeen meer rekenkracht en verbruiken dus meer energie.
• Optimalisatietechnieken: Verschillende optimalisatietechnieken, zoals modelcompressie en kwantisatie, kunnen het energieverbruik van AI-modellen verminderen zonder dat dit ten koste gaat van de nauwkeurigheid.

Waterverbruik

Waterverbruik is een vaak over het hoofd gezien aspect van de milieu-impact van AI. Datacenters, waar de servers staan die AI-modellen uitvoeren, hebben aanzienlijke hoeveelheden water nodig voor koeling. De studie schat het waterverbruik op basis van het energieverbruik van de datacenters en de waterintensiteit van de regionale elektriciteitsnetten die elektriciteit aan die datacenters leveren.

Factoren die het waterverbruik beïnvloeden:

• Koelingsvereisten: Datacenters genereren aanzienlijke warmte en hebben koelsystemen nodig om optimale bedrijfstemperaturen te handhaven. Water wordt vaak gebruikt als koelmiddel, direct of indirect via koeltorens.
• Waterintensiteit van het elektriciteitsnet: De waterintensiteit van het elektriciteitsnet verwijst naar de hoeveelheid water die nodig is om een eenheid elektriciteit te genereren. Elektriciteitsnetten die sterk afhankelijk zijn van thermo-elektrische centrales, die water gebruiken voor koeling, hebben een hogere waterintensiteit.
• Locatie van het datacenter: Datacenters die zich in droge gebieden of gebieden met waterschaarste bevinden, kunnen de milieu-impact van AI verergeren.

Koolstofemissies

Koolstofemissies zijn een belangrijke aanjager van klimaatverandering. De studie berekent de koolstofemissies op basis van het energieverbruik van de AI-modellen en de koolstofintensiteit van de regionale elektriciteitsnetten. Koolstofintensiteit verwijst naar de hoeveelheid koolstofdioxide die per eenheid opgewekte elektriciteit wordt uitgestoten.

Factoren die de koolstofemissies beïnvloeden:

• Energiebron: Het type energie dat wordt gebruikt om datacenters van stroom te voorzien, heeft een aanzienlijke impact op de koolstofemissies. Hernieuwbare energiebronnen, zoals zonne- en windenergie, hebben een veel lagere koolstofintensiteit dan fossiele brandstoffen zoals kolen en aardgas.
• Koolstofintensiteit van het elektriciteitsnet: De koolstofintensiteit van het elektriciteitsnet varieert afhankelijk van de mix van energiebronnen die gebruikt worden om elektriciteit te genereren. Regio’s met een hoger aandeel hernieuwbare energiebronnen hebben lagere koolstofintensiteiten.
• Energie-efficiëntie: Het verminderen van het energieverbruik is de meest effectieve manier om de koolstofemissies te verlagen.

Implicaties en aanbevelingen

De bevindingen van de studie hebben belangrijke implicaties voor AI-ontwikkelaars, beleidsmakers en eindgebruikers. De milieu-impact van AI is niet te verwaarlozen en moet zorgvuldig worden overwogen naarmate de AI-technologie verder ontwikkelt en zich verspreidt.

Aanbevelingen voor AI-ontwikkelaars:

• Prioriteer energie-efficiëntie: AI-ontwikkelaars moeten energie-efficiëntie prioriteit geven bij het ontwerpen en trainen van AI-modellen. Dit omvat het gebruik van kleinere modellen, het optimaliseren van code en het benutten van efficiënte hardware.
• Onderzoek hernieuwbare energiebronnen: AI-bedrijven moeten mogelijkheden onderzoeken om hun datacenters van stroom te voorzien met hernieuwbare energiebronnen. Dit kan de koolstofvoetafdruk van AI aanzienlijk verminderen.
• Investeer in waterbesparing: Datacenters moeten investeren in waterbesparende technologieën om het waterverbruik te minimaliseren. Dit omvat het gebruik van gesloten koelsystemen en het opvangen van regenwater.
• Transparantie en rapportage: AI-bedrijven moeten transparant zijn over de milieu-impact van hun modellen en belangrijke metrics rapporteren, zoals energieverbruik, waterverbruik en koolstofemissies.

Aanbevelingen voor beleidsmakers:

• Stimuleer groene AI: Beleidsmakers moeten de ontwikkeling en implementatie van groene AI-technologieën stimuleren door middel van belastingvoordelen, subsidies en andere stimulansen.
• Reguleer het energieverbruik van datacenters: Beleidsmakers moeten het energieverbruik van datacenters reguleren om ervoor te zorgen dat datacenters zo efficiënt mogelijk werken.
• Bevorder de adoptie van hernieuwbare energie: Beleidsmakers moeten de adoptie van hernieuwbare energiebronnen bevorderen om de koolstofintensiteit van elektriciteitsnetten te verminderen.
• Ondersteun onderzoek en ontwikkeling: Beleidsmakers moeten onderzoek en ontwikkeling ondersteunen naar nieuwe technologieën die de milieu-impact van AI kunnen verminderen.

Aanbevelingen voor eindgebruikers:

• Wees bewust van AI-gebruik: Eindgebruikers moeten zich bewust zijn van hun AI-gebruik en onnodige of triviale queries vermijden.
• Kies milieuvriendelijke AI-modellen: Indien mogelijk moeten eindgebruikers AI-modellen kiezen waarvan bekend is dat ze energiezuiniger zijn.
• Ondersteun duurzame AI-praktijken: Eindgebruikers kunnen duurzame AI-praktijken ondersteunen door AI-producten en -diensten te kiezen van bedrijven die zich inzetten voor milieuverantwoordelijkheid.

Toekomstige onderzoeksrichtingen

De studie benadrukt de noodzaak van verder onderzoek naar de milieu-impact van AI. Toekomstig onderzoek moet zich richten op de volgende gebieden:

• Levenscyclusanalyse: Het uitvoeren van een uitgebreide levenscyclusanalyse van AI-modellen, van ontwikkeling tot verwijdering, om alle potentiële milieu-impacts te identificeren.
• Impact van training: Het onderzoeken van de milieu-impact van het trainen van AI-modellen, die aanzienlijk hoger kan zijn dan de impact van inferentie.
• Impact van AI op andere sectoren: Het onderzoeken van de impact van AI op andere sectoren van de economie, zoals transport en productie, om de algemene milieuconsequenties van AI-adoptie te begrijpen.
• Ontwikkeling van nieuwe metrics: Het ontwikkelen van nieuwe metrics om de milieu-impact van AI te beoordelen, zoals metrics die rekening houden met de belichaamde energie en materialen in AI-hardware.

Conclusie

De milieu-impact van LLMs is een complex en veelzijdig probleem dat zorgvuldige overweging vereist. De bevindingen van deze studie bieden waardevolle inzichten in de energie-, water- en koolstofkosten die verbonden zijn aan populaire AI-tools. Door deze kosten te begrijpen, kunnen AI-ontwikkelaars, beleidsmakers en eindgebruikers maatregelen nemen om de milieuvoetafdruk van AI te minimaliseren en ervoor te zorgen dat AI-technologie op een duurzame manier wordt ontwikkeld en ingezet. Naarmate AI meer geïntegreerd raakt in ons leven, is het cruciaal om duurzaamheid te prioriteren en samen te werken aan een toekomst waarin AI de samenleving ten goede komt zonder het milieu te schaden.