Mistral AI een uitgebreid levenscyclusevaluatierapport (LCA) uitgebracht voor hun taalmodellen, waarmee een nieuwe maatstaf is vastgesteld voor milieutransparantie in de AI-industrie. Dit baanbrekende initiatief, uitgevoerd in samenwerking met Carbone 4 en het Franse agentschap voor ecologische transitie (ADEME), heeft als doel een duidelijke analyse te geven van de ecologische voetafdruk van AI-modellen en zo bij te dragen aan de totstandkoming van een wereldwijde milieunorm voor deze industrie.
Waarom is dit belangrijk?
De impact van AI op het milieu blijft nog grotendeels in schemeren gehuld. Het nauwkeurig meten van de impact van een enkele AI-query is een uitdaging omdat veel AI-bedrijven terughoudend zijn om hun energieverbruik bekend te maken.
Het is echter duidelijk dat de opkomst van AI de vraag naar energie, water en andere hulpbronnen aanzienlijk heeft doen toenemen. Sinds het begin van de AI-boom in 2017 is het energieverbruik van datacenters in de VS verdubbeld. Momenteel wordt 4,4% van alle Amerikaanse energie verbruikt door datacenters, en niet al deze energie is afkomstig van schone bronnen. Deze trend zal naar verwachting toenemen naarmate onze AI-verzoeken steeds complexer worden.
Je kunt niet managen wat je niet meet. Daarom is een gestructureerde analyse van de milieu-impact van AI belangrijk om de transitie naar een ethische en verantwoorde toekomst in goede banen te leiden. Daarom prijzen wij Mistral AI voor het nemen van deze eerste stap. Lees hier meer over de de rol van AI in milieurapportage.
Belangrijkste bevindingen en methodologie
Het doel van de analyse was om de milieueffecten te berekenen van de ontwikkeling en het gebruik van LLM's in drie impactcategorieën:
- Uitstoot van broeikasgassen
- Waterverbruik
- Materiaalverbruik
Uit het onderzoek blijkt dat hoewel individuele AI-zoekopdrachten een relatief lage impact hebben op het milieu, het cumulatieve effect van miljarden zoekopdrachten aanzienlijk is. Dit benadrukt het belang van transparantie en duurzaamheid in de AI-industrie. Ook de training en ontwikkeling van de AI heeft een aanzienlijke impact.
Mistral doet nog meer onthullingen:
De ecologische voetafdruk van de training Mistral Large 2: vanaf januari 2025 en na 18 maanden gebruik had Large 2 de volgende effecten:
- 20,4 kt CO₂e
- 281.000 m3 water verbruikt
- 660 kg Sb eq (standaardeenheid voor uitputting van hulpbronnen).
De marginale effecten van inferentie. (Inferentie verwijst naar het proces waarbij conclusies worden getrokken uit gegevens en deze worden toegepast om voorspellingen of beslissingen te nemen. Het omvat het gebruik van een getraind model om onderbouwde verwachtingen te maken over nieuwe, gegevens op basis van patronen die het model tijdens de trainingsfase heeft geleerd.)
Het gebruik van de AI-assistent Le Chat voor een respons van 400 tokens - exclusief gebruikersterminals:
- 1,14 g CO₂e,
- 45 ml water,
- en 0,16 mg Sb eq.
Mistrals LCA concludeert een sterke correlatie tussen de grootte van een model en de impact op het milieu. Gebruik je een complexer en groter model dan is de impact ook hoger. Dit onderstreept het belang van het kiezen van het juiste model voor de juiste toepassing.
Ook stelt het dat de locatie van de datacenter van grote invloed is op de carbon footprint. Als het gebruik maakt van een schone energiemix en op een koele locatie staat zal de impact aanzienlijk minder zijn.
Daarnaast adviseert Mistral precieze en gegroepeerde prompt te gebruiken. Daarmee rekenkracht en dus de uitstoot aanzienlijk.
Toewijding aan transparantie en de toekomst
Mistral AI heeft toegezegd hun milieueffectrapporten regelmatig bij te werken en deel te nemen aan discussies over de ontwikkeling van internationale industriestandaarden. Het bedrijf pleit voor meer transparantie in de hele AI-waardeketen, zodat AI-gebruikers weloverwogen beslissingen kunnen nemen over de oplossingen die het beste bij hun behoeften passen.
Het rapport suggereert dat bepaalde milieu-indicatoren verplichte cijfers kunnen worden om te rapporteren, waarmee het publiek wordt geïnformeerd over de effecten van AI-technologieën. Deze stap zal naar verwachting andere AI-bedrijven aanmoedigen om dit voorbeeld te volgen, waardoor een cultuur van transparantie en duurzaamheid binnen de sector wordt bevorderd.
Een voorbeeld voor de branche
Het initiatief van Mistral AI is een lovenswaardige stap in de richting van meer milieuverantwoordelijkheid in de AI-sector. Door gedetailleerde cijfers over de milieueffecten te verstrekken, schept Mistral AI een voorbeeld voor andere bedrijven om hun ecologische voetafdrukken bekend te maken.
Het rapport onderstreept ook de noodzaak voor openbare instellingen om de omvang en efficiëntie van het model te integreren in de aanbestedingscriteria, waardoor marktprikkels worden gecreëerd voor duurzamere AI-ontwikkeling.
Door een nieuwe standaard te zetten voor transparantie en verantwoording, maakt Mistral AI de weg vrij voor andere bedrijven om te volgen, wat uiteindelijk bijdraagt aan een duurzamere toekomst voor iedereen.
Wil je dieper in de cijfers en details van deze LCA duiken, bekijk dan hun verslag doen van.
.avif)
