In un tweet il professor Goldstein dell’Università del Maryland ha stimato in maniera assolutamente approssimativa i possibili consumi dell’intelligenza artificiale generativa di OpenAI a partire proprio dal lavoro generativo della tecnologia. Potrebbe consumare quasi 12 mila KWh al giorno, per 3,8 tonnellate di CO2 emessa.
ChatGPT alla prova dei consumi energetici
È la star del momento, ChatGPT, l’ultima versione dell’intelligenza artificiale generativa sviluppata da OpenAI di cui tutti parlano da settimane. Ha conquistato schiere di fan in tutto il mondo, ha convinto esperti e addetti del settore, ha creato i suoi primi contenuti in rete, ha ovviamente stimolato dibattiti e confronti anche decisi tra sostenitori e oppositori dell’ecosistema IA.
In questo caso non è stata valutata da un punto di vista tecnico, operativo/lavorativo o etico, ma di prestazione energetica. Quando consuma (e inquina) la ChatGPT?
La risposta ha provato a darla su Twitter il professor Tom Goldstein, del dipartimento di Informatica della University of Maryland, eseguendo dei calcoli relativi all’operatività dell’intelligenza artificiale. Come riportato in un articolo pubblicato su linkiesta.it: “se ogni parola contenuta in una frase di risposta dell’IA richiede in media 350 millisecondi su un processore grafico (GPU) A100, ogni utente formula mediamente dieci domande a testa e gli utenti attivi sono circa un milione, allora le parole generate giornalmente sono 300 milioni”.
“Moltiplicando questa cifra per 350 millisecondi (0.35s) e dividendo per 3.600 (i secondi che compongono un’ora), si deduce che tutta l’infrastruttura di hosting che permette a ChatGPT di girare sui nostri computer lavora 29.167 ore in un giorno (ovviamente distribuite su più apparecchi).
Ciò si concretizza in un consumo energetico di 11.870 Kwh, che si traduce a sua volta in un impatto sull’ambiente di circa 3.82 tonnellate giornaliere di anidride carbonica”, ha stimato il professore.
Come calcolare quanto inquina un’IA
Ovviamente si tratta di una stima a dir poco “ipotetica e approssimativa”, anche perché non tiene conto delle altre emissioni di gas serra generate durante la fase di addestramento dell’IA generativa e durante l’attivazione dei processi di apprendimento automatico (machine learning).
ChatGPT si basa su una versione di GPT-3. In un articolo su medium.com, Kasper Groes Albin Ludvigsen ha stimato che l’addestramento GPT-3 ha consumato 1.287 MWh, generando emissioni per 552 tonnellate di CO2e.
Utilizzando il calcolatore ML CO2 Impact, è possibile calcolare l’impronta di carbonio giornaliera di ChatGPT attorno alle 23,04 kgCO2e. se prendiamo come riferimento un cittadino danese medio, questo è responsabile dell’emissione di 11 tonnellate di CO2e all’anno, quindi l’impronta di carbonio giornaliera di ChatGPT è circa lo 0,2% di quella di un cittadino danese.
Se ChatGPT funzionasse per un anno, la sua impronta di carbonio sarebbe di 8,4 tonnellate di CO2 emessa, ovvero circa il 76% dell’impronta di carbonio annuale di un danese.
A riguardo, secondo un altro studio pubblicato dall’Università del Massachusetts di Amherst, durante un intero ciclo di addestramento di modelli di IA di dimensioni medie, sono state generate più di 280 tonnellate di CO2.