ChatGPT: qual è l’impronta di carbonio dei modelli di IA generativa?

Più potente è l’intelligenza artificiale, più energia utilizza. Quindi, cosa significa l’emergere di modelli di intelligenza artificiale generativa sempre più potenti per il futuro della nostra impronta di carbonio?

“Generativo” si riferisce alla capacità di un algoritmo AI di produrre dati complessi. L’alternativa è l’intelligenza artificiale “discriminante”, che sceglie tra un numero fisso di opzioni e produce un solo numero.

L’IA generativa può creare output molto più complessi, come una frase, un paragrafo, un’immagine o persino un breve video. È stato a lungo utilizzato in applicazioni come altoparlanti intelligenti per generare risposte audio o in completamento automatico per suggerire una query di ricerca.

Tuttavia, solo di recente ha acquisito la capacità di generare un linguaggio umano e foto realistiche.

Usando più potere che mai

Il costo energetico esatto di un singolo modello di intelligenza artificiale è difficile da stimare e include l’energia utilizzata per fabbricare l’attrezzatura informatica, creare il modello e utilizzare il modello in produzione.

Nel 2019, i ricercatori hanno scoperto che la creazione di un modello di IA generativo chiamato BERT con 110 milioni di parametri consumava l’energia di un volo transcontinentale di andata e ritorno per una persona.

Il numero di parametri si riferisce alla dimensione del modello, con modelli più grandi generalmente più abili.

I ricercatori hanno stimato che la creazione di GPT-3, ad esempio, che ha 175 miliardi di parametri, ha consumato 1.287 megawattora di elettricità e generato 552 tonnellate di anidride carbonica, l’equivalente di 123 veicoli passeggeri a benzina guidati per un anno.

E questo è solo per preparare il modello al lancio, prima che i consumatori inizino a usarlo.

Le dimensioni non sono l’unico fattore predittivo delle emissioni di carbonio. Il modello BLOOM ad accesso aperto, sviluppato dal progetto BigScience in Francia, ha dimensioni simili a GPT-3 ma ha un’impronta di carbonio molto inferiore, consumando 433 MWh di elettricità per generare 30 tonnellate di CO2eq.

Uno studio di Google ha rilevato che, a parità di dimensioni, l’utilizzo di un’architettura e di un processore del modello più efficienti e di un data center più ecologico può ridurre l’impronta di carbonio da 100 a 1000 volte.

I modelli più grandi consumano più energia durante la loro distribuzione. Esistono dati limitati sull’impronta di carbonio di una singola query di intelligenza artificiale generativa, ma alcuni dati del settore stimano che sia da quattro a cinque volte superiore a quella di una query di un motore di ricerca.

Man mano che i chatbot e i generatori di immagini diventano più popolari e Google e Microsoft incorporano modelli di linguaggio AI nei loro motori di ricerca, il numero di query che ricevono ogni giorno potrebbe crescere in modo esponenziale.

Robot AI per la ricerca

Alcuni anni fa, non molte persone al di fuori dei laboratori di ricerca utilizzavano modelli come BERT o GPT. Ciò è cambiato nel novembre 2022, quando OpenAI ha rilasciato ChatGPT.

Secondo gli ultimi dati disponibili, ChatGPT ha avuto oltre 1,5 miliardi di visite nel marzo 2023. Microsoft ha incorporato ChatGPT nel suo motore di ricerca, Bing, e lo ha reso disponibile a tutti nel maggio 2023.

Se i chatbot diventeranno popolari quanto i motori di ricerca, i costi energetici per l’implementazione delle IA potrebbero davvero aumentare. Ma gli assistenti AI hanno molti più usi oltre alla semplice ricerca, come scrivere documenti, risolvere problemi di matematica e creare campagne di marketing.

Un altro problema è che i modelli di intelligenza artificiale devono essere continuamente aggiornati. Ad esempio, ChatGPT è stato addestrato solo sui dati fino al 2021, quindi non sa nulla di ciò che è accaduto da allora.

L’impronta di carbonio della creazione di ChatGPT non è un’informazione pubblica, ma è probabilmente molto più alta di quella di GPT-3. Se dovesse essere ricreato regolarmente per aggiornare le sue conoscenze, i costi energetici aumenterebbero ancora di più.

Un aspetto positivo è che chiedere a un chatbot può essere un modo più diretto per ottenere informazioni rispetto all’utilizzo di un motore di ricerca.

Invece di ottenere una pagina piena di collegamenti, ottieni una risposta diretta come faresti da un essere umano, supponendo che i problemi di accuratezza siano mitigati. Raggiungere le informazioni più rapidamente potrebbe potenzialmente compensare l’aumento del consumo di energia rispetto a un motore di ricerca.

Che aspetto ha il futuro?

Il futuro è difficile da prevedere, ma i grandi modelli di intelligenza artificiale generativa sono qui per restare e le persone probabilmente si rivolgeranno sempre più a loro per ottenere informazioni.

Ad esempio, se uno studente ha bisogno di aiuto per risolvere un problema di matematica ora, chiede a un tutor oa un amico o consulta un libro di testo. In futuro, probabilmente chiederanno a un chatbot. Lo stesso vale per altre conoscenze specialistiche come la consulenza legale o la perizia medica.

Anche se un unico grande modello di intelligenza artificiale non rovinerà l’ambiente, se mille aziende sviluppano bot di intelligenza artificiale leggermente diversi per scopi diversi, ciascuno utilizzato da milioni di clienti, il consumo di energia potrebbe diventare un problema.

Sono necessarie ulteriori ricerche per rendere l’IA generativa più efficiente. La buona notizia è che l’intelligenza artificiale può funzionare con energia rinnovabile. Portando il calcolo dove l’energia verde è più abbondante o programmando il calcolo per le ore del giorno in cui l’energia rinnovabile è più disponibile, le emissioni possono essere ridotte di un fattore da 30 a 40, rispetto all’utilizzo di una rete dominata dai combustibili fossili.

La pressione della società può essere utile per incoraggiare le aziende e i laboratori di ricerca a pubblicare le impronte di carbonio dei loro modelli di intelligenza artificiale, come alcuni già fanno. In futuro, forse, i consumatori potrebbero persino utilizzare queste informazioni per scegliere un chatbot “più ecologico”.