Misurare il consumo energetico dell’intelligenza artificiale è più complesso di quanto sembri: non esiste un solo numero, ma un intreccio di fasi, hardware, stime e incertezze. In questo episodio esploriamo come ricercatori e analisti provano a calcolare l’impatto energetico dei modelli AI, distinguendo tra training, inferenza e manutenzione, e analizzando i principali trade-off: dimensione dei modelli, specializzazione, efficienza degli acceleratori e tecniche di compressione. Una guida pratica per capire cosa sappiamo davvero, cosa possiamo solo stimare e quali domande dovremmo farci di fronte ai numeri sull’energia dell’AI. Music: Beethoven, Sinfonia n.9, secondo movimento per pianoforte. Performed by Rebecca You:https://www.youtube.com/watch?v=-fC_rdbqGQcReferences: https://epoch.ai/; https://www.iea.org/reports/energy-and-ai; https://doi.org/10.48550/arXiv.2311.16863 (Title: Power Hungry Processing: Watts Driving the Cost of AI Deployment?); https://cloud.google.com/blog/products/infrastructure/measuring-the-environmental-impact-of-ai-inference/ (Title: Measuring the environmental impact of delivering AI at Google Scale); https://doi.org/10.48550/arXiv.2412.08602 (Title: Empirical Measurements of AI Training Power Demand on a GPU-Accelerated Node)XANADU: Il Meraviglioso Mondo della Scienza, ogni martedì su Spotify.Un podcast di Liberi Oltre le Illusioni.Se vuoi associarti o donare a Liberi Oltre fai click su questo link ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://www.liberioltreleillusioni.it⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠...Seguici sui nostri social:Twitter/𝕏 » / liberioltreInstagram » / liberioltreSito » ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://www.liberioltreleillusioni.it/⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠Telegram » ⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠⁠https://t.me/liberioltre⁠⁠⁠⁠⁠

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related