En los últimos años estamos asistiendo a una carrera obsesiva para la mejora de nuestros modelos de IA y no hacemos más que meter más y más. Ya sabéis: Bigger is Better. Más neuronas. Más unidades de cómputo. Más GPUs. Más memoria. Más servidores. Más refrigeración. Más cores. Más todo. Lo que haga falta para tener más accuracy que el estado del arte.

Fantástico, nuestro modelo ahora tiene un 1% de mejora respecto al de la competencia...

... pero consume 50 veces más energía.

En esta charla presentaremos el problema de la huella de carbono que producen los modelos de IA (incluyendo el elevadísimo consumo de agua de los centros de datos) y discutiremos la necesidad de añadir una nueva métrica a nuestros resultados: la energía consumida. Veremos cómo medir el consumo energético de manera realmente sencilla utilizando la librería CodeCarbon, que permite acceder a los registros energéticos RAPL del procesador y los de la GPU y permite obtener tanto la energía como el C02 emitido a la atmósfera. También veremos otras técnicas que deberíamos tener en cuenta a la hora de hacer nuestro software un poco más verde.