Gasto energético de la IA

[CarmenMa-7341-kXM03F]

https://www.eldiario.es/tecnologia/google-recurre-energia-nuclear-alimentar-centros-datos-ia_1_11733799.html
Esta noticia me ha parecido muy interesante, va sobre como Google encarga varios reactores nucleares modulares para potenciar sus centros de inteligencia artificial. Realmente nunca me había planteado que la inteligencia artificial y en general todo lo que rodea a la gestión de datos consumiera tanta energía. ¿Pensabais que esto era así?

[VET-Marc]

¡Hola Carmen!

Esta noticia que compartes es muy interesante.
Os planteo unas cuantas preguntas que podéis intentar contestar en este mismo hilo o que os pueden servir para enriquecer vuestros trabajos.

¿Por qué creéis que empresas como Google necesitan cantidades de energía tan grandes para manejar datos e IA? ¿Qué lo hace tan costoso?

¿Qué os parece esta nueva huella de carbono que está dejando este consumo de energía masivo para potenciar la IA? ¿Es éticamente justificable? (pues la IA también puede ser usada para ahorrar energía o incluso salvar vidas)

Si alguien más quiere contestar a este mismo hilo o abrir uno nuevo con noticias o artículos que sean de interés, ¡que no dude en hacerlo!
Podéis iros haciendo esta clase de preguntas entre vosotros para mejorar conjuntamente.

¡Mucha suerte!

[Izan-5735-2zGb5Y]

¡Hola chicos!

No voy a mentir, no soy nuevo en el mundillo, pero tampoco el mejor. Primero decir que me ha sorprendido la noticia que ha compartido Carmen con nosotros, y es que conozco las necesidades eléctricas de todos los programas basados en redes neuronales y aprendizaje autónomo, pero no sabía que Google había ido tan lejos.

Respondiendo a las preguntas de Marc (o al menos intentándolo), según mis conocimientos el gran consumo de energía no tiene otro motivo que la necesidad de procesamiento simultáneo, comúnmente llevado a cabo en gráficas de servidor, como tarjetas gráficas Tesla o Quadro, entre muchas otras de la marca NVIDIA (no la única, pero si de las más importante); o incluso creando sus propias unidades de procesamiento Tensor como hace Google con sus TPUs.
El único problema, claro, es que al tener la capacidad de procesar tantos datos, terminan requiriendo mucha energía aún teniendo arquitecturas de unos pocos nanómetros (siendo más efectivas al tener menos superficie resistiva, y por tanto no perdiendo energía en forma de calor).

Por otro lado, entrando en el debate de la huella de carbono, creo que sinceramente se podrían aprovechar algunos recursos o aprovechar otras alternativas, ya que este excesivo consumo no viene solo dado por los propios procesadores de datos, sino también por sus gigantescos sistemas de refrigeración, que trabajan día y noche para mantener todo a su máximo potencial. Y si es verdad que se pueden utilizar algoritmos para ayudarnos en nuestra vida diaria, pero quizás tendríamos que intentar plantear primero como mantener esa vida...

Un saludo y la verdad un tema muy interesante. ¡Espero las respuestas de mis compañeros!

Enlaces de interés:
Gráficas Tesla: https://es.wikipedia.org/wiki/Nvidia_Tesla
Gráficas Quadro: https://www.nvidia.com/es-la/design-visualization/quadro-desktop-gpus/
NVIDIA: https://www.nvidia.com/es-es/
AMD: https://www.amd.com/es.html
Intel: https://www.intel.la/content/www/xl/es/homepage.html
Google TPUs: https://cloud.google.com/tpu?hl=es
¿Consume mucho ChatGPT?: https://www.reddit.com/r/OpenAI/comments/11fwfjg/what_kind_of_pc_would_you_need_to_have_a_model/?tl=es-es

[VET-Marc]

Buenas, Izan,

La aportación que has hecho es muy interesante y creo que está llena de valor para que la gente pueda tener un conocimiento general del tema más amplio.

De cara a quien esté leyendo esto, si aún no has hecho ninguna aportación al foro, recuerda que es necesaria para poder acceder a la próxima fase del programa.
Os animo a que respondáis al mensaje de Carmen, al de Izan o al mío mismo (tratando de responder a las preguntas que os planteo).

¡Nos vemos!

[Mireia-4912-pnjr4Y]

Hola a todos, es mi segunda aportación al foro, y espero que sea útil para vuestra mejora en el ámbito de los gastos energéticos de la IA.
Me han parecido bastante interesantes las dos preguntas de Marc, así que he investigado y he encontrado esta web que creo que os podría servir, con la cual he podido sacar información y responder a las dos preguntas.

LINK: https://www.desdeabajo.info/otras-noticias/item/aumenta-la-huella-de-carbono-de-google-por-que-consume-tanta-energia-la-inteligencia-artificial.html

RESPUESTAS:
¿Por qué creéis que empresas como Google necesitan cantidades de energía tan grandes para manejar datos e IA? ¿Qué lo hace tan costoso?:
Google requiere mucha potencia porque entrenar y utilizar modelos generativos de IA requiere servidores potentes para procesar una gran cantidad de datos. Estos servidores consumen electricidad para funcionar y enfriarse, porque generan mucho calor. Por ejemplo, una consulta a ChatGPT consume 10 veces más energía que una búsqueda en Google. El costo aumenta debido a la necesidad de infraestructura adicional y sistemas de refrigeración.

¿Qué os parece esta nueva huella de carbono que está dejando este consumo de energía masivo para potenciar la IA? ¿Es éticamente justificable? (pues la IA también puede ser usada para ahorrar energía o incluso salvar vidas):
La huella de carbono de la IA es motivo de preocupación; Las emisiones de Google aumentaron un 48% en cinco años gracias al auge de la IA. Los centros de datos ya consumen el 2% de la electricidad mundial y este porcentaje podría duplicarse. Aunque la IA tiene un impacto ambiental significativo, sus beneficios éticos y sociales, como ahorrar energía en otras industrias o salvar vidas, pueden justificar su uso.
   
¡MUCHAS GRACIAS, Y SUERTE A TODOS!!

[Andrs-8371-dRUX2F]

¡Buenas tardes!

He decidido indagar más profundamente en el tema y he encontrado un artículo sobre el impacto ambiental de la IA: https://www.iproup.com/innovacion/51664-inteligencia-artificial-como-impacta-su-uso-en-el-medio-ambiente

Este artículo aborda el tema principal sobre el impacto ambiental de la IA, y es que "Según analistas de Wells Fargo, para 2030, la demanda de electricidad de EE. UU. aumentaría un 20% debido a las exigentes necesidades de entrenamiento de la IA. Goldman Sachs, por su parte, estima que la IA representará el 8% del consumo energético de EE.UU. en 2030, comparado al 3% actual."

Aunque mirando más hacia el presente este calentamiento global gracias a la IA, según el artículo, es debido principalmente a: "Los centros de datos, donde se procesan y almacenan los modelos, los cuales hoy en día representan el principal desafío ambiental, ya que requieren de energía para entrenar modelos de lenguaje que es mayor a la de un microchip promedio y emite incluso más calor."

¿Que opinais vosotros? ¿Creéis que se podría hacer algo para evitar este calentamiento global provocado por la IA?

Me encantaría saber vuestras respuestas...

Un saludo,
Andrés.