Un estudio de la Universidad de Ciencias Aplicadas de Múnich (Alemania) ha analizado el impacto ambiental de diferentes modelos de lenguaje generativo (LLMs, por sus siglas en inglés) en tareas comunes de uso cotidiano, como resolver preguntas de cultura general o matemáticas.
Lea también: Pilas: la Alcaldía de Medellín ofrece cursos gratis en IA y videojuegos
Cada vez que una inteligencia artificial responde, activa un complejo proceso computacional. Para generar esa información —acierte o no— los modelos utilizan tokens, unidades que representan palabras o fragmentos de ellas y que se traducen en secuencias numéricas comprensibles por la máquina.
Esa operación, junto con otras tareas internas, conlleva un consumo energético que se traduce en emisiones de CO₂. Sin embargo, muchos usuarios siguen sin conocer el coste ambiental que implica cada interacción con estas tecnologías.
“A cada modelo se le hicieron 100 preguntas de cinco categorías diferentes, que iban desde historia hasta matemáticas a nivel de secundaria, y se les pidió responder tanto en formato de opción múltiple como en texto libre. Posteriormente, se evaluaron y compararon tanto el consumo energético como la precisión de las respuestas”, dice a SINC Maximilian Dauner, autor principal del estudio publicado en Frontiers in Communication.
Según los investigadores, el impacto ambiental de interrogar modelos LLM entrenados está fuertemente determinado por su enfoque de razonamiento, con procesos explícitos que elevan considerablemente el consumo energético y las emisiones de carbono.
Los investigadores evaluaron 14 modelos, con tamaños entre 7 000 y 72 000 millones de parámetros, con preguntas de referencia que cubrían una amplia gama de materias.
“Las emisiones de CO₂ se calcularon en función del consumo de energía medido por un servidor equipado con una GPU NVIDIA A 100. Los modelos fueron probados en el mismo servidor utilizando preguntas idénticas para garantizar la mayor comparabilidad posible. Naturalmente, pueden producirse desviaciones según el tipo de generación eléctrica”, explica el investigador”, apunta Dauner.
La GPU NVIDIA es un procesador especializado que permite realizar millones de operaciones en paralelo, al acelerar el procesamiento de datos y reducir el tiempo que tarda el modelo en generar respuestas o entrenarse.
Regístrate al newsletter