Solo noticias

y ya

miércoles 11 de de 2025

Riesgo Energético de los Modelos de Lenguaje: Un Llamado a la Eficiencia con Respuestas Breves en LLMs

El auge de los Modelos de Lenguaje de Gran Escala (LLMs) está siendo cada vez más notorio debido a su capacidad de impactar significativamente en el consumo energético a través de sus procesos de inferencia. Esta creciente preocupación ha llevado a investigadores de renombre a analizar los desafíos ambientales y económicos derivados del uso de LLMs. Un estudio reciente ha revelado que una gran parte de la energía consumida durante las inferencias es atribuible a la longitud de las respuestas generadas, más que a la longitud de las entradas. Esto pone de manifiesto que reducir la extensión de las respuestas podría aliviar la carga energética sin comprometer la calidad.