Los últimos avances en modelos de lenguaje están generando importantes cambios en la forma en que se abordan procesos de entrenamiento y uso eficiente de recursos. Para contrarrestar las limitaciones de los modelos de lenguaje grandes (LLMs) en entornos con recursos limitados, se propone el novedoso enfoque llamado Fine-tuning Stacks of Language Models (FSLM), que combina múltiples modelos de lenguaje pequeños (SLMs) en un sistema adaptable y especializado. Este enfoque no solo reduce los costos de computación, sino que también mejora la interpretabilidad del modelo al permitir que cada SLM interactúe empleando lenguaje natural.
La metodología FSLM se basa en inspiraciones provenientes del cerebro humano, repartiendo las tareas específicas entre diferentes componentes especializados. La evaluación del FSLM se realizó usando modelos de Pythia de 160 millones de parámetros, contrastados con otros modelos de tamaños similares como Pythia y Flan. Los resultados preliminares en benchmarks de lenguaje natural indican que la FSLM no solo es una alternativa viable, sino también prometedora frente a los modelos más pesados.
El sistema se construye sobre la idea de especializar cada SLM, permitiendo al conjunto alcanzar niveles de generalización antes reservados a modelos más grandes. Además, la fine-tuning de FSLM emplea métodos avanzados como LoRA y su variante optimizada QLoRA, que ayudan a aumentar la eficiencia sin sacrificar el rendimiento.
Para evaluar su desempeño, se utilizaron tareas del LM-Evaluation Harness y el conjunto de datos Alpaca, revelando que el mecanismo de stacking de modelos especializados no solo alcanza sino que a veces mejora el rendimiento de modelos estándar más grandes. Aunque Flan-T5-Large supera a FSLM en algunas tareas, el FSLM ofrece un equilibrio notable entre desempeño y eficiencia de recursos computacionales.
Con su diseño modular, FSLM proporciona un sistema que facilita la evaluación de la interpretabilidad mediante la observación de respuestas intermedias dentro de la pila de SLMs. Esto permite ajustar componentes específicos sin necesidad de intervenir en todo el sistema, optimizando los costos de computación.
Finalmente, la modularidad y especialización de FSLM hacen que sea una opción atractiva para desarrollos futuros en entornos con recursos computacionales limitados, con opciones a explorar que incluyen pre-entrenamientos y fine-tuning en arquitecturas diversas. Estas características apuntan a un nuevo horizonte de optimización y eficiencia en el entrenamiento y uso de modelos de lenguaje pequeño, propiciando beneficios tangibles que rompen con los paradigmas existentes de tamaño y complejidad en modelos de IA.