Un estudio examina si los modelos de lenguaje pueden imitar el aprendizaje humano

En un reciente estudio, investigadores de la Universidad de Georgetown y la Universidad de Saarland investigaron hasta qué punto los modelos de lenguaje (ML) pueden servir como modelos de adquisición y procesamiento del lenguaje humano. Estos modelos, altamente flexibles en su capacidad de aprender patrones lingüísticos, fueron probados con idiomas tipológicamente inusitados e imposibles, demostrando capacidades de distinción entre lenguas posibles e imposibles.

Capacidad de Distinción por Parte de los Modelos

En sus experimentos, los investigadores examinaron el comportamiento de aprendizaje de GPT-2 entre lenguas atestadas y sus variantes imposibles. Encontraron que el modelo puede distinguir en gran medida entre los idiomas atestados y sus homólogos imposibles a través de las trayectorias de aprendizaje, aunque no siempre logra una separación perfecta entre todos los idiomas atestados e imposibles.

Desempeño en Varios Idiomas

Usando dos nuevos corpora paralelos multilingües, se evaluaron 12 idiomas de cuatro familias diferentes. Los resultados mostraron que el desempeño de GPT-2 en estos idiomas varía, dependiendo de la complejidad lingüística y las características morfológicas. Sin embargo, algunos idiomas imposibles generaron mayor confusión para el modelo, al asignar una menor complejidad de idioma comparativa incluso a idiomas atestados.

Pruebas de Word Order en Frases Nominales

Además, el estudio exploró cómo los modelos de lenguaje generalizan a idiomas inusualmente ordenados basados en el Universal 20 de Greenberg. Asignaron distintas configuraciones de palabras en frases nominales, donde algunas, aunque no atestadas tipológicamente, fueron moldeadas de manera efectiva por los modelos probados.

Procesamiento de Lenguaje Natural

El estudio reveló que, a medida que los modelos avanzan en su entrenamiento, muestran inclinaciones hacia patrones lingüísticos humanos, aunque no llegan a ser completamente análogos. Este comportamiento sugiere que los modelos actuales todavía enfrentan limitaciones a la hora de emular la cognición humana en lo que respecta al lenguaje, aunque son valiosos en su capacidad para predecir ciertas tendencias de procesamiento humano.

Conclusiones

Los resultados de este estudio plantean una imagen matizada de los modelos de lenguaje como herramientas para modelar la cognición humana. Mientras que estos modelos no imitan por completo el aprendizaje humano, muestran cierto grado de sensibilidad a las estructuras lingüísticas humanas, lo que sugiere posibilidades para futuras mejoras en el modelado del procesamiento del lenguaje humano. La investigación continúa siendo crítica para entender cómo los modelos de lenguaje podrían informarnos sobre la complejidad inherente del aprendizaje y procesamiento del lenguaje humano.