Investigadores han propuesto una arquitectura de Inteligencia General Artificial (AGI) personalizada para ser implementada en dispositivos con recursos limitados. Inspirados en principios de neurociencia, e ideada para permitir aprendizaje continuo, la nueva propuesta busca superar las limitaciones actuales de los modelos de aprendizaje profundo, los cuales dependen en gran medida de la expansión de los parámetros del modelo. Aunque esto mejora el rendimiento en tareas específicas, no permite un aprendizaje continuo y adaptable.

El documento expone cómo la neurociencia ha influido en el desarrollo de esta nueva arquitectura. Se basa en la idea de un sistema de memoria tri-memoria que sostiene el aprendizaje a largo plazo mediante la integración de módulos de aprendizaje rápido y lento, junto con una optimización sináptica y actualizaciones de modelos eficientes en memoria. Este sistema está diseñado para soportar la adaptación continua en dispositivos con recursos restringidos.

Para conseguir esto, los investigadores se basaron en principios clave de la neurociencia humana, como la Poda Sináptica, la Plasticidad Hebbiana, la Codificación Escasa y los Sistemas de Memoria Dual, que permiten al cerebro humano aprender de manera eficiente a lo largo de la vida. El modelo propuesto está guiado por estos principios, destacando la necesidad de un enfoque combinado que permite una gestión de la memoria de manera eficiente, mitigando el olvido catastrófico y optimizando el uso de recursos.

El equipo abordó los desafíos del olvido catastrófico, una situación donde el aprendizaje de nuevas tareas provoca la pérdida de rendimiento en tareas previamente aprendidas. Proponen que mediante sistemas de memoria complementarios, donde se dividen memoria de aprendizaje rápido y lento, junto con técnicas de compresión del modelo, se puede minimizar este efecto y preservar el aprendizaje esencial sin un crecimiento descontrolado del modelo.

Finalmente, los investigadores sugieren que, aunque aún se trate de un concepto teórico, esta arquitectura integra hallazgos diversos y ofrece una hoja de ruta para futuras implementaciones de AGI verdaderamente personalizada, que sea capaz de aprendizaje continuo en dispositivos con recursos limitados.