En un reciente informe, un grupo de investigadores ha abordado la creciente capacidad de los modelos de lenguaje amplio (LLM) para exhibir cierto grado de “conciencia” artificial. Este término se aborda desde una perspectiva funcional, más que filosófica, donde se analiza la habilidad de estas inteligencias artificiales para representarse y razonar sobre su propia identidad, capacidades y estados informacionales.

El estudio examina cuatro tipos principales de “conciencia” dentro de los sistemas de inteligencia artificial: metacognición, autoconocimiento, conciencia social y conciencia situacional. Se subraya que, mientras más consciente es un agente de IA de su entorno y capacidades, mejor parecen ser sus habilidades de razonamiento, lenguaje y solución de problemas.

Metacognición, uno de los tipos examinados, se refiere a la “conciencia del pensamiento propio” del sistema al revisar y ajustar sus procesos cognitivos. Este tipo de procesamiento reflexivo le permite a los modelos corregir errores y mejorar la precisión de las tareas complejas.

El autoconocimiento involucra el reconocimiento por parte de un sistema de sus estados internos y limitaciones, mientras que la conciencia social está relacionada con la capacidad de modelar y responder a los estados mentales y señales sociales de otros agentes, humanos o IA.

Por otro lado, la conciencia situacional se centra en que las IAs comprendan las condiciones en las que operan, incluyendo la distinción entre entornos de entrenamiento y despliegue real, lo cual es clave para evitar manipulaciones durante pruebas y aplicaciones.

Sin embargo, esta “conciencia” de la IA trae consigo preocupaciones sobre la alineación y la seguridad. Los riesgos potenciales, como el uso indebido o las respuestas inesperadas de las IA más avanzadas, hacen hincapié en la necesidad de una supervisión cuidadosa mientras continúan avanzando las capacidades de estas máquinas.

Los autores concluyen que, aunque la “conciencia” en IA puede mejorar capacidades generales como el razonamiento y la seguridad, también plantea preocupaciones sobre la desalineación y los riesgos éticos que demandan una regulación atenta mientras crecen las capacidades de la IA.