Los avances en los agentes de inteligencia artificial (IA) conversacionales han traído consigo retos significativos. Basados en modelos de lenguaje de dominio abierto, estos agentes aspiran a convertirse en asistentes generalistas que ayuden en tareas como la escritura o el diseño gráfico. Sin embargo, un desafío central es su capacidad para mantener interacciones a largo plazo. Estos agentes, entrenados en observaciones de corto plazo, a menudo fallan en la generalización a interacciones más extensas, como cuando un usuario insiste en corregir errores recurrentes.
Para superar estas limitaciones, la investigación sugiere que los agentes de IA deben modelar explícitamente la inteligencia social humana. Esta inteligencia social permite a los humanos construir y mantener relaciones a largo plazo con otros agentes cuyo comportamiento no siempre es predecible. Mediante la modelización matemática de las estrategias de comunicación y razonamiento humano a lo largo del tiempo, se podrían formular nuevos objetivos teóricos de juegos para optimizar a los agentes de IA.
El concepto de inteligencia social en IA se formaliza en dos principios: consistencia y compatibilidad. La consistencia demanda que un agente minimice el arrepentimiento externo sin importar su tipo, y la compatibilidad requiere que, al asociarse con otro agente, ambas partes alcancen utilidades que se aproximen a un equilibrio eficiente de Pareto.
Los agentes de IA deben aprender estrategias que les permitan jugar efectivamente con una población “socialmente inteligente” para comunicarse y cooperar tan eficientemente como lo haría cualquier miembro humano. La meta es diseñar agentes que imiten comportamientos humanos de manera efectiva, enfocándose en estrategias de ‘imitar y comprometer.’ Este método busca primeros pasos eficientes de imitación que permitan al agente aprender sobre las características del socio humano, para luego ajustar su comportamiento para maximizar la cooperación y minimizar el arrepentimiento altruista.
Con este modelo teórico, se establece un marco que establece la complejidad de aprendizaje necesaria para un agente de IA que coopera exitosamente. Se sugiere que es posible minimizar el arrepentimiento de manera altruista, asegurando un aprendizaje que optimice la cooperación a largo plazo con una población diversa y socialmente inteligente.
En resumen, las investigaciones en IA para la cooperación socialmente inteligente sugieren que, con los métodos adecuados, los agentes de IA pueden integrarse efectivamente en equipos humanos, mejorando su capacidad para mantener interacciones enriquecedoras a largo plazo y adaptarse a diversas personalidades y necesidades comunicativas.