La gobernanza de los agentes de inteligencia artificial: un enfoque integral para el futuro
La creación de mecanismos eficaces de gobernanza para los agentes de inteligencia artificial (IA) es un desafío crucial en el que se centra un reciente estudio elaborado por Atoosa Kasirzadeh y Iason Gabriel. El estudio aborda cómo comprender mejor las propiedades fundamentales de los agentes de IA puede facilitar el desarrollo de estrategias de gobernanza que se alineen con los objetivos colectivos de la sociedad.
El estudio presenta cuatro dimensiones clave para caracterizar a los agentes de IA: autonomía, eficacia, complejidad del objetivo y generalidad. Se proponen diferentes gradaciones para cada dimensión, planteando que cada una plantea preguntas únicas sobre el diseño, operación y gobernanza de los sistemas de IA. Al emplear esta estructura, se elaboran “perfiles agentivos” para diferentes tipos de agentes de IA, iluminando los desafíos de gobernanza tanto técnicos como no técnicos que presentan estas tecnologías.
Se destaca que desde 2023, diversas organizaciones tecnológicas han acelerado el desarrollo de agentes de IA basados en modelos de base, publicando informes y desplegando agentes en una variedad de dominios del mundo real. Salesforce ha revelado una suite de agentes diseñada para manejar tareas de clientes, apuntando a desplegar “mil millones de agentes” para finales de 2025, mientras que Microsoft ha anunciado nuevas capacidades de agentes autónomos en varias de sus plataformas.
El documento analiza cómo estos desarrollos en los agentes de IA podrían tener un efecto profundo en las prácticas sociales, económicas y políticas existentes, como la posible disrupción de los mercados laborales. También se enfoca en la necesidad de categorizar a los agentes de IA, evaluar sus implicaciones y dirigir los esfuerzos hacia un despliegue responsable que minimize riesgos individuales y sistémicos.
Además, se exploran diversos marcos de gobernanza existentes para regular a los agentes de IA, como las regulaciones para vehículos autónomos y la Ley de la UE sobre IA. Estos proporcionan pautas valiosas que, sin embargo, podrían beneficiarse de una mayor adaptación a las propiedades novedosas de los agentes de IA avanzados.
Con el creciente despliegue de agentes de IA independientes y versátiles como Waymo o Claude 3.5, es crucial que investigadores, desarrolladores y funcionarios públicos colaboren en la creación de esquemas regulatorios proactivos y adaptativos que aborden las diversas capacidades y riesgos potenciales de estos agentes. Este estudio sirve como un paquete de herramientas para anticipar los desafíos que traerá el futuro, instando a la comunidad internacional a actuar con previsión, en pos de un despliegue seguro y beneficioso de estas poderosas tecnologías.