La creciente implementación de los Computer-Using Agents (CUAs) en diversas plataformas ha venido acompañada de importantes desafíos de seguridad y fiabilidad. Encabezados por sistemas de última generación, como AppAgent y PC-Agent, estos agentes son capaces de interactuar con interfaces gráficas tal y como lo haría un usuario humano. No obstante, la expansión de sus capacidades también ha generado nuevas preocupaciones en cuanto a seguridad y riesgos de privacidad.

Los CUAs destacan por permitir la automatización de tareas complejas, incluyendo la navegación por páginas web y aplicaciones móviles. Sin embargo, su funcionamiento en entornos reales ha traído consigo preocupaciones críticas de seguridad, como la posibilidad de fallas de alineación y errores de interpretación de interfaces de usuario. Estos problemas pueden ser explotados por atacantes maliciosos, resultando en consecuencias indeseadas, como el desvío de metas o la filtración de datos.

La investigación en torno a estos agentes está enfocada en clasificar las amenazas a las que se exponen, internamente por sus propias limitaciones y externamente, debido a ataques de agentes maliciosos como inyecciones de prompt y ataques advesariales que intentan manipular las decisiones del agente. Además, los CUAs se enfrentan a nuevos vectores de ataque, como las manipulaciones a nivel ambiental que los guían hacia comportamientos no deseados.

Por otro lado, los defensores de la seguridad, algunos sugieren mecanismos de defensa como la verificación cruzada entre múltiples agentes y el entrenamiento adversarial para reforzar la capacidad de los CUAs frente a estos ataques. También se ponen en marcha medidas como la modificación de arquitecturas y la validación de entradas para prevenir actos delictivos como el web hacking o accesos no autorizados.

La implementación de marcos de regulación y guías éticas constituye otro layer fundamental para asegurar que estos agentes operen de una manera segura y responsable. Evaluaciones en tiempo real y hechas a conciencia en laboratorios experimentales están llamadas a ser la próxima frontera de análisis, aportando la información necesaria para blindar a estos sistemas frente a sus vulnerabilidades.

Si bien los CUAs tienen un potencial inigualable para optimizing la interacción con interfaces digitales, es indispensable que su seguridad y capacidad para mitigar riesgos avancen conjuntamente. Así, a medida que los desarrollos continúan, un paradigma de interoperabilidad segura y transparente se perfila como el objetivo clave para los investigadores y desarrolladores de esta creciente tecnología.