La robótica en el ámbito de la manipulación responsable está tomando protagonismo frente a los desafíos inherentes de asegurar la seguridad en entornos reales. Recientemente, investigadores han destacado que incluso las instrucciones humanas más cotidianas pueden poner en riesgo la seguridad cuando se ejecutan de manera irracional por los robots. Situaciones como verter agua cerca de aparatos eléctricos o encender velas cerca de materiales inflamables representan una amenaza significativa si un robot sigue las instrucciones humanas sin evaluación previa del entorno.

Con el fin de mitigar estos riesgos, se desarrolló el concepto de “Seguridad como política”, un enfoque que prioriza el reconocimiento de posibles peligros antes de la ejecución de una tarea. Este sistema no solo simula escenarios peligrosos para desempeñar interacciones virtuales seguras, sino que además integra un modelo mental que prevé las consecuencias potenciales, adaptándose progresivamente a entornos de riesgo y asegurando que los robots completen sus tareas evitando riesgos.

Para facilitar este aprendizaje seguro y responsable, se creó el dataset sintético SafeBox, que contiene un centenar de tareas de manipulación robótica responsables bajo diversos escenarios de riesgo, proporcionando un valioso banco de pruebas para futuras investigaciones en este campo. Las pruebas realizadas con este dataset han demostrado que la “Seguridad como política” tiene una notable capacidad para detectar y evitar riesgos, superando a los métodos tradicionales en tasa de éxito y seguridad.

En contextos reales, los movimientos robóticos tienen que ser planificados con esmero. Por ejemplo, al enfrentarse a la tarea de verter agua, el sistema primero garantiza que el área no contenga componentes eléctricos antes de proceder. En escenarios donde el riesgo persiste, como al manipular sustancias químicas o elementos cortantes, el sistema es capaz de solicitar ayuda humana para prevenir incidentes.

El potencial de estos modelos multimodales grandes (LMM, por sus siglas en inglés) para mejorar la seguridad robótica subraya la importancia de la integración de políticas de seguridad en la inteligencia artificial aplicada a la robótica.

En conclusión, el avance hacia una manipulación robótica responsable es significativo. Sin embargo, aunque los sistemas actuales han demostrado ser eficaces en entornos controlados, el reto permanece en adaptarlos dinámicamente a la complejidad y variabilidad del mundo real, sin comprometer la seguridad de los humanos ni de las infraestructuras.