Una investigación reciente ha arrojado luz sobre la vulnerabilidad de los sistemas avanzados de asistencia al conductor (ADAS) frente a ataques en sus percepciones, particularmente usando parches adversarios, que son ingeniosas alteraciones del entorno físico para desorientar a los sistemas tecnológicos de asistencia a la conducción. Esta investigación ha puesto a prueba la resiliencia de OpenPilot, un software comercial de código abierto ampliamente utilizado, que imita estos ataques dentro de un entorno simulado.
Los ataques suelen centrarse en desviar las funciones Automáticas de Regulación de Velocidad (ACC) y de Mantenimiento Automático de Carril (ALC) del vehículo. Se logró, mediante simulaciones, demostrar que estos ataques pueden hacer que un vehículo no detecte a un coche que tenga ligeramente proyectados estos parches. Por instance, cuando el vehículo líder lleva un parche en su parte trasera o incluso si estos parches están situados en el pavimento delante del coche que lleva el ADAS. Esta desorientación del sistema, que debería ser autónomo, puede provocar frenadas agresivas y una mala calibración del carril, contribuyendo así a posibles accidentes.
Para mitigar estos riesgos, la intervención rápida del conductor humano resulta crucial, ya que, sorprendentemente, la intervención humana resultó ser incluso más eficaz que algunos métodos automatizados basados en aprendizaje de máquina (ML) que, sin embargo, no lograron el nivel óptimo de mitigación esperado. Asimismo, mecanismos más avanzados, como el de Frenado Autónomo de Emergencia (AEB), pueden evitar los accidentes detectando obstáculos y preservando la distancia segura. Sin embargo, este sistema necesita estar alimentado por datos independientes para ser verdaderamente eficaz, ya que puede verse limitado si depende de los sensores comprometidos.
Los estudios sugieren que un conductor alerta siempre será capaz de intervenir a tiempo, especialmente en situaciones dinámicas que involucran la combinación de estos ataques tanto en la percepción de distancia como en la dirección del vehículo.
Este trabajo destaca la urgencia de revisar y mejorar los sistemas ADAS en vehículos modernos, especialmente, considerando la tendencia hacia una conducción cada vez más autónoma e interconectada. Sin estos ajustes y mejoras tecnológicas, los vehículos corren riesgos considerables, no solo comprometiendo la seguridad del sistema, sino también la seguridad de los ocupantes y del entorno donde se desenvuelven.
En conclusión, se debe urgir a los desarrolladores y fabricantes a implementar procedimientos de seguridad más robustos y a considerar la intervención humana activa como una parte esencial para garantizar la seguridad vial. Desarrollar sistemas que puedan distinguir entre entornos normales y aquellos afectados por parches adversarios debería ser una prioridad para avanzar hacia vehículos realmente autónomos y seguros en el futuro.