La inteligencia artificial (IA) y el aprendizaje automático (ML) tienen un enorme potencial para revolucionar los sistemas de salud, mejorando la precisión de los diagnósticos y la eficiencia en la atención al paciente. Sin embargo, la integración de estas tecnologías conlleva riesgos significativos en cuanto a la seguridad y la privacidad. Un estudio reciente, que evaluó más de 3,000 artículos en el área médica, ha revelado preocupaciones clave sobre la vulnerabilidad de estos sistemas ante ciberataques.

Entre las amenazas más destacadas se encuentran los ataques de evasión, donde los sistemas de diagnóstico impulsados por IA han demostrado sucumbir ante perturbaciones adversariales, alterando la precisión de los resultados de manera deliberada. Simultáneamente, se han identificado vulnerabilidades en modelos de aprendizaje federado, usadas en la clasificación de señales ECG, que pueden ser objeto de ataques de puerta trasera. Estos ataques permiten la manipulación insidiosa del comportamiento del modelo sin la necesidad de comprometer masivamente los datos del entrenamiento.

El estudio subraya que las investigaciones actuales dan prioridad a ciertas amenazas, dejando otras áreas subexploradas. Por ejemplo, mientras que el 41% de las investigaciones en IA para salud se centran en tareas diagnósticas relacionadas con imágenes, menos del 2% abordan temas tan cruciales como la predicción del riesgo de enfermedades.

Además, los investigadores han encontrado que existe un gran potencial en el empleo de IA generativa en el campo de la salud, pero con ello vienen también nuevos riesgos de seguridad aún desatendidos por la comunidad de seguridad.

A medida que el mercado global de IA en salud se proyecta alcanzar los 188 mil millones de dólares, un preocupante 44% de las personas admite sentir apertura hacia el uso de IA en su atención médica, alertando sobre la necesidad urgente de sincronizar la seguridad y la privacidad con el avance de la tecnología.

En conclusión, para garantizar una adopción segura y eficiente de la IA en el sector sanitario, es necesario intensificar la investigación en seguridad y privacidad que cubra todas las aplicaciones de la IA en este campo. De esta manera, se podría estimular un despliegue seguro y efectivo de una tecnología que promete redefinir la administración y el tratamiento de la salud a nivel mundial.