La creciente integración de sistemas de inteligencia artificial (IA) en la administración pública está marcando una nueva era en la eficiencia gubernamental, sin embargo, también está despertando serias inquietudes en cuanto a la equidad y control democrático. Un estudio reciente ha revelado que, pese a los beneficios inmediatos en la eficiencia de los trámites gubernamentales, la percepción de control por parte de los ciudadanos sobre las decisiones democráticas disminuye notablemente una vez se introducen tales sistemas automatizados.

Investigadores han aplicado el marco del “Teoría del Principal-Agente” para evaluar los retos que supone delegar tareas gubernamentales a sistemas de IA en tres principales dominios: administración tributaria, beneficios de bienestar social y evaluaciones de riesgo para decisiones de fianza.

Los resultados del estudio señalan que aunque el uso de IA inicialmente mejora la confianza en el Gobierno gracias a los avances en eficiencia, disminuye simultáneamente el sentido de control percibido por los ciudadanos. Esto sugiere una paradoja de “fracaso por éxito”, donde los beneficios iniciales obscurecen riesgos democráticos a largo plazo, tales como la falta de contestabilidad y transparencia en la toma de decisiones automatizadas.

Uno de los puntos críticos identificados es la “evaluabilidad”, donde la opacidad de los algoritmos de IA limita la capacidad de los ciudadanos para entender y cuestionar las decisiones automatizadas. Además, la creación de “dependencias” en IA reduce la capacidad institucional para revertir decisiones automatizadas, incluso si estas resultan ser perjudiciales o erróneas.

Este fenómeno se acentúa con la “contestabilidad” limitada, dado que la carencia de claros mecanismos de revisión hace más difícil impugnar decisiones automáticas injustas. Bajo estas circunstancias, es lógico que los ciudadanos muestren reticencia a ampliar el uso de la IA en procesos gubernamentales.

La investigación alerta sobre la importancia de hacer más accesibles las decisiones de la IA y mejorar los canales de apelación, para evitar una erosión significativa en la confianza institucional. En definitiva, revela la necesidad de políticas que equilibren los beneficios operativos de la IA con una gestión transparente y responsable del poder automatizado.

En conclusión, mientras la inteligencia artificial promete modernizar y mejorar notablemente la administración pública, su implementación debe manejarse con cuidado para no comprometer los fundamentos democráticos. A medida que los gobiernos adoptan más tecnologías de IA, el diálogo abierto y transparente con el público será clave para mitigar la sensación de pérdida de control y asegurar la sostenibilidad democrática a largo plazo.