La creciente influencia de los sistemas de inteligencia artificial (IA) en control y mediación social no solo optimiza las funciones, sino también refuerza estructuras autoritarias preexistentes. Esto se ejemplifica a través de su aplicación en la educación, el ámbito militar y el discurso digital. Desde la autoencaminada vigilancia en las aulas hasta el uso en la selección de objetivos en el campo de batalla, la IA redefine lo que significa juzgar y actuar éticamente, abstrayendo la responsabilidad moral de sus decisiones.

Un análisis crítico revela cómo la IA en la educación, por ejemplo, utiliza modelos generativos que, a pesar de buscar asegurar la integridad académica, podrían predisponer al sesgo racial y de género. Estas tecnologías privilegian la observación sobre la instrucción y tratamiento equitativo, invisibilizando la singularidad de cada estudiante. En el contexto militar, la IA se convierte en un agente de automatización de violencia, minimizando la intervención humana y con ello trasladando, casi completamente, la carga ética de la toma de decisiones a un algoritmo.

Los algoritmos de curación de contenido en plataformas digitales como YouTube o Facebook, moldean el consumo de información al priorizar la interacción sobre la veracidad. Esta lógica de interacción potencializa la polarización de las opiniones y normaliza el uso del sesgo para mantener alta la conectividad emocional del usuario con el contenido. Los críticos argumentan que esta forma de curación compromete la integridad del discurso y refuerza la autoridad normativa.

En conjunto, estos sistemas de IA crean bucles recursivos donde las predicciones alimentan comportamientos que a su vez generan nuevos datos para entrenar los modelos. Así, no solo se automatizan las tareas, sino que se perpetúan asimetrías de poder existentes bajo la percepción de neutralidad tecnológica. Sin instancias reales para la rendición de cuentas, esta fachada de transparencia amenaza la supervisión democrática efectiva.

La conclusión es clara: adoptar la IA sin cuestionar su diseño y propósito ético transforma la maquinaria digital en un agente de control normativo. Los nuevos horizontes de gobernabilidad democrática deberían priorizar interrogatorios a estas estructuras, repasando sus implicaciones sociales y políticas, y reclamando un enfoque relacional que realice un balance entre eficiencia y equidad.