La equidad en la inteligencia artificial es un tema complejo y multifacético que ha suscitado un profundo debate en la comunidad científica. Este debate no solo abarca la matemática detrás de las definiciones de equidad, sino también su contextualización ética y social. La búsqueda de una definición universal de equidad en los sistemas de IA resulta ser una tarea monumental, dado que cada escenario puede requerir una aproximación distinta.
Muchos estudios han intentado abordar esta cuestión desde un ángulo matemático, enfocándose en métricas que comparan resultados de clasificación entre grupos. Sin embargo, es evidente que decidir qué métrica usar depende del contexto, y por tanto, exige una adaptación constante.
Autores como Kessia Nepomuceno y Fabio Petrillo, inspirados por teorías filosóficas de Rawls y Dworkin, proponen una visión que acepta el sesgo intencionado y consciente del contexto como un camino para conseguir la verdadera igualdad de oportunidades. Este enfoque aboga por una equidad que no solo aspire a la neutralidad, sino que busque activamente la justicia social reconociendo los sesgos preexistentes en la sociedad.
Implementar una equidad consciente del contexto requiere identificar inicialmente sistemas injustos para luego aplicar sesgos correctivos. Esto no se trata de un proceso que busque la neutralidad pura, sino de uno que sepa cuándo aplicar medidas desiguales para equilibrar las desigualdades históricas. A través de medidas puntuales, como acciones afirmativas, se pretende redirigir los sistemas de IA hacia un camino más equitativo.
Sin embargo, este enfoque no está exento de críticas. Al redirigir los sesgos preexistentes, algunos argumentan que se corre el riesgo de generar una “discriminación inversa”. Los autores responden que, sin intervenciones deliberadas, los algoritmos tienden a heredar y amplificar sesgos históricos, por lo que se necesita un contrapeso consciente para fomentar resultados más equitativos.
En resumen, el artículo destaca que la equidad no debe ser vista únicamente como un ejercicio estadístico, sino como un reto ético que exige una visión más amplia. Al reconocer las diferencias entre grupos y esforzarse por nivelar el campo de juego, se puede mover la aguja hacia una justicia social más sesgada al progreso inclusivo. Se anticipa que futuras investigaciones seguirán explorando cómo conciliar la precisión matemática con los objetivos sociales de justicia, asegurando que los sistemas de IA beneficien equitativamente a cada segmento de la sociedad.