Inteligencia artificial y equidad: A medida que la inteligencia artificial (IA) se integra cada vez más en nuestras vidas, la preocupación por la equidad y la transparencia ha aumentado. Estos sistemas, utilizados en sectores críticos como las finanzas, la salud y la educación, han evidenciado sesgos significativos, como la predisposición contra ciertos grupos protegidos.

Métodos de explicabilidad y equidad: La investigación se centra en cómo las metodologías de explicabilidad pueden detectar e interpretar la desigualdad. Se ha desarrollado un esquema que integra métodos de explicación post-hoc locales para derivar conocimientos relacionados con la equidad.

Resultados y hallazgos: Durante el diseño de la tubería, se identifican cuestiones críticas derivadas del uso de explicaciones como detectores de sesgos, como la relación entre la equidad distributiva y procedimental, el efecto de eliminar el atributo protegido y la consistencia de los resultados a través de diferentes métodos de explicación.

Experimentos y conclusiones: En experimentos, se observó que cuando se eliminó el atributo protegido de un modelo, el peso de las características correlacionadas con él incrementó, indicando discriminación indirecta.

Pruebas adicionales: Se genera una matriz de correlación para entender la redistribución de contribuciones al eliminar atributos protegidos. También se compara cómo cambiar las contribuciones de características afecta métricas de equidad distributiva.

Fiabilidad y mejora: Aunque las metodologías de explicabilidad han alcanzado cierto éxito, su confiabilidad y consistencia son esenciales para garantizar evaluaciones justas.

Conclusión: Frente a resultados que destacan el potencial de las explicaciones para la detección y exploración de sesgos, se destaca la importancia de una evaluación responsable y la necesidad de atención cuidadosa a aspectos críticos del diseño de los sistemas explicativos.