La relación entre el sesgo de género en las decisiones humanas y las recomendaciones de la IA es más crucial de lo que se pensaba previamente, según un estudio reciente. Esta correlación no solo afecta la percepción de justicia, sino que también impacta en la prevalencia de rechazar o aceptar las conclusiones sugeridas por la IA.

El trabajo, liderado por un grupo de investigadores en Alemania, detalla que cuando los sesgos de género entre humanos y sistemas de IA están alineados, la percepción de la IA como “justa” es más fuerte. Esta alineación se traduce en una menor tendencia de los participantes a rebatir las recomendaciones hechas por la IA, en especial cuando estas recomendaciones tratan de decisiones de alto riesgo, como la elegibilidad para crédito o el riesgo de reincidencia criminal.

El estudio muestra que, en dos experimentos separados que involucraban tareas de clasificación binaria, los participantes de los grupos sometidos a IA con sesgo de género mostraron una mayor propensión a considerar las decisiones de IA como justas cuando había una congruencia con sus propios prejuicios preexistentes de género.

Uno de los experimentos analizó el comportamiento de humanos jugando el papel de responsables de aprobar créditos, mientras que otro se centró en decisiones sobre probabilidad de reincidencia de reos. En ambos casos, se evidenció que había una clara correlación entre la percepción de equidad y la alineación del sesgo de género.

El estudio pone en tela de juicio la efectividad de las técnicas de mejora de la equidad actuales y recalca la importancia de considerar las características humanas inherentes cuando se diseñan o implementan sistemas de IA colaborativa. Según los hallazgos, no basta con crear un sistema “formalmente justo”. Existe un desafío adicional en lograr que las recomendaciones tengan un impacto efectivo, ya que las personas son propensas a rechazar recomendaciones que no resuenen con sus creencias y prejuicios preexistentes, incluso frente a sistemas diseñados para ser equilibrados.

Esto plantea preguntas sobre cómo las iniciativas normativas, como las de la Unión Europea, ponen un fuerte énfasis en la supervisión humana en los sistemas de alto riesgo. Mientras se implementan estos sistemas, es crucial reconocer que la percepción de los humanos sobre la equidad afecta tanto la aceptación de las recomendaciones de IA como el resultado final de las decisiones.

Para avanzar, los investigadores sugieren diseñar sistemas que no solo sean justos por definición, sino que también faciliten una percepción de equidad desde la perspectiva de los usuarios. Esto podría incluir desde técnicas de entrenamiento hasta interfaces que presenten la información de manera que resuene con las intuiciones humanas, balanceando la equidad formal con la psicológica.

En conclusión, el estudio subraya que la eficacia de los sistemas de IA no solo depende de sus arquitecturas de decisión interna, sino de cómo estos interactúan con los sesgos intrínsecos humanos. Lograr una integración armónica podría ser clave para mejorar la colaboración humano-IA en campos donde las decisiones son críticas, como la banca y la justicia penal.