En un reciente estudio dirigido por Federico Maria Cau y Lucio Davide, se investigó cómo la inteligencia artificial explica sus decisiones y cómo ello impacta en la toma de decisiones de los usuarios. El foco estuvo en estilos diferentes de explicaciones y la influencia que tienen en usuarios con distintos niveles del rasgo de personalidad llamado Necesidad de Cognición (NFC).
El análisis se centró en un escenario de aprobación de préstamos, donde los participantes interactuaban con una interfaz asistida por IA, decidían sobre la concesión de préstamos basándose en distintas ayudas de IA que incluían predicción, confianza, precisión y diferentes estilos de explicaciones. Resultó evidente que la confianza alta en la IA incrementa la dependencia de las decisiones de IA y disminuye la carga cognitiva en los usuarios, aunque reconocieron que no todas las explicaciones ofrecidas eran igualmente efectivas o comprensibles.
Interesantemente, aunque las explicaciones contrafactuales fueron percibidas como menos comprensibles, mejoraron la precisión general de las decisiones, incrementaron la confianza y redujeron la carga cognitiva cuando las predicciones de la IA fueron correctas. En contraste, las explicaciones basadas en características no lograron mejorar la precisión, desafiando ideas previas sobre su utilidad directa.
Al profundizar en los rasgos de personalidad, no se observaron diferencias significativas entre usuarios con niveles de NFC altos o bajos en términos de precisión o carga cognitiva. Sin embargo, los individuos con baja NFC prefirieron basar sus decisiones más en la predicción de la IA que en su precisión o explicaciones, mientras que aquellos con alta NFC examinaron más la información explicativa.
El estudio subraya la necesidad de diseño personalizado en interfaces de IA explicativa, sugiriendo incorporar una combinación de diferentes estilos de explicación para potenciar una colaboración efectiva entre humanos y máquinas. Concluye haciendo un llamado a investigar más allá de los simples rasgos de personalidad, explorando características del usuario más profundas para mejorar las interacciones humano-IA.