La conferencia EuroVis 2025 ha sido escenario de un revelador estudio sobre los sesgos en modelos de generación de texto a imagen. Los investigadores, liderados por Johannes Eschner y su equipo, introdujeron el Visual Bias Explorer (ViBEx), una herramienta destinada a facilitar la exploración y descubrimiento de sesgos visuales en estos sistemas.

Los modelos de generación de texto a imagen, conocidos por amplificar estereotipos demográficos y perpetuar sesgos sociales, han sido objeto de escrutinio en el evento. ViBEx se destaca por su innovadora interfaz de árbol de solicitud, que permite a los usuarios explorar dinámicamente el espacio de salida de modelos generativos. Usando el modelo multimodal CLIP, ViBEx posibilita una investigación rápida y aproximada de sesgos sin necesidad de entrenamiento previo.

El ViBEx es independiente del modelo, lo que permite su aplicación en múltiples arquitecturas generativas. Además, el sistema es de acceso público, promoviendo la transparencia en la identificación de sesgos que afectan representaciones sociales críticas como género, etnicidad y ocupaciones. En una serie de entrevistas y estudios de caso, expertos en inteligencia artificial y ética identificaron sesgos hasta ahora desconocidos.

El empleo de grupos de datos curados como FairFace y COCO evidencia cómo los sesgos potencialmente no descubiertos se relacionan con conceptos sociales, lo que plantea la necesidad de examinar bajo la supervisión humana qué constituyen los sesgos en diversos contextos socioculturales. ViBEx no solo ilumina la distribución desigual de entidades representadas sino que demuestra cómo modelos generativos pueden subrepresentar identidades marginadas, una tendencia confirmada por comparaciones con estadísticas laborales de EE.UU.

ViBEx fomenta la confianza y flexibilidad en el análisis gracias a distribuciones y visualizaciones de corte cruzado de datos. A través de ejemplos prácticos, la herramienta ha demostrado la eficacia en áreas de sesgo de género, edad y estereotipos raciales. Esto posiciona al ViBEx como un referente en la necesidad de avanzar hacia modelos de inteligencia artificial más justos y equilibrados.