La inteligencia artificial ha revolucionado el ámbito de la generación de imágenes, pero no está exenta de sesgos culturales profundamente arraigados. Un estudio reciente ha puesto de manifiesto cómo DALL-E, un modelo de última generación que combina el entendimiento visual y lingüístico, reproduce estereotipos animales al generar imágenes.
DALL-E, desarrollado por OpenAI, es conocido por su capacidad para crear imágenes visualmente coherentes a partir de descripciones textuales. Los investigadores emplearon este modelo para investigar la manifestación de estereotipos animales a través de varios atributos comúnmente asociados a diferentes especies, tales como lealtad, sabiduría, gentileza, infidelidad, travesura y violencia.
Al presentar descripciones tales como “adj animal”, DALL-E generó imágenes que reflejaban estos estereotipos. Por ejemplo, en las generaciones relacionadas con el atributo de “lealtad”, los perros fueron invariablemente seleccionados, acentuando su asociación cultural con la fidelidad. Mientras tanto, las asociaciones como “sabiduría” estaban fuertemente vinculadas a los búhos, tradición en muchas culturas occidentales. Esta alineación de estereotipos perpetúa concepciones culturales sin reflejar la diversidad comportamental de las especies.
El estudio también reveló cómo las imágenes no solo elegían ciertas especies, sino que también representaban comportamientos específicos a través de la expresión facial y los escenarios de fondo en las imágenes. Por ejemplo, los mapaches, comúnmente considerados traviesos, aparecieron frecuentemente en las descripciones correspondientes, al igual que los zorros astutos en contextos de infidelidad.
Estos hallazgos reflejan una necesidad urgente de abordar los prejuicios en los VLM. La investigación propuso un método para moderar estas asociaciones mediante cambios en las indicaciones textuales, aumentando la diversidad de las imágenes generadas. Sin embargo, la complejidad del sesgo cultural requiere de enfoques más integrales que incluyan la curaduría de datos y el ajuste fino de los modelos de inteligencia artificial.
En últimas, el estudio subraya la importancia de desarrollar modelos de IA que reflejen con precisión la variedad y riqueza de los comportamientos animales, sin reducirlos a clichés culturales. Este esfuerzo no solo mejorará la equidad de los sistemas de IA, sino que también fortalecerá la confianza del público en estas tecnologías avanzadas.