El estudio de la Universidad Imam Abdulrahman Bin Faisal y de la Universidad de Texas en San Antonio explora la imparcialidad de los modelos de predicción de precios de viviendas impulsados por machine learning (ML). Se centra particularmente en las posibles desigualdades raciales y étnicas que podrían surgir de estas herramientas digitales al momento de pronosticar los precios de las casas en San Antonio, Texas.
El problema crucial que los investigadores abordan es el sesgo presente en algunos modelos de predicción ML hacia ciertos grupos protegidos, como lo son minorías raciales y étnicas. Se estudió una base de datos de 232,057 viviendas en San Antonio para evaluar si los modelos existentes generan estimaciones sesgadas dependiendo de la raza o etnicidad dominante en los vecindarios. La investigación indica que, aunque no hay un sesgo manifiesto en las etiquetas reales de los datos, las predicciones generadas por los modelos sí mostraron variaciones en la precisión y en el sesgo asociado a los atributos protegidos.
El equipo evaluó varios modelos de predicción ML, incluidos XGBoost y Random Forest, y constató que estos modelos exhiben niveles variables de sesgo significativo cuando se consideran tanto la raza como la etnicidad. Posteriormente, se aplicaron algoritmos de mitigación del sesgo, como el ‘Correlation Remover’ y un algoritmo basado en reducción, para evaluar su efectividad en la corrección de disparidades. Se encontró que, en términos generales, el algoritmo de reducción resultó ser más eficaz que las técnicas de preprocesamiento al reducir las disparidades en las predicciones.
Los resultados evidencian cómo estas técnicas de mitigación pueden suavizar, pero no eliminar, el sesgo en los resultados de ML, mejorando potencialmente la equidad en la evaluación de precios. Sin embargo, algunos modelos siguieron mostrando sesgos notables incluso después de aplicar estos ajustes, especialmente en contextos multiétnicos.
El caso de estudio también destaca las repercusiones reales que pueden tener estos sesgos implícitos; los compradores y vendedores de casas en barrios desfavorecidos podrían estar recibiendo evaluaciones inexactamente bajas que limitan la capacidad de obtener precios justos en transacciones comerciales. Además, las decisiones de políticas públicas podrían verse afectadas por predicciones sesgadas, perpetuando desigualdades en el acceso a vivienda digna.
Concluiré afirmando que estudios como estos son cruciales para abordar sesgos insidiosos en los modelos de machine learning. Promover la equidad en las predicciones puede tener un impacto positivo significativo en mercados inmobiliarios globales, apoyando la creación de políticas más justas y dándole a las comunidades desatendidas mejores oportunidades de desarrollo a largo plazo.