Los avances en modelos de razonamiento multi-modal de gran alcance, como el ChatGPT o3, han despertado preocupaciones significativas respecto a la filtración de información privada. El estudio más reciente analiza cómo estas capacidades en el análisis de imágenes pueden predeterminar ubicaciones con una precisión notable, revelando direcciones residenciales y patrones diarios de actividad que podrían exponerse sin intención del usuario.

El equipo de investigación de la Universidad de Georgia, la Universidad de Wisconsin-Madison y la Universidad de California del Sur ha llevado a cabo el primer estudio sistemático y controlado en torno a los riesgos potenciales asociados con las habilidades de razonamiento visual del modelo ChatGPT o3. Se construyó un conjunto de datos de 50 imágenes reales, que representan situaciones sensibles desde el punto de vista de la privacidad, para este análisis meticuloso.

Los resultados son alarmantes: el modelo predice ubicaciones a nivel de calle con una precisión del 60%, aprovechando pistas visuales clave como el diseño de las calles y los elementos decorativos de los frontones residenciales. Además, los experimentos de oclusión dirigidos demostraron que al enmascarar características críticas, se reduce significativamente la precisión de la precisión de la geolocalización, lo que proporciona información valiosa para posibles mecanismos de defensa.

A través de pruebas cuidadosamente estructuradas, se recogieron imágenes de lugares tanto emblemáticos, como Hocking Hills en Ohio, como vistas residenciales más comunes. Estas imágenes demuestran la capacidad del ChatGPT o3 para efectuar inferencias precisas basadas en la observación de aspectos sutiles de las estructuras y la disposición geográfica que no son conscientes para los observadores no expertos.

Se concluye que es crucial el desarrollo de modelos de razonamiento multi-modal que sean más respetuosos con la privacidad, especialmente en aplicaciones que involucran imágenes privadas. A medida que estas tecnologías avanzan, la necesidad de mitigar riesgos potenciales de privacidad es más urgente que nunca. Además, implementar métodos de oclusión en aspectos visuales clave podría ser una defensa efectiva para proteger la privacidad de los usuarios.

La rápida capacidad de estos modelos para interpretar y ubicar imágenes cotidianas destaca la necesidad de implementar estrategias de obfuscación visual dirigidas para controlar el riesgo de filtraciones de ubicación en el futuro. La investigación señala la importancia de abordar estas vulnerabilidades para salvaguardar la información personal en la era digital.