La influencia del contenido protegido por derechos de autor en los modelos de lenguaje y visión de gran escala (VLMs, por sus siglas en inglés) ha suscitado interés notable entre la comunidad investigadora. El innovador enfoque DIS-CO se presenta para detectar la inclusión de dicho contenido en el proceso de entrenamiento de los VLMs. Al consultar repetidamente a un VLM con cuadros específicos de películas protegidas por derechos, DIS-CO revela la identidad del contenido mediante completaciones de texto libre.

Este método fue evaluado a través del conjunto de datos MovieTection, que contiene 14,000 cuadros de películas. Los resultados reflejan un significativo incremento en la capacidad de detección en comparación con métodos previos: DIS-CO mejora el promedio del área bajo la curva (AUC) del mejor método anterior en modelos con distribución de probabilidad disponible. A pesar del éxito en identificar películas como “Frozen” con alta precisión, los modelos encuentran dificultades para relacionar películas más recientes con sus títulos debido a la falta de exposición en el entrenamiento.

Pese a las mejoras del enfoque DIS-CO, el estudio resalta preocupaciones más amplias, pues todos los modelos analizados parecen haber sido expuestos en cierto grado a contenido protegido, posiblemente contraviniendo estándares éticos y legales. Esta falta de transparencia en la recopilación de datos plantea desafíos en el cumplimiento con normas éticas y legales, pues sin salvaguardias estrictas, contenido propietario podría integrarse en el conocimiento de los modelos, abriendo la puerta a potenciales infracciones de propiedad intelectual y conflictos legales.

Desvelar los datos de entrenamiento es, por tanto, esencial para abordar adecuadamente los retos éticos y legales en la formación de modelos. Los avances recientes en ataques de inferencia de pertenencia sirven de herramienta para identificar si ejemplos específicos formaban parte del conjunto de entrenamiento de un modelo, aunque su adaptación a configuraciones multimodales, especialmente en VLMs, sigue siendo menos explorada, un vacío que este trabajo busca llenar.

Con estos descubrimientos, el estudio no solo expande el conocimiento científico sobre detección de memorias de entrenamiento, sino que también cataliza la discusión sobre políticas que aseguren la integridad de los desarrollos en inteligencia artificial, promoviendo modelos más transparentes y responsables. Las implicaciones de este trabajo, además, subrayan la necesidad de nuevas políticas tutoriales que equilibren la innovación tecnológica con el respeto por los derechos de autor.