La gobernanza de datos es un campo emergente que busca regular el acceso, control y uso de datos en el desarrollo de avanzada inteligencia artificial (IA). Un grupo de expertos de la Universidad de California, Cambridge y otros centros académicos propusieron un marco de políticas para enfrentar los riesgos que plantean los modelos de IA de vanguardia, especialmente en términos de seguridad y capacidad para generar daño.
Los investigadores hicieron hincapié en que los modelos avanzados de IA dependen en gran medida de datos amplios y de calidad, que a su vez son fundamentales para su entrenamiento y mejora. Sin embargo, destacaron que los datos tienen características inherentes, como la no rivalidad y la fácil replicabilidad, que dificultan su regulación. Proponen que las “tokens canario”, que actúan como pequeñas trampas, se utilicen para detectar el uso no autorizado de datos. Del mismo modo, sugieren la implementación de filtrado obligatorio de datos para mejorar la seguridad de los modelos al eliminar contenido dañino antes de su entrenamiento.
La obligación de reportes sobre el uso de datos por parte de los desarrolladores de modelos se considera crucial para la transparencia y prevenir el uso indebido de datos, observando que un sistema seguro debe tener mecanismos para auditar y verificar el origen de los conjuntos de datos usados.
La seguridad de los datos, tanto en su almacenamiento como en el transcurso de su uso, también se subrayó como esencial. Sin medidas de protección robustas, los conjuntos de datos quedan vulnerables a ataques adversarios, lo cual podría culminar en comportamientos imprevistos y potencialmente peligrosos de los modelos de IA.
Finalmente, las regulaciones conocidas como “Conozca a su cliente” se propusieron para determinar la identidad de los compradores de grandes volúmenes de datos, asegurando de esta manera que solo entidades confiables tengan acceso a contenidos delicados. Estas regulaciones paralelas a las ya establecidas en sectores financieros son vistas como fundamentales para mantener la integridad del sistema y prevenir posibles abusos.
En conclusión, al implementar estas medidas de manera coordinada, el marco propuesto no solo brinda un enfoque preventivo a la gobernanza de IA, sino que también fortifica las estructuras existentes, manteniendo así el equilibrio entre innovación y seguridad pública.