En un mundo cada vez más conectado, la proliferación de noticias falsas generadas por modelos de lenguaje de gran tamaño (LLM) plantea un desafío significativo para sistemas de recomendación de noticias. Recientemente, un estudio realizado por un equipo del Instituto de Tecnología Computacional de la Academia China de Ciencias ha alerta sobre una tendencia preocupante: el “Truth Decay” o “decadencia de la verdad”.
Este fenómeno ocurre cuando las noticias generadas por LLM comienzan a ocupar posiciones más avanzadas en las recomendaciones comparado con las noticias reales, erosionando gradualmente su ventaja en el ecosistema de noticias. En un experimento simulado, se desarrolló un dataset compuesto por alrededor de 56,000 noticias generadas, observando cómo estas interacciones afectan los sistemas de recomendación de noticias.
El principal hallazgo es que las noticias reales están siendo superadas por piezas generadas de forma automática, especialmente cuando estas se introducen en la lista de candidatos y el historial de interacción del usuario. Este desplazamiento es aún más pronunciado a medida que aumenta la proporción de noticias generadas que se infiltran en los datos de entrenamiento de los modelos, modelos que, al ser entrenados con grandes cantidades de datos falsa, tienden a sesgar sus recomendaciones.
El estudio también revela una correlación directa entre la “perplexidad” de un texto, medida que indica qué tan familiar le resulta a un modelo, y la posición que ocupa en el ranking de las recomendaciones. Los textos con una baja perplexidad, característica de las noticias generadas, tienden a ser preferidas por los modelos de recomendación.
La creciente omnipresencia de las noticias falsas generadas automáticamente plantea un riesgo para el ecosistema informativo. Es vital que se implementen contramedidas, tales como la alineación segura de los LLMs, reducción del sesgo hacia textos generados, y la implementación de evaluaciones de credibilidad en el ranking de noticias para mitigar este fenómeno de “decadencia de la verdad”.
Conclusivamente, el fenómeno de la “decadencia de la verdad” sugiere que las noticias generadas por LLM podrían, si no se controlan, llevar a una degradación de la calidad de la información consumida por usuarios, requiriendo medidas coordinadas de actores tecnológicos, mediáticos y reguladores para proteger la integridad del ecosistema de noticias.