Los avances en los Modelos de Lenguaje de Gran Escala (LLMs) han facilitado de manera notable la producción de textos generados por inteligencia artificial (AIGTs) en diversas plataformas de redes sociales, tales como Medium, Quora y Reddit. Este fenómeno ha tomado importancia debido a su potencial para influir en la opinión pública a través de información eventualmente inexacta o manipulada.
Con el propósito de cuantificar y monitorear la presencia de estos textos generados por IA, se llevó a cabo un estudio abarcando 2.4 millones de publicaciones de estas plataformas. Usando un conjunto de datos conocido como SM-D, se recopilaron respuestas y comentarios relevantes para la creación de un conjunto de entrenamiento llamado AIGTBench. Este último, integrado por textos generados por 12 modelos de lenguaje de gran escala, se utilizó para identificar el detector más eficiente ante este tipo de contenido, denominado OSM-Det.
Desde el lanzamiento de modelos como GPT-3.5, Medium y Quora han experimentado un notable aumento en la tasa de atribución de AI (AAR), incrementándose desde menos del 2% hasta niveles superiores al 30%. En contraste, Reddit vio un incremento más tenue, partiendo de un 1.3% y alcanzando apenas el 2.45%. Esto resalta cómo la adopción de modelos de lenguaje varía significativamente según la plataforma y su tipo de usuario.
Un análisis detallado reveló que los textos generados por IA tienden a exhibir patrones lingüísticos diferentes a aquellos escritos por humanos, especialmente en su estructura y temáticas tratadas. Además, resulta notable que los textos humanos reciben más “Me gusta” y comentarios, lo que sugiere una inclinación de los usuarios hacia contenidos de origen humano en plataformas como Medium.
Finalmente, en una reflexión sobre la evolución de los contenidos generados por IA en redes sociales, resulta crucial que tanto los investigadores como los desarrolladores continúen perfeccionando herramientas de detección y que los usuarios mantengan un enfoque crítico y juicioso al consumir contenidos digitales. Es esencial una transición hacia un uso responsable y transparente de la inteligencia artificial en la generación de contenidos para evitar la posible manipulación de información.