La moderación de contenido en plataformas digitales ha sido un constante desafío. Tradicionalmente, los modelos de lenguaje de gran tamaño (LLM) se han utilizado para mejorar la precisión en la detección y clasificación de contenido. No obstante, Tao Huang, de la City University de Hong Kong, sugiere que esta medida de precisión no es suficiente por sí sola. Se necesita un cambio de paradigma hacia un marco basado en legitimidad para evaluar el rendimiento de los moderadores.
El artículo en cuestión detalla cómo la moderación de contenido se sitúa en la gobernanza de las plataformas, más allá de simplemente aplicar reglas. Lograr la legitimidad en este ámbito abarca tanto decisiones precisas y rápidas para casos simples, como explicaciones razonadas y participación del usuario para casos complejos. Huang enfatiza que los modelos LLM no deben centrarse exclusivamente en mejorar la precisión. Su labor clave es diferenciar entre casos fáciles y difíciles, proporcionar explicaciones de calidad para decisiones de moderación, asistir a revisores humanos en adquirir más contexto, y facilitar la participación del usuario de manera interactiva.
La propuesta concreta del artículo introduce una estructura para integrar LLMs en el sistema de moderación de contenido. Este marco utiliza teorías normativas del derecho y las ciencias sociales para criticar y redefinir el papel de los LLMs, no hacia una mejora de la precisión, sino hacia una gobernanza más legítima.
El enfoque hacia la legitimidad permite examinar cómo los modelos LLM pueden pre-filtrar contenido, ayudar en tareas complejas, y proporcionar un conocimiento contextual mayor para las decisiones humanas. Su capacidad para generar explicaciones convincentes y facilitar la participación del usuario en debates sobre decisiones controversiales se destaca como su verdadera fortaleza.
Conclusivamente, la propuesta busca reorientar las investigaciones y prácticas en torno a la moderación de contenido, argumentando que el verdadero potencial de los LLMs radica en enriquecer la legitimidad de la gobernanza de plataforma, más que en un simple incremento de precisión. El cambio de enfoque de precisión hacia legitimidad ofrece un cuadro más completo de dónde y cómo los LLMs pueden tener un impacto significante en la moderación de contenido y la gobernanza de las plataformas digitales.