En un esfuerzo innovador por mejorar la comunicación en línea, investigadores de la Universidad de Maryland han explorado de manera sistemática el uso de emojis en la moderación de contenido ofensivo en plataformas como Twitter. Los resultados revelan que, aunque pocas veces son ofensivos por sí mismos, los emojis pueden intensificar mensajes problemáticos cuando se combinan con sarcasmo, asociaciones simbólicas o contextos inapropiados.
Los emojis ofrecen una rica semántica visual que supera a menudo la complejidad del lenguaje textual convencional, funcionando como poderosos indicadores de ofensa en la comunicación digital. Investigadores han categorizado emojis en roles distinguidos: algunos intensifican la ofensa mediante el sarcasmo, otros mitigan el impacto al suavizar el tono, mientras que otros son simplemente irrelevantes en el contexto del mensaje ofensivo.
Para atajar esta problemática, se ha propuesto una solución basada en modelos de lenguaje grandes (LLMs), que modera de manera proactiva el uso de emojis en mensajes ofensivos. La estrategia consiste en un método de varios pasos que detecta y sugiere alternativas a los emojis problemáticos, preservando al mismo tiempo el significado semántico del mensaje original.
Mediante evaluaciones humanas del pipeline propuesto, se observó una notable reducción de la percepción de ofensividad sin perder el significado original del mensaje. Las pruebas revelaron también que, al eliminar emojis que dehumanizan o intensifican el contenido sexual explícito, se logra significativamente moderar el tono ofensivo en canales de alta sensibilidad cultural como los medios sociales.
Concreta el estudio en cómo moderadores y desarrolladores de plataformas pueden integrar estas soluciones no textuales para regenerar el discurso digital y ofrecer espacios de comunicación más seguros. La capacidad de estas tecnologías para mantener la riqueza de la comunicación mientras atenúan el contenido potencialmente dañino subraya la importancia de la intuitiva moderación emocional y simbólica en las plataformas sociales modernas.