La utilización del Procesamiento de Lenguaje Natural (NLP) en el ámbito médico ha revelado grandes capacidades, así como notables desafíos, para mitigar la información médicamente inexacta. En un reciente análisis abarcador, llevado bajo las guías PRISMA, se exploraron las técnicas aplicadas a errores, desinformación y alucinaciones generadas por modelos de lenguaje. Estas son inexactitudes que pueden surgir tanto accidentalmente como ser creadas de manera intencional, con potenciales impactos negativos significativos para la seguridad de los pacientes y la confianza pública en el sistema de salud.
Los errores a menudo permanecen confinados a documentos médicos como registros electrónicos de salud, mientras que la desinformación se difunde ampliamente, incluyendo posts en redes sociales relacionados con crisis de salud como el COVID-19. Por su parte, las alucinaciones están asociadas a la generación de contenido plausible pero incorrecto por parte de modelos de lenguaje, afectando la exactitud diagnóstica y la educación del paciente.
Entre las tareas llevadas a cabo por NLP se destacan la detección y corrección de errores, así como la identificación y rectificación de desinformación. Sin embargo, persisten desafíos relacionados con la privacidad de los datos, la dependencia del contexto y los estándares de evaluación. Se subraya la necesidad de crear conjuntos de datos en el mundo real y refinar métodos contextuales para gestionar las alucinaciones, garantizando así aplicaciones de salud confiables y transparentes.
Diversas técnicas como el uso de modelos transformer y la integración de conocimiento de dominios específicos han representado avances significativos en la detección de errores y desinformación. Asimismo, la creación de métodos para detectar alucinaciones y sistemas de evaluación estandarizados suponen una ayuda para medir la exactitud fáctica de los modelos.
Los hallazgos de este estudio podrían beneficiar a científicos informáticos, profesionales de la salud, periodistas médicos y formuladores de políticas en sus respectivos campos, promoviendo un enfoque conjunto para combatir la información médicamente inexacta. Se concluye que, a pesar del progreso, todavía queda mucho por hacer para establecer sistemas de información de salud confiables, apoyados por una colaboración estrecha entre expertos técnicos y clínicos para optimizar el uso de NLP en mejorar la comunicación y la seguridad en salud pública.