El uso de modelos de lenguaje de inteligencia artificial (LLM) está revolucionando la investigación médica y la práctica clínica, aunque no sin enfrentar desafíos significativos. Un estudio reciente analiza el impacto de NotebookLM, una herramienta basada en LLM de Google, que promete innovaciones en la educación médica y la atención al paciente. Sin embargo, los investigadores han identificado importantes riesgos éticos, clínicos y tecnológicos que deben considerarse antes de su implementación.
NotebookLM, diseñada para sintetizar rápidamente información médica y generar contenido educativo, ha mostrado fallos en la precisión de sus respuestas. En pruebas realizadas, la herramienta recomendó a los médicos dar consejos absurdos, como recomendar a los pacientes que coman piedras. Además, ha habido casos donde hizo cálculos erróneos, como afirmar que 2 + 2 es igual a 5.
Los riesgos relacionados con la educación médica no se limitan a simples errores. Cuando se utilizó NotebookLM para generar resúmenes de documentos sobre trastornos de la voz pediátricos, la herramienta no pudo identificar inconsistencias entre los documentos y citas repetidamente información de una única fuente. La inexactitud de estas respuestas podría llevar a consecuencias graves en la práctica clínica.
Otro problema relevante es la protección de los datos del paciente. Dado que NotebookLM no cumple completamente con regulaciones de privacidad, los datos subidos por los usuarios podrían ser expuestos o empleados para entrenar al modelo sin el consentimiento adecuado. Las implicaciones de privacidad son una preocupación destacada para médicos y pacientes, sugiriendo la necesidad de un desarrollo responsable de estas herramientas.
Por otro lado, la capacidad de NotebookLM para generar podcasts educativos a partir de documentos subidos podría transformar la forma en que los profesionales de la salud manejan sus tareas educativas. Sin embargo, esta característica también enfrenta problemas, ya que sus resúmenes pueden sobre simplificar o incluso malinterpretar la información, potencialmente desinformando tanto a pacientes como a profesionales.
Los estudios sugieren que el uso multitarea, como escuchar podcasts mientras se realizan otros trabajos, podría perjudicar el aprendizaje implícito y la ejecución de tareas diarias. Esto plantea preguntas sobre la efectividad de la educación multimedia en entornos médicos.
En última instancia, aunque NotebookLM presenta un potencial innovador para mejorar la educación médica y la investigación, carece de la precisión y fiabilidad necesaria para su aplicación clínica segura por el momento. Sus limitaciones actuales podrían comprometer los resultados de los tratamientos y la privacidad de los pacientes, subrayando la importancia del desarrollo continuo y controlado de estas tecnologías.