En un contexto global donde la soledad se perfila como una crisis de salud pública, una reciente investigación ha analizado el potencial de los modelos de lenguaje extenso (LLMs) para abordar esta problemática. La Universidad de York, en colaboración con Microsoft, ha explorado el rol de servicios como ChatGPT en la mitigación de la soledad, mediante el análisis de casi 80,000 conversaciones anónimas.
La soledad, un fenómeno subjetivo pero devastador, ha visto un incremento notorio en las últimas décadas. Encuestas recientes revelaron que en países como Estados Unidos y el Reino Unido, el 20% de los adultos se sienten solos frecuentemente, y este porcentaje ha incrementado al 31% post-pandemia. La investigación se centra en entender cómo los usuarios interactúan con servicios de LLM, y examina si estos encuentros pueden resultar beneficiosos o perjudiciales según el contexto específico del usuario.
Los usuarios solitarios en las conversaciones analizadas buscaban consejo (37%) u oyentes atentos, manteniendo interacciones más largas que el promedio (12 versus 5 turnos). Entre los temas abordados, se destacaron problemas de relaciones personales y búsquedas de compañía con alta receptividad por parte de los modelos, brindando respuestas empáticas en temas sensibles, pero no siempre adecuadas a nivel pragmático, especialmente en diálogos inherentes a salud mental crítica.
Sin embargo, los investigadores encontraron que en situaciones que requerían intervención profesional, como ideaciones suicidas, las respuestas resultaron insuficientes. En solo una ocasión se proporcionó un contacto directo hacia servicios de emergencia, un elemento esencial todavía por integrar adecuadamente en estos sistemas automatizados.
Respecto a la toxicidad detectada, las interacciones etiquetadas como solitarias evidenciaron un aumento significativo en contenido dañino y sexual, en un 55% de los casos, particularmente dirigido a mujeres y menores.
Las conclusiones resaltan la necesidad urgente de desarrollar y desplegar LLMs en ambientes controlados, con guías conductuales claras y asistencia auxiliar tangible, considerando el riesgo potencial de exacerbación de la soledad o incluso la radicalización de usuarios vulnerables. En última instancia, se sugiere que los LLMs1 podrían ser efectivos en mitigar la soledad, pero solo bajo condiciones bien delimitadas de diseño, que contemplen el balance entre interacción tecnológica y la calidad intrínseca de relaciones humanas.