Un nuevo estudio con más de 2.000 conversaciones reales muestra que el estilo comunicativo del paciente puede modificar la valoración de urgencia de los modelos de IA. El uso de chatbots de inteligencia artificial para apoyo emocional, orientación psicológica y evaluación de síntomas está creciendo con rapidez. Muchos usuarios los emplean p...
PUBLICIDAD
Crea tu cuenta gratis y léelo completo ahora.
¿Ya estás registrado? Inicia sesión aquí .
Un nuevo estudio con más de 2.000 conversaciones reales muestra que el estilo comunicativo del paciente puede modificar la valoración de urgencia de los modelos de IA.
El uso de chatbots de inteligencia artificial para apoyo emocional, orientación psicológica y evaluación de síntomas está creciendo con rapidez. Muchos usuarios los emplean para ordenar pensamientos, reformular emociones o recibir acompañamiento entre consultas. Pero dos publicaciones recientes apuntan a un mismo problema: estos sistemas todavía están lejos de poder sustituir a un profesional de salud mental, especialmente cuando el paciente no se expresa como un “caso ideal”.La primera fuente es un preprint publicado en arXiv el 9 de julio de 2026 por João Matos y colaboradores, titulado The complexities of patient-centred conversational artificial intelligence. El estudio analiza 2.053 conversaciones reales entre pacientes y chatbots sanitarios, y encuentra que los usuarios varían mucho en su forma de comunicarse: algunos son claros, cooperadores y articulados; otros expresan emociones intensas, se muestran reticentes, dan información incompleta o mantienen estilos conversacionales menos previsibles. Esta diversidad no es un detalle menor: puede cambiar la forma en que los modelos estiman la urgencia clínica.
Los autores desarrollaron un simulador de pacientes capaz de modelar por separado el contenido clínico, el estado emocional, la estrategia conversacional y el estilo comunicativo. En una evaluación inspirada en el test de Turing, 15 evaluadores humanos apenas pudieron distinguir entre conversaciones simuladas y reales, con una precisión del 55%. Después, los investigadores utilizaron cinco perfiles distintos de pacientes sobre 1.164 casos evaluados por clínicos para probar el rendimiento de cuatro grandes modelos de lenguaje en tareas de valoración de urgencia.
El resultado es clínicamente relevante: el estilo comunicativo puede alterar de forma significativa el triaje. En otras palabras, dos pacientes con un problema clínico similar podrían recibir una valoración distinta por parte de un sistema de IA si uno se expresa de forma clara y colaboradora y otro lo hace con ambivalencia, ansiedad, irritación, vergüenza o información incompleta.
Esta conclusión cuestiona una práctica habitual en la evaluación de chatbots sanitarios: probarlos con pacientes simulados demasiado ordenados, cooperadores y verbalmente competentes. El problema es evidente para cualquier profesional de salud mental. En la práctica real, los pacientes no siempre describen sus síntomas de forma lineal. Pueden minimizar riesgos, exagerar detalles secundarios, evitar temas centrales, contestar de forma ambigua, cambiar de tema o expresar el sufrimiento mediante metáforas, silencios o contradicciones.Por eso, evaluar una IA solo con “pacientes ideales” puede ofrecer una falsa sensación de seguridad. Los autores advierten que los sistemas conversacionales centrados en el paciente deben adaptarse a la diversidad comunicativa real.
De lo contrario, podrían rendir peor precisamente en quienes más necesitan ayuda: personas con menor alfabetización sanitaria, dificultades para expresar emociones, barreras lingüísticas, desconfianza, deterioro cognitivo, ansiedad intensa o trastornos mentales graves.La segunda fuente, publicada el 10 de julio de 2026 en The Times of India, ofrece el contexto social de esta preocupación. Cada vez más personas recurren a chatbots de IA para apoyo emocional y orientación en salud mental. Algunos usuarios explican que estas herramientas les ayudan a organizar ideas, reformular emociones o reducir la necesidad de consultas frecuentes. Pero psicólogos e investigadores insisten en que existe poca evidencia científica de que puedan reemplazar de forma segura a terapeutas humanos, especialmente en crisis.
La noticia recoge una preocupación central: muchos sistemas de IA están diseñados para ser agradables, útiles y validantes. Sin embargo, la terapia no consiste solo en validar. A veces el profesional debe detectar una señal indirecta de riesgo, explorar una contradicción, introducir realidad compartida, confrontar con cuidado o responder a elementos no verbales que el paciente no verbaliza de forma explícita.
Uno de los ejemplos citados es especialmente ilustrativo: ante una pregunta aparentemente informativa sobre puentes altos en Nueva York, formulada después de mencionar una pérdida laboral, un chatbot de salud mental no detectó la posible ideación suicida indirecta y respondió listando alturas de puentes. El problema no fue falta de información factual; fue falta de comprensión clínica del contexto.
Ahí está una de las claves para psiquiatría y psicología clínica. La IA puede responder muy bien a preguntas explícitas, pero puede fallar ante señales implícitas, comunicación indirecta, ambivalencia, ironía, vergüenza o sufrimiento no formulado. Y gran parte de la clínica de salud mental ocurre precisamente ahí: en lo que el paciente dice a medias, en lo que evita, en cómo lo dice y en lo que no puede decir todavía.
Las empresas están empezando a introducir salvaguardas. Algunas plataformas presentan sus chatbots como guías de salud mental y no como terapeutas. Otras limitan la duración de las conversaciones para reducir dependencia emocional, entrenan sistemas con escenarios de riesgo o restringen el uso a pacientes que ya están en tratamiento con profesionales. Estas medidas son importantes, pero no resuelven el problema de fondo: la salud mental no es solo intercambio de información, sino relación clínica, contexto, presencia y responsabilidad.
Para los profesionales sanitarios, la implicación práctica es clara. Los chatbots pueden tener un papel complementario: psicoeducación, acompañamiento entre sesiones, registro de síntomas, organización de pensamientos o apoyo inicial mientras se accede a atención profesional. Pero no deberían presentarse como sustitutos de la evaluación clínica, especialmente en situaciones de riesgo suicida, psicosis, trastornos graves, trauma, consumo de sustancias o crisis emocionales intensas.
También será necesario incorporar nuevas preguntas a la anamnesis digital. No bastará con preguntar por redes sociales o consumo de pantallas. Habrá que explorar si el paciente utiliza chatbots para hablar de su malestar, cuánto tiempo pasa con ellos, qué tipo de vínculo establece, si sigue sus recomendaciones, si los usa en momentos de crisis y si ha reducido el contacto con profesionales o personas cercanas por apoyarse en sistemas automáticos.
La conclusión de ambas fuentes converge en una idea sencilla pero decisiva: una IA realmente centrada en el paciente no puede diseñarse solo para conversaciones limpias, racionales y cooperadoras. Debe estar preparada para pacientes reales, con emociones intensas, comunicación imperfecta, ambivalencia, vergüenza, silencio, desconfianza o sufrimiento expresado de forma indirecta.
La inteligencia artificial puede convertirse en una herramienta valiosa para ampliar el acceso al apoyo en salud mental. Pero su seguridad dependerá de que dejemos de evaluarla con pacientes ideales y empecemos a probarla frente a la complejidad humana que cualquier clínico reconoce en consulta.
Fuentes
Matos J, Buege O, Cheung D, et al. The complexities of patient-centred conversational artificial intelligence. arXiv. Publicado el 9 de julio de 2026. https://arxiv.org/abs/2607.08625
AI therapy is growing fast, but psychologists say chatbots still can’t replace human care. The Times of India. Publicado el 10 de julio de 2026.
https://timesofindia.indiatimes.com/technology/tech-news/ai-therapy-is-growing-fast-but-psychologists-say-chatbots-still-cant-replace-human-care/articleshow/132315502.cms
Explora el artículo con IA