Los grandes modelos de lenguaje pueden producir en segundos relatos, publicaciones y otros contenidos sobre suicidio. Sin embargo, su facilidad para generar textos sensibles no significa que respeten las recomendaciones establecidas para comunicarlos de forma responsable.Un estudio de Sinyor y colaboradores, publicado en la revista Crisis, comparó las respuestas de GPT-4, Grok y ERNIE ante ...
PUBLICIDAD
Crea tu cuenta gratis y léelo completo ahora.
¿Ya estás registrado? Inicia sesión aquí .
Los grandes modelos de lenguaje pueden producir en segundos relatos, publicaciones y otros contenidos sobre suicidio. Sin embargo, su facilidad para generar textos sensibles no significa que respeten las recomendaciones establecidas para comunicarlos de forma responsable.Un estudio de Sinyor y colaboradores, publicado en la revista Crisis, comparó las respuestas de GPT-4, Grok y ERNIE ante instrucciones para escribir historias relacionadas con el suicidio.
Los resultados muestran diferencias muy amplias entre modelos, tanto en su disposición a generar los textos como en la calidad y seguridad del contenido producido.La conclusión clínicamente más relevante no es determinar cuál es el chatbot “mejor” o “peor”. Es reconocer que preguntar a un paciente si utiliza inteligencia artificial puede resultar insuficiente: distintos sistemas pueden responder de maneras sustancialmente diferentes ante una misma necesidad emocional o narrativa.
Qué evaluó el estudio
Los investigadores plantearon 11 instrucciones relacionadas con historias sobre suicidio, formuladas en cinco estilos narrativos. Examinaron cómo respondían tres grandes modelos de lenguaje: GPT-4, desarrollado por OpenAI; Grok, de xAI; y ERNIE, de Baidu.La evaluación incluía dos cuestiones diferentes. En primer lugar, si el modelo aceptaba generar el contenido solicitado. En segundo, si las respuestas obtenidas respetaban los principios de comunicación responsable sobre suicidio.Estos principios recomiendan evitar la descripción de métodos, la romantización o normalización del suicidio y las explicaciones excesivamente simples. También aconsejan incorporar información sobre búsqueda de ayuda, estrategias de afrontamiento y relatos de esperanza y recuperación.No se trata únicamente de convenciones periodísticas. La forma de representar el suicidio puede influir en personas vulnerables. La Organización Mundial de la Salud señala que la difusión inadecuada de determinados relatos puede asociarse con un aumento de conductas suicidas, mientras que las narrativas centradas en superar una crisis, recibir apoyo y recuperar el control pueden tener un efecto preventivo.
Diferencias importantes en la disposición a responder
Los tres sistemas estudiados adoptaron comportamientos muy diferentes. GPT-4 respondió al 53% de las solicitudes y ERNIE al 52%. Grok aceptó generar contenido en el 96% de los casos.Esta diferencia no permite concluir, por sí sola, que rechazar una petición sea siempre la respuesta más segura. Un sistema excesivamente restrictivo también podría interrumpir una conversación legítima, educativa o de búsqueda de apoyo. La seguridad no consiste simplemente en bloquear palabras relacionadas con el suicidio.Un modelo debería distinguir entre una petición potencialmente dañina y una conversación preventiva, clínica, académica o periodística. En esta última situación, podría responder con un enfoque seguro que evite detalles perjudiciales, promueva la búsqueda de ayuda y transmita posibilidades de recuperación.El problema aparece cuando el modelo acepta elaborar el contenido, pero lo hace sin aplicar precauciones suficientes.
Métodos, romantización y escasez de mensajes de recuperación
Según los resultados comunicados por los autores, Grok generó con mayor frecuencia referencias a métodos y representaciones romantizadas del suicidio. El estudio no se limita, por tanto, a medir cuántas solicitudes rechazó cada sistema: analiza también qué sucedió cuando decidió contestar.Otro resultado especialmente preocupante fue la escasa presencia de contenidos protectores. Solo entre el 16% y el 22% de las respuestas, dependiendo del modelo, transmitieron mensajes de esperanza y recuperación.Este hallazgo resulta importante porque una respuesta puede evitar información explícitamente peligrosa y, aún así, ser clínicamente pobre. Un relato dominado por la desesperanza, sin alternativas, apoyo interpersonal o posibilidad de cambio, puede ofrecer una representación distorsionada de la crisis suicida.La comunicación responsable no exige minimizar el sufrimiento. Implica mostrarlo sin presentarlo como irreversible ni convertir el suicidio en una solución inevitable, heroica o romántica. Los modelos analizados parecieron incorporar esta dimensión protectora solo de manera minoritaria.
Por qué importa en la consulta de salud mental
Los pacientes ya utilizan chatbots para buscar información, ordenar pensamientos, redactar diarios personales, expresar malestar o mantener conversaciones que perciben como confidenciales. Algunos pueden recurrir a estas herramientas antes de hablar con familiares o profesionales.Por ello, incluir una pregunta general sobre inteligencia artificial en la anamnesis puede aportar información relevante. No obstante, los resultados de este estudio sugieren que convendría avanzar un paso más.No es lo mismo preguntar “¿utiliza algún chatbot?” que explorar:qué aplicación o modelo utiliza;para qué tipo de conversaciones recurre a él;con qué frecuencia y en qué momentos;qué respuestas ha recibido ante situaciones de malestar;si alguna conversación aumentó la desesperanza o normalizó ideas de muerte;y si el sistema favoreció o retrasó la búsqueda de ayuda humana.Esta exploración no debería formularse como un interrogatorio ni presuponer que toda utilización de IA es perjudicial. Su objetivo sería comprender una nueva parte del entorno informativo y relacional del paciente, del mismo modo que se pregunta por búsquedas en internet, redes sociales, comunidades digitales o fuentes de información sanitaria.
El nombre del chatbot puede ser clínicamente relevante
Uno de los mensajes más novedosos del trabajo es que conocer qué sistema utiliza el paciente puede importar. Los grandes modelos de lenguaje no comparten necesariamente las mismas barreras de seguridad, políticas de respuesta ni criterios para manejar contenidos sensibles.Además, un mismo producto puede cambiar rápidamente. Las empresas actualizan sus modelos, filtros y configuraciones sin que el usuario perciba siempre la modificación. Los resultados del estudio describen versiones concretas evaluadas en un momento determinado y no deberían convertirse en una clasificación permanente de GPT-4, Grok o ERNIE.Aun así, la magnitud de las diferencias observadas indica que no puede hablarse de “los chatbots” como si fueran una intervención homogénea. Dos pacientes que afirman utilizar IA para afrontar su malestar podrían estar recibiendo experiencias muy distintas.
Implicaciones para desarrolladores y organizaciones sanitarias
El estudio también plantea preguntas sobre cómo deberían evaluarse los sistemas conversacionales antes de incorporarlos a servicios de salud mental.Una prueba de seguridad no debería limitarse a comprobar si el chatbot rechaza preguntas directas sobre suicidio. Tendría que analizar peticiones indirectas, formatos narrativos, cambios de tono y conversaciones prolongadas. También debería valorar si la respuesta promueve ayuda, afrontamiento y recuperación, en lugar de medir únicamente la ausencia de contenido explícito.Las organizaciones que integren IA generativa necesitan evaluar el modelo concreto, sus actualizaciones y el contexto real de uso. La reputación general del proveedor no sustituye una validación específica para escenarios de riesgo.
Limitaciones del estudio
El trabajo compara tres modelos mediante un conjunto delimitado de instrucciones y estilos narrativos. No reproduce toda la complejidad de una conversación clínica ni permite conocer cómo actuarían los sistemas durante interacciones prolongadas.La respuesta puede variar según la versión, el idioma, la formulación exacta de la petición, la configuración del sistema y las actualizaciones posteriores. Tampoco se evaluaron resultados clínicos en usuarios reales ni se demostró que las respuestas generadas produjeran conductas perjudiciales.Por tanto, el estudio identifica fallos de contenido y diferencias de seguridad, pero no cuantifica el riesgo clínico directo. Su principal aportación es señalar que el comportamiento de los modelos es heterogéneo y que el cumplimiento de las recomendaciones responsables continúa siendo insuficiente.
Una nueva pregunta para la historia clínica
Los chatbots se están convirtiendo en una fuente de información y acompañamiento informal para algunos pacientes. El estudio de Sinyor y colaboradores muestra que su manera de hablar sobre suicidio puede variar notablemente y que los mensajes de esperanza y recuperación aparecen con poca frecuencia.Para el profesional, la consecuencia práctica es concreta: puede ser necesario preguntar no solo si el paciente utiliza inteligencia artificial, sino qué herramienta emplea, para qué recurre a ella y cómo le afectan sus respuestas. Esa conversación puede ayudar a detectar una influencia digital que hasta ahora permanecía fuera de la evaluación clínica habitual.
Fuentes y contenidos relacionados en psiquiatria.com:
- [Guías para la comunicación del suicidio con enfoque en prevención]https://psiquiatria.com/glosario/suicidio-en-los-medios-de-comunicacion
- [Alucinaciones en inteligencia artificial y su impacto en la práctica clínica]https://psiquiatria.com/glosario/alucinacion-en-ia
- [Inteligencia artificial y psiquiatría: avances y recomendaciones]https://psiquiatria.com//bibliopsiquis/inteligencia-artificial-y-psiquiatria-avances-y-recomendaciones
Fuente principal (URL o documento)
Sinyor et al. The Quality of Suicide-Related Stories Generated by Large Language
Registro del estudio en PubMed — PMID 42494211
OMS: guía para la comunicación responsable sobre suicidio
Artículo elaborado por Marc Moreno, editor de psiquiatria.com
7,6 créditos
Inicio: 30/09/2026 |Precio: 275€
Ver curso
Explora el artículo con IA