En el primer año de lanzamiento de un programa de inteligencia artificial (AI) para detectar posibles signos de suicidio en cuentas individuales, Facebook ha publicado datos que muestran que se han realizado 3500 controles de bienestar en todo el mundo para descartar posibles intentos suicidas en sus usuarios.
Aunque a primera vista esto suena como algo bueno, algunos expertos están cuestionando los aspectos específicos del algoritmo y pidiendo a la compañía una mayor transparencia.
Iniciado en 2017, el programa utiliza el aprendizaje automático para identificar publicaciones, comentarios y videos que pueden indicar un intento suicida. También usa la "comprensión contextual" para ignorar frases como "Tengo tanta tarea que quiero morir", lo que no es una señal genuina de angustia, dijo la compañía en un comunicado de prensa .
PUBLICIDAD
El contenido altamente preocupante es luego revisado por equipos de especialistas que determinan si individuos específicos requieren la ayuda de los primeros respondedores.
"Los expertos en salud mental dicen que una de las mejores formas de prevenir el suicidio es que las personas en dificultades escuchen a los familiares y amigos que se preocupan por ellos", dijo un portavoz de Facebook en un comunicado enviado a Medscape Medical News . "Podemos conectar a los que están en peligro con amigos (y también con organizaciones) que pueden ofrecer apoyo".
Cuando se le pidió comentar, Drew Ramsey, MD, profesor clínico asistente de psiquiatría en la Universidad de Columbia en la ciudad de Nueva York, y miembro y ex presidente del Consejo de Comunicaciones de la Asociación Estadounidense de Psiquiatría (APA, por sus siglas en inglés), dijo que la empresa debe ser felicitada por trabajar para frenar el crecimiento Tasas de suicidio.
" Sin embargo, hasta la fecha, no lo han hecho de la manera correcta y han creado más preocupaciones, tanto sobre la efectividad de su enfoque como sobre el uso del información que están recogiendo ", dijo Appelbaum.
"La forma correcta de hacerlo sería de forma abierta, colaborando con la comunidad de investigadores suicidas y creando algoritmos que podrían compartirse de manera más amplia para que otras entidades de redes sociales e investigadores suicidas puedan tener acceso a ellos. Podrían hacer una gran cantidad de público. Servicio aquí que hasta ahora han elegido no emprender ", agregó.
Torous dijo que si Facebook quiere "asumir este tipo de función de salud pública", también debería trabajar para proteger los datos de las personas.
PUBLICIDAD
