Identificación automática de notas de suicidio con un modelo de aprendizaje profundo basado en transformadores

El suicidio es una de las principales causas de muerte en todo el mundo. Al mismo tiempo, el uso generalizado de las redes sociales ha llevado a un aumento en las personas que publican sus notas de suicidio en línea. Por lo tanto, es de gran importancia diseñar un modelo de aprendizaje que pueda ayudar en la detección de notas de suicidio en línea. Sin embargo, los métodos actuales no pueden capturar tanto las características semánticas locales como globales. En este artículo, proponemos un modelo basado en transformadores llamado TransformerRNN, que puede extraer de manera efectiva información contextual y de dependencia a largo plazo mediante el uso de un codificador de transformador y una estructura de Memoria a Largo Plazo y Corto Plazo Bidireccional (BiLSTM). Evaluamos nuestro modelo con enfoques de referencia en un conjunto de datos recopilado de fuentes en línea (incluyendo 659 notas de suicidio, 431 declaraciones finales y 2000 publicaciones neutrales). Nuestro TransformerRNN propuesto logra un rendimiento del 95.0%, 94.9% y 94.9% en las métricas de P, R y F1-score respectivamente, superando así a modelos comparables de aprendizaje automático y de última generación de aprendizaje profundo. El modelo propuesto es efectivo para clasificar notas de suicidio, lo que a su vez puede ayudar a desarrollar tecnologías de prevención del suicidio para las redes sociales. • La identificación temprana de notas de suicidio puede ayudar a desarrollar tecnologías de prevención del suicidio para redes sociales. • Se propuso TranformerRNN, utilizando el codificador de transformador y BiLSTM. • TranformerRNN puede extraer información contextual y características latentes para identificar notas de suicidio. • Nuestro método TranformerRNN supera a modelos de aprendizaje automático comparables y a modelos de última generación de aprendizaje profundo.