Desafíos de la detección de discursos de odio en las redes sociales

Resumen La detección de discursos de odio en las redes sociales es una tarea crucial. La propagación incontrolada del odio tiene el potencial de dañar gravemente nuestra sociedad y perjudicar severamente a las personas o grupos marginados. Una de las principales arenas para la difusión de discursos de odio en línea son las redes sociales. Esto contribuye significativamente a la dificultad de la detección automática, ya que las publicaciones en redes sociales incluyen señales paralingüísticas (por ejemplo, emoticonos y hashtags), y su contenido lingüístico contiene mucho texto mal escrito. Otra dificultad es la naturaleza dependiente del contexto de la tarea y la falta de consenso sobre qué constituye un discurso de odio, lo que hace que la tarea sea difícil incluso para los humanos. Esto dificulta la tarea de crear grandes corpora etiquetados y consume recursos. El problema que plantea el texto no gramatical ha sido en gran medida mitigado por la reciente aparición de arquitecturas de redes neuronales profundas (DNN) que tienen la capacidad de aprender eficientemente diversas características. Por esta razón, propusimos un modelo de procesamiento de lenguaje natural (NLP) profundo—que combina capas convolucionales y recurrentes—para la detección automática de discursos de odio en datos de redes sociales. Hemos aplicado nuestro modelo en el corpus HASOC2019, y alcanzamos una puntuación macro F1 de 0.63 en la detección de discursos de odio en el conjunto de prueba de HASOC. Sin embargo, la capacidad de las DNN para el aprendizaje eficiente también significa un aumento del riesgo de sobreajuste. Particularmente, con los datos de entrenamiento limitados disponibles (como fue el caso de HASOC). Por esta razón, investigamos diferentes métodos para expandir los recursos utilizados. Hemos explorado diversas oportunidades, como aprovechar los datos no etiquetados, corpora etiquetados de manera similar, así como el uso de modelos novedosos. Nuestros resultados mostraron que al hacerlo, fue posible aumentar significativamente la puntuación de clasificación alcanzada.