Uso de la profanidad en comunidades en línea

A medida que aumenta el contenido web generado por usuarios, también crece la cantidad de contenido inapropiado y/o objetable. Varias comunidades académicas están abordando cómo detectar y gestionar dicho contenido: la investigación en visión por computadora se centra en la detección de imágenes inapropiadas, la tecnología de procesamiento del lenguaje natural ha avanzado para reconocer insultos. Sin embargo, los sistemas de detección de profanidad siguen siendo defectuosos. Los sistemas actuales de detección de profanidad basados en listas tienen dos limitaciones. Primero, son fáciles de eludir y rápidamente quedan obsoletos; es decir, no pueden adaptarse a errores ortográficos, abreviaciones y al rápido ritmo de la evolución del argot profano. En segundo lugar, ofrecen una solución única para todos; típicamente no acomodan las necesidades específicas de dominio, comunidad y contexto. Sin embargo, los entornos sociales tienen sus propios comportamientos normativos: lo que se considera aceptable en una comunidad puede no serlo en otra. En este artículo, a través del análisis de comentarios de un sitio de noticias sociales, proporcionamos evidencia de que los sistemas actuales están funcionando mal y evaluamos los casos en los que fallan. Luego abordamos las diferencias comunitarias respecto a la creación/tolerancia de la profanidad y sugerimos un cambio hacia sistemas de detección de profanidad más matizados contextualmente.