Redes profundas con restricciones contextuales para la etiquetación de escenas

El aprendizaje utilizando arquitecturas de deep learning es un problema difícil: la complejidad del modelo de predicción y la dificultad de resolver problemas de optimización no convexos inherentes a la mayoría de los algoritmos de aprendizaje pueden llevar tanto a fenómenos de sobreajuste como a malos óptimos locales. Para superar estos problemas, nos gustaría restringir partes de la red usando algún contexto semántico para 1) controlar su capacidad mientras se permite aprender funciones complejas y 2) obtener capas más significativas. Primero proponemos aprender una red convolucional débil que nos proporcionaría mapas de etiquetas aproximados sobre el vecindario de un píxel. Luego, incorporamos este aprendiz débil en una red más grande. Este proceso iterativo tiene como objetivo aumentar la interpretabilidad al restringir algunos mapas de características para aprender información contextual precisa. Usando los conjuntos de datos de etiquetado de escenas de Stanford y SIFT Flow, mostramos cómo este conocimiento contextual mejora la precisión de las arquitecturas de última generación. El enfoque es genérico y se puede aplicar a redes similares donde hay pistas contextuales disponibles en el momento de entrenamiento.