Gran parte del progreso reciente en la investigación de clasificación de imágenes se debe a refinamientos en los procedimientos de entrenamiento, como cambios en las augmentaciones de datos y en los métodos de optimización. Sin embargo, en la literatura, la mayoría de los refinamientos se mencionan brevemente como detalles de implementación o solo son visibles en el código fuente. En este artículo, examinaremos una colección de tales refinamientos y evaluaremos empíricamente su impacto en la precisión del modelo final a través de un estudio de ablación. Mostraremos que, al combinar estos refinamientos, somos capaces de mejorar significativamente varios modelos de CNN. Por ejemplo, aumentamos la precisión de validación top-1 de ResNet-50 del 75.3% al 79.29% en ImageNet. También demostraremos que la mejora en la precisión de clasificación de imágenes conduce a un mejor rendimiento de transferencia en otros dominios de aplicación, como la detección de objetos y la segmentación semántica.
He et al. (Sat,) estudiaron esta pregunta.