Confianza de Aprendizaje para la Detección Fuera de Distribución en Redes Neuronales

Las redes neuronales modernas son modelos predictivos muy poderosos, pero a menudo son incapaces de reconocer cuándo sus predicciones pueden estar equivocadas. Estrechamente relacionado con esto está la tarea de detección fuera de distribución, donde una red debe determinar si una entrada está o no fuera del conjunto en el que se espera que funcione de forma segura. Para abordar estos problemas de manera conjunta, proponemos un método para aprender estimaciones de confianza para redes neuronales que es simple de implementar y produce salidas intuitivamente interpretables. Demostramos que en la tarea de detección fuera de distribución, nuestra técnica supera a las técnicas propuestas recientemente que construyen confianza en función de la distribución de salida de la red, sin requerir etiquetas adicionales ni acceso a ejemplos fuera de distribución. Además, abordamos el problema de calibrar detectores fuera de distribución, donde demostramos que los ejemplos clasificados incorrectamente dentro de la distribución pueden ser utilizados como un proxy para ejemplos fuera de distribución.