Imponer la Interpretabilidad y sus Impactos Estadísticos: Compromisos entre Precisión e Interpretabilidad

Hasta la fecha, no ha habido un estudio formal del costo estadístico de la interpretabilidad en el aprendizaje automático. Como tal, el discurso en torno a los posibles compromisos es a menudo informal y abundan las ideas erróneas. En este trabajo, nuestro objetivo es iniciar un estudio formal de estos compromisos. Un obstáculo aparentemente insuperable es la falta de una definición acordada de la interpretabilidad. En cambio, proponemos un cambio de perspectiva. En lugar de intentar definir la interpretabilidad, proponemos modelar el acto de imponer la interpretabilidad. Como punto de partida, nos enfocamos en el establecimiento de la minimización del riesgo empírico para la clasificación binaria y consideramos la interpretabilidad como una restricción impuesta al aprendizaje. Es decir, asumimos que se nos da un subconjunto de hipótesis que se consideran interpretables, posiblemente dependiendo de la distribución de los datos y otros aspectos del contexto. Modelamos entonces el acto de imponer la interpretabilidad como el desempeño de la minimización del riesgo empírico sobre el conjunto de hipótesis interpretables. Este modelo nos permite razonar sobre las implicaciones estadísticas de imponer la interpretabilidad, utilizando resultados conocidos en la teoría del aprendizaje estadístico. Centrados en la precisión, realizamos un análisis de casos, explicando por qué se puede o no observar un compromiso entre precisión e interpretabilidad cuando la restricción a clasificadores interpretables tiene o no un costo en términos de algún riesgo estadístico adicional. Cerramos con algunos ejemplos trabajados y algunos problemas abiertos, que esperamos fomenten un mayor desarrollo teórico en torno a los compromisos involucrados en la interpretabilidad.