Accuracy evaluation of Naive Bayes and Logistic Regression for classification with binary attributes and classes

Resumen: En ciencia de los datos, la mayora de los modelos de clasificacin estn en la categora de modelos discriminativos o de modelos generativos. Los modelos discriminativos solamente capturan la relacin entre los atributos de una instancia y su clase, mientras que los modelos generativos buscan representar toda la distribucin de datos. Aunque la mayora de los modelos de clasificacin sean discriminativos, no se puede asegurar que este tipo de modelos sea mejor que los modelos generativos. En ese sentido, se aborda la comparacin de los algoritmos Naive Bayes y Regresin Logstica como modelos muy representativos de los clasificadores discriminativos y generativos, respectivamente. En este trabajo son evaluadas la exactitud de los modelos de Naive Bayes y Regresin Logstica en funcin al nmero de atributos e instancias de un conjunto de datos artificiales, donde tanto los atributos como las clases son binarios. A diferencia de otras metodologas que emplean los conjuntos de datos para aproximar el error de clasificacin, este trabajo solo emplea los conjuntos de datos para realizar el entrenamiento de los modelos, mientras que el error de clasificacin es calculado de forma exacta para la distribucin de los datos. Los experimentos muestran una exactitud de clasificacin binaria que tiende a ser levemente mejor para la Regresin Logstica usando 50 a 500 instancias de entrenamiento, cuando promediamos los resultados de distribuciones generadas aleatoriamente con 1 a 6 atributos binarios.