Consulta por comité

Proponemos un algoritmo llamado consulta por comité, en el que un comité de estudiantes se entrena en el mismo conjunto de datos. La siguiente consulta se elige de acuerdo con el principio de desacuerdo máximo. El algoritmo se estudia para dos modelos simplificados: el juego alto-bajo y el aprendizaje del perceptrón de otro perceptrón. A medida que el número de consultas tiende a infinito, el algoritmo del comité produce una ganancia de información asintóticamente finita. Esto conduce a un error de generalización que disminuye exponencialmente con el número de ejemplos. Esto contrasta marcadamente con el aprendizaje a partir de entradas elegidas al azar, para las cuales la ganancia de información se aproxima a cero y el error de generalización disminuye con una ley de potencia inversa relativamente lenta. Sugerimos que la ganancia de información asintóticamente finita puede ser una característica importante de buenos algoritmos de consulta.