Estimativas A Priori do Risco Populacional para Redes Residuais

Estimativas a priori ótimas são derivadas para o risco populacional, também conhecido como erro de generalização, de um modelo de rede residual regularizada. Uma parte importante do modelo regularizado é a utilização de uma nova norma de caminho, chamada norma de caminho ponderada, como termo de regularização. A norma de caminho ponderada trata as conexões de salto e as não linearidades de maneira diferente, de modo que caminhos com mais não linearidades são regularizados por pesos maiores. As estimativas de erro são a priori no sentido de que as estimativas dependem apenas da função alvo, não dos parâmetros obtidos no processo de treinamento. As estimativas são ótimas, em um contexto de alta dimensão, no sentido de que tanto o limite para a aproximação quanto os erros de estimativa são comparáveis às taxas de erro de Monte Carlo. Um passo crucial na prova é estabelecer um limite ótimo para a complexidade de Rademacher das redes residuais. Comparações são feitas com limites de erro de generalização baseados em normas existentes.