Efeitos de Regularização na Arquitetura de Aprendizado Profundo

Esta pesquisa examina o impacto de três abordagens de regularização amplamente utilizadas -- aumento de dados, decaimento de peso e dropout -- na mitigação do overfitting, bem como várias amalgamações desses métodos. Utilizando uma Rede Neural Convolucional (CNN), o estudo avalia o desempenho dessas estratégias usando dois conjuntos de dados distintos: um conjunto de dados de flores e o conjunto de dados CIFAR-10. Os resultados revelam que o dropout supera o decaimento de peso e o aumento em ambos os conjuntos de dados. Além disso, uma combinação híbrida de dropout e aumento supera outras combinações de métodos em eficácia. Significativamente, a integração de decaimento de peso com dropout e aumento produz o melhor desempenho entre todas as misturas de métodos testadas. Análises foram realizadas em relação ao tamanho do conjunto de dados e ao tempo de convergência (medido em épocas). O dropout consistentemente mostrou desempenho superior em todos os tamanhos de conjuntos de dados, enquanto a combinação de dropout e aumento foi a mais eficaz em todos os tamanhos, e a tríade de decaimento de peso, dropout e aumento destacou-se em relação a outras combinações. A análise baseada em épocas indicou que a eficácia de certas técnicas escalava com o tamanho do conjunto de dados, com resultados variados.