Key points are not available for this paper at this time.
Propomos uma nova parametrização camada a camada para redes neurais convolucionais (CNNs) que inclui garantias de robustez embutidas ao impor um limite de Lipschitz prescrito. Cada camada em nossa parametrização é projetada para satisfazer uma desigualdade matricial linear (LMI), que por sua vez implica dissipatividade em relação a uma taxa de suprimento específica. Coletivamente, essas LMIs camada a camada asseguram o limite de Lipschitz para o mapeamento de entrada-saída da rede neural, resultando em uma parametrização mais expressiva do que através de limites espectrais ou camadas ortogonais. Nosso novo método LipKernel parametriza diretamente núcleos de convolução dissipativa usando um modelo de espaço de estados do tipo Roesser 2-D. Isso significa que as camadas convolucionais são apresentadas em forma padrão após o treinamento e podem ser avaliadas sem sobrecarga computacional. Em experimentos numéricos, mostramos que o tempo de execução usando nosso método é várias ordens de magnitude mais rápido do que redes com limites de Lipschitz de última geração que parametrizam convoluções no domínio de Fourier, tornando nossa abordagem particularmente atraente para melhorar a robustez da percepção ou controle em tempo real baseado em aprendizado em robótica, veículos autônomos ou sistemas de automação. Focamos em CNNs, e em contraste com trabalhos anteriores, nossa abordagem acomoda uma ampla variedade de camadas tipicamente usadas em CNNs, incluindo camadas convolucionais 1-D e 2-D, camadas de pooling máximo e médio, bem como convoluções com deslocamento e dilatadas e preenchimento com zeros. No entanto, nossa abordagem se estende naturalmente além das CNNs, pois podemos incorporar qualquer camada que seja incrementalmente dissipativa.
Pauli et al. (Qui,) estudaram essa questão.