Key points are not available for this paper at this time.
我们介绍Parseval网络,这是一种深度神经网络的形式,其中线性、卷积和聚合层的Lipschitz常数被限制为小于1。Parseval网络的实证和理论动机来自对深度神经网络在输入受到对抗性扰动时所做预测的鲁棒性分析。Parseval网络最重要的特点是保持线性和卷积层的权重矩阵(近似)为Parseval紧框架,这些框架是正交矩阵扩展到非方形矩阵的形式。我们描述了如何在SGD期间高效地维护这些约束。我们展示了Parseval网络在CIFAR-10/100和街景房屋号码(SVHN)上的准确性匹配了最新的技术,并且比其普通对应物对抗样本更鲁棒。顺便提一句,Parseval网络也往往训练更快,并更好地利用网络的全部容量.
Cissé等人(周五)研究了这个问题。