通过并行MSB提取安全高效地外包神经网络推断

将神经网络（NN）推断服务外包到云端引发了关于模型提供者的专有模型和用户私密数据的重大隐私问题。当前基于密码学的安全NN推断方案由于在计算神经网络的非线性组件时需要进行大量的通信开销，因此不适用于高延迟网络。在本文中，我们提出了ParaNN，一种支持轻量级安全神经网络推断的基于云的外包计算框架。在ParaNN的核心，我们设计了一种基于并行前缀加法器的安全并行方法，用于提取最重要的位（MSB）。这为一系列专门针对非线性层如ReLU和Maxpool的安全通信高效计算协议奠定了基础。我们的实验表明，与最先进的工作相比，ParaNN在广域网（WAN）上的在线推断时间提高了6.7×-27.4×。