一种估计深度神经网络能耗的方法

深度神经网络（DNNs）在许多具有挑战性的人工智能任务中实现了最先进的准确性。虽然大多数计算现在是通过云端进行的，但由于隐私、安全性和延迟的考虑或通信带宽的限制，将DNN处理嵌入靠近传感器的位置是理想的。因此，研究界对于设计节能DNN的兴趣日益增加。然而，从DNN模型中估计能耗要比存储成本（模型大小）和吞吐量（操作数量）等其他指标困难得多。这是因为大量能量消耗在数据移动中，而从DNN模型中直接提取这一点是困难的。本研究提出了一种能量估计方法，可以根据DNN的架构、稀疏性和位宽来估计DNN的能耗。该方法可以用于评估目前在该领域提出的各种DNN架构和节能技术，并指导节能DNN的设计。我们已经在energyestimation.mit.edu上发布了能量估计工具的在线版本。我们相信，这种方法将在算法与硬件设计之间架起桥梁，并为开发节能DNN提供有益的见解。