OptDNN: エッジコンピューティング向けの自動深層神経ネットワーク最適化ツール

DNNは画像や信号処理のような複雑なタスクに広く使用されており、IoTデバイスへの実装に対する需要が高まっています。これらのデバイスでは、DNNモデルの最適化が必要な作業です。一般に、標準的な最適化手法は、効率と精度の良いトレードオフを見つけるために専門家がハイパーパラメータを手動で微調整することを必要とします。本論文では、プルーニング、クラスタリング、量子化のための最適なハイパーパラメータを決定する革新的かつ自動的なアプローチを採用するソフトウェアであるOptDNNを提案します。OptDNNによって最適化されたモデルは、メモリフットプリントが小さく、推論時間が短く、元のモデルと同等の精度を持っています。