Conv2NeXt: 画像認識のためのConv NeXtネットワークデザインを再考する

現在、コンピュータビジョンにおけるトランスフォーマーは、画像認識、画像セグメンテーション、ターゲット検出のいずれにおいても、その優れた性能から広く人気があります。従来の畳み込みニューラルネットワーク（CNN）はトランスフォーマーに比べて劣っていますが、トランスフォーマーの欠点は、大量の資源を必要とすることです。2022年、LiuらはCNNを再考し、トランスフォーマーの構造を参照した一連のモデル（例：Swinトランスフォーマー）を提案しました。トランスフォーマーとは対照的に、LiuのCNNモデルは「ConvNeXt」と呼ばれ、標準的な畳み込みニューラルネットワークを使用しています。ConvNeXtのImageNetデータセットにおける精度は、Swinトランスフォーマーの精度に驚くほど近く、CNNが依然として優れた性能を持つことを証明しています。しかし、ConvNeXtはCIFAR-10、CIFAR-100、Tiny ImageNetなどの低解像度データセットではあまり良いパフォーマンスを示さず、改善の余地がまだ多くあります。ConvNeXtの一般化を強化するために、我々は2つのパッチ埋め込み層と繰り返し適用される対称的な畳み込みブロックから成るConv2NeXtモデルを提案します。さらに、Conv2NeXtはフィーチャーマップを洗練するためにいくつかのアテンションモジュールを組み込んでおり、より堅牢にしています。実験では、Conv2NeXtはCIFAR-10で98.23%、CIFAR-100で83.82%、Tiny ImageNetで71.94%の精度を達成し、最も知られた広く使用されている最先端のパフォーマンス（SOTA）を上回っています。最も重要なのは、これらのパフォーマンスが1台のカスタマーベースのGPUでのみトレーニングされており、はるかに低いパラメータ数（Params）でほぼSOTAを達成したことです。この研究のオープンソースコードとチェックポイントは、https://github.com/southerly7/Conv2NeXt で入手できます。