MAT：高效图像超分辨率的多范围注意力变换器

图像超分辨率（SR）通过采用变换器架构取得了显著进展。然而，旨在扩大自注意力窗口以捕捉更广泛上下文的传统技术存在固有缺陷，特别是显著增加的计算需求。此外，现有模型在固定大小窗口内的特征感知限制了有效感受野（ERF）和中间特征的多样性。我们证明了在不同空间范围内灵活整合注意力可以带来显著的性能提升。基于这一见解，我们为SR任务引入了多范围注意力变换器（MAT）。MAT利用扩张操作固有的计算优势，与自注意力机制结合，促进多范围注意力（MA）和稀疏多范围注意力（SMA），高效捕捉区域和稀疏全局特征。结合局部特征提取，MAT熟练地捕捉不同空间范围之间的依赖关系，提高了特征表示的多样性和有效性。我们还引入了MSConvStar模块，增强了模型在多范围表示学习方面的能力。全面实验表明，我们的MAT在显著效率上（比SRFormer-light快3.3倍）优于现有最先进的SR模型。代码可在 https://github.com/stella-von/MAT 获取。