SegFormer3D: 3D 의료 영상 분할을 위한 효율적인 트랜스포머

비전 트랜스포머(ViTs) 기반 아키텍처의 채택은 3D 의료 이미지(MI) 분할의 중요한 발전을 나타내며, 전통적인 컨볼루션 신경망(CNN) 모델을 초월하여 글로벌 문맥 이해를 향상시키고 있습니다. 이러한 패러다임 전환은 3D 분할 성능을 크게 향상시키지만, 최첨단 아키텍처는 훈련 및 배포를 위한 대규모 컴퓨팅 자원을 갖춘 매우 크고 복잡한 아키텍처를 요구합니다. 또한, 의료 이미징에서 자주 발생하는 제한된 데이터셋의 맥락 속에서, 더 큰 모델은 모델 일반화 및 수렴에 있어 장애물을 제시할 수 있습니다. 이러한 문제에 대응하고 가벼운 모델이 3D 의료 이미징에서 연구의 귀중한 영역임을 입증하기 위해, 우리는 다중 스케일 볼륨 특성에 대한 주의를 계산하는 계층적 트랜스포머인 SegFormer3D를 제시합니다. 또한, SegFormer3D는 복잡한 디코더를 피하고 로컬 및 글로벌 주의 특성을 집계하기 위해 전량 MLP 디코더를 사용하여 매우 정확한 분할 마스크를 생성합니다. 제안된 메모리 효율적인 트랜스포머는 컴팩트한 디자인에서 훨씬 더 큰 모델의 성능 특성을 유지합니다. SegFormer3D는 현재 최첨단(SOTA)에 비해 33배 적은 매개변수와 13배 감소된 GFLOPS로 3D 의료 이미지 분할을 위해 딥 러닝을 민주화합니다. 우리는 SegFormer3D를 Synapse, BRaTs 및 ACDC의 세 가지 널리 사용되는 데이터셋에 대한 현재 SOTA 모델과 비교하여 경쟁력 있는 결과를 달성했습니다. 코드: https://github.com/OSUPCVLab/SegFormer3D.git