대규모 멀티모달 파이프라인에서 CPU와 GPU 자원 배분에 대한 정량적 기준은 아직 명확히 정립되지 않았다. 본 연구는 GPU가 CPU 대비 속도 2x 이상, 샘플당 에너지 소비 50% 이내일 때만 GPU를 사용하는 결합 임계치를 정의하고, 이에 따라 CPU/GPU를 동적으로 선택하는 경량 DNN 기반 자원 분산 시스템을 제안한다. 이미지·비디오·텍스트·수치 데이터와 다양한 모델 조합에 대해 동일한 프로토콜로 학습 로그를 수집하고, FLOPs, 파라미터 수, 배치 크기, 입력 크기, 하드웨어 지표를 특징으로 실시간 추론 가능한 분류기를 학습하였다. 실험 결과, 소규모 과제에서는 CPU가, 대규모 시각·시계열 과제에서는 GPU가 우수했으며, 제안한 임계치 기반 결정은 불필요한 GPU 사용을 줄이면서 처리량과 에너지 효율을 동시에 개선하였다. 본 시스템은 전처리–학습 전 단계에 적용 가능하며, 강화학습 기반 스케줄러로의 확장 가능성을 보인다.
Ju et al. (Sat,) studied this question.