인공지능(AI) 가속의 미래는 순수한 전자 또는 광학 아키텍처의 한계를 넘어서는 패러다임 전환을 요구합니다. 광학 아날로그 컴퓨팅은 비할 데 없는 속도와 병렬성을 제공하지만 데이터 이동, 견고성 및 정밀도에서 어려움을 겪고 있습니다. 전자 처리-메모리(PIM)는 저장소와 계산을 공동 배치함으로써 에너지 효율적인 컴퓨팅을 가능하게 하지만 내구성과 재구성 제약으로 인해 정적 가중치 매핑으로 제한됩니다. 어떤 접근법도 적응적이고 효율적인 AI를 위해 필요한 균형을 달성하지 못합니다. 이 교착 상태를 극복하기 위해 우리는 하이브리드 전자-광- PIM 컴퓨팅 아키텍처를 연구하고 전자 및 광학 계층에서 작업 부하를 원활하게 조율하는 이질성 인식 매핑 프레임워크인 H3PIMAP을 소개합니다. 두 단계 다중 목표 탐색 방법을 통해 작업 부하 분할을 최적화함으로써 H3PIMAP은 높은 처리량 작업을 위해 빛의 속도를 활용하고 메모리 바운드 작업을 위해 PIM 효율성을 확보합니다. 언어 및 비전 모델에 대한 시스템 수준 평가 결과, H3PIMAP은 동질적 아키텍처 및 순진한 매핑 전략과 비교하여 2.74배의 에너지 효율성 개선과 3.47배의 지연 시간 단축을 달성합니다. 이 제안된 프레임워크는 하이브리드 AI 가속기의 기초를 마련하여 차세대 효율성과 확장성을 위해 전자 및 광학 컴퓨팅 간의 격차를 연결합니다.
Yin 외(월요일)는 이 질문을 연구했습니다.