서버리스 컴퓨팅을 위한 컨테이너 생애주기 인식 스케줄링

초록 수요의 변화에 대한 유연한 스케일링은 서버리스 컴퓨팅의 주요 이점입니다. 버스트성 작업 부하가 도착하면, 서버리스 플랫폼은 많은 새로운 컨테이너를 시작하고 함수 환경(콜드 스타트로 알려짐)을 초기화하는데, 이로 인해 상당한 시작 지연이 발생합니다. 콜드 스타트를 줄이기 위해, 플랫폼은 요청을 처리한 후 컨테이너를 일시 중지하고, 이 컨테이너를 이후 요청에 재사용하는 것이 일반적입니다. 그러나 이 재사용 전략은 스케줄러가 컨테이너 생애주기와 무관하기 때문에 효율적으로 콜드 스타트를 줄일 수 없습니다. 예를 들어, 곧 사용 가능한 컨테이너를 무시하거나 곧 필요한 컨테이너를 제외할 수 있습니다. 우리는 서버리스 컴퓨팅을 위한 컨테이너 생애주기 인식 스케줄링 전략 CAS를 제안합니다. 주요 아이디어는 요청의 분포를 제어하고 컨테이너의 다양한 생애주기 단계에 따라 생성 또는 제거를 결정하는 것입니다. 우리는 OpenWhisk에서 CAS의 프로토타입을 구현했습니다. 우리의 평가 결과, CAS는 콜드 스타트를 81% 줄이고, 따라서 OpenWhisk의 네이티브 스케줄링 전략에 비해 95번째 백분위수 지연에서 63% 감소를 가져오며, 성능 오버헤드를 크게 추가하지 않음을 보여줍니다.