백엔드 커리큘럼 심화: Queue Head-of-Line Blocking과 Priority Inversion, 느린 작업이 빠른 작업을 막지 않게 하는 법
비동기 큐와 워커 풀에서 느린 작업 하나가 전체 처리 지연을 키우는 Head-of-Line Blocking과 Priority Inversion을 분리하고, 큐 격리·우선순위·동시성 예산·관측 지표를 숫자 기준으로 설계하는 방법을 정리합니다.
비동기 큐와 워커 풀에서 느린 작업 하나가 전체 처리 지연을 키우는 Head-of-Line Blocking과 Priority Inversion을 분리하고, 큐 격리·우선순위·동시성 예산·관측 지표를 숫자 기준으로 설계하는 방법을 정리합니다.
비동기 작업 큐에서 대형 테넌트, 느린 작업, poison job이 전체 워커를 점유하지 않도록 workload-aware partitioning, fair scheduling, worker pool 격리 기준을 숫자 중심으로 정리합니다.