백엔드 커리큘럼 심화: Queue Head-of-Line Blocking과 Priority Inversion, 느린 작업이 빠른 작업을 막지 않게 하는 법
비동기 큐와 워커 풀에서 느린 작업 하나가 전체 처리 지연을 키우는 Head-of-Line Blocking과 Priority Inversion을 분리하고, 큐 격리·우선순위·동시성 예산·관측 지표를 숫자 기준으로 설계하는 방법을 정리합니다.
비동기 큐와 워커 풀에서 느린 작업 하나가 전체 처리 지연을 키우는 Head-of-Line Blocking과 Priority Inversion을 분리하고, 큐 격리·우선순위·동시성 예산·관측 지표를 숫자 기준으로 설계하는 방법을 정리합니다.
과부하 상황에서 모든 요청을 끝까지 받으려는 습관을 버리고, admission control과 concurrency limit으로 시스템을 보호하는 실무 기준을 숫자 중심으로 정리합니다.
평균이 아닌 P95/P99를 기준으로 시스템을 설계하고 운영하기 위해, 타임아웃 버짓 분배부터 큐 규율·헤지드 요청·관측 지표까지 실무 기준으로 정리합니다.
트래픽 급증·재시작·장애 복구 시 발생하는 Connection Storm과 Thundering Herd를 예방하고 완화하는 실무 설계 기준을 정리합니다.
API Gateway 레이트 리밋, 애플리케이션 레벨 백프레셔, 큐/서킷 브레이커 연계 — 알고리즘 선택부터 Redis 분산 구현, Spring Cloud Gateway 설정까지
Reactive Programming 핵심 개념, Publisher/Subscriber 패턴, Backpressure 전략 Q&A