5단계: 시스템 안정성 & 회복탄력성 (Resilience)
장애 전파 차단, 트래픽 제어, 고가용성 설계를 다루는 모듈
장애 전파 차단, 트래픽 제어, 고가용성 설계를 다루는 모듈
연쇄 장애를 차단하는 Circuit Breaker와 과부하를 방지하는 Token Bucket Rate Limiter를 구현한다.
트래픽 급증 시 시스템을 지키는 Admission Control과 동시성 제한 설계를 실무 기준으로 정리합니다. 큐 길이, p95 지연, 에러율 기반 의사결정 기준을 포함합니다.
동일 키 동시 요청이 몰릴 때 요청 병합으로 DB 부하와 P95 지연을 줄이는 설계/운영 기준을 정리합니다.
API Gateway 레이트 리밋, 애플리케이션 레벨 백프레셔, 큐/서킷 브레이커 연계 — 알고리즘 선택부터 Redis 분산 구현, Spring Cloud Gateway 설정까지
WebClient로 외부 API 호출 시 타임아웃/재시도/서킷 브레이커/백프레셔 설정 가이드
Chaos Engineering으로 의도적으로 장애를 발생시켜 시스템의 회복력을 테스트하는 방법