백엔드 커리큘럼 심화: API Resource Budgeting, 요청 하나의 CPU·DB·외부 호출 비용을 설계하는 법
API 요청을 단순 QPS가 아니라 CPU, DB 커넥션, 외부 API, 큐, 캐시 비용을 소비하는 작업 단위로 보고 예산을 설계하는 실무 기준을 정리합니다.
API 요청을 단순 QPS가 아니라 CPU, DB 커넥션, 외부 API, 큐, 캐시 비용을 소비하는 작업 단위로 보고 예산을 설계하는 실무 기준을 정리합니다.
Codex의 장기 작업 사용 증가와 GitHub Copilot의 usage-based billing, Actions/Copilot 용량 이슈를 바탕으로 AI 에이전트 실행량을 SLO와 큐 예산으로 운영하는 기준을 정리합니다.
트래픽 급증·재시작·장애 복구 시 발생하는 Connection Storm과 Thundering Herd를 예방하고 완화하는 실무 설계 기준을 정리합니다.
리틀의 법칙과 동시성 한계를 기반으로 백엔드 포화지점을 계산하고, 증설·최적화·부하차단의 의사결정 기준을 수치로 정리합니다.
부하 시나리오 설계, 목표 지표(SLI/SLO), 병목 파악과 튜닝 루틴