클라우드 비용 최적화 전략

┌─────────────┐
│   Inform    │ ← 비용 가시성: 누가, 어디서, 왜 쓰는지 파악
│  (알아보기)  │
└──────┬──────┘
       │
┌──────▼──────┐
│  Optimize   │ ← 실행: Rightsizing, RI/SP 구매, 아키텍처 변경
│  (최적화)   │
└──────┬──────┘
       │
┌──────▼──────┐
│   Operate   │ ← 거버넌스: 예산 정책, 이상 탐지, 지속 개선
│  (운영하기)  │
└──────┴──────┘
       ↻ 매월 반복

# AWS CLI로 최근 30일 서비스별 비용 확인
aws ce get-cost-and-usage \
  --time-period Start=2026-02-20,End=2026-03-20 \
  --granularity MONTHLY \
  --metrics "BlendedCost" \
  --group-by Type=DIMENSION,Key=SERVICE \
  --query 'ResultsByTime[0].Groups[*].[Keys[0],Metrics.BlendedCost.Amount]' \
  --output table

# AWS Compute Optimizer로 추천 인스턴스 확인
aws compute-optimizer get-ec2-instance-recommendations \
  --filters "name=Finding,values=OVER_PROVISIONED"

m5.2xlarge (8 vCPU, 32GB)  → $0.384/h × 720h = $276.48/월
  CPU 평균 15%, 메모리 평균 20%

→ m5.xlarge (4 vCPU, 16GB)  → $0.192/h × 720h = $138.24/월
  절감: $138.24/월 (50%)

# Target Tracking (가장 추천 — 지표 기반 자동 조절)
apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: order-service-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: order-service
  minReplicas: 2
  maxReplicas: 20
  metrics:
    - type: Resource
      resource:
        name: cpu
        target:
          type: Utilization
          averageUtilization: 60    # CPU 60% 유지 목표
  behavior:
    scaleDown:
      stabilizationWindowSeconds: 300  # 5분 안정화 후 축소
      policies:
        - type: Pods
          value: 2                      # 한 번에 최대 2개만 줄임
          periodSeconds: 60
    scaleUp:
      stabilizationWindowSeconds: 0    # 즉시 확장
      policies:
        - type: Percent
          value: 100                    # 한 번에 2배까지 확장 가능
          periodSeconds: 60

On-Demand m5.xlarge:  $0.192/h
Spot m5.xlarge:       $0.058/h (약 70% 절감)

CI/CD 러너 10대 × 8시간/일 × 22일
  On-Demand: $0.192 × 80h × 22 = $337.92/월
  Spot:      $0.058 × 80h × 22 = $102.08/월
  절감:      $235.84/월

# 개발/스테이징 환경 — 업무 시간에만 운영
# AWS Instance Scheduler 또는 K8s CronJob

# 평일 09:00 시작
0 9 * * 1-5 aws ec2 start-instances --instance-ids i-xxx

# 평일 20:00 중지
0 20 * * 1-5 aws ec2 stop-instances --instance-ids i-xxx

# 월 절감: 24h → 11h = 54% 절감 (주말 포함하면 더)

1순위: 슬로우 쿼리 제거 (무료 — 스펙 업 없이 성능 2~10배)
2순위: 읽기 캐시 (Redis/ElastiCache — DB 부하 50~80% 감소)
3순위: Read Replica (쓰기 노드 부담 분산)
4순위: RI/Savings Plan 적용 (1~3년 약정으로 40~60% 절감)
5순위: 인스턴스 Rightsizing (실사용 대비 과대할당 제거)

-- 슬로우 쿼리 예시: 풀 테이블 스캔
SELECT * FROM orders WHERE status = 'PENDING' AND created_at > '2026-01-01';
-- 실행 시간: 2.3초, 하루 10만 회 실행

-- 인덱스 추가 후
CREATE INDEX idx_orders_status_created ON orders(status, created_at);
-- 실행 시간: 0.005초 (460배 개선)

db.r6g.2xlarge: $0.958/h × 720h = $689.76/월
db.r6g.large:   $0.240/h × 720h = $172.80/월
절감: $516.96/월

Redis r6g.large (13GB):  $0.166/h × 720h = $119.52/월
DB 읽기 60% 절감 → DB 인스턴스 한 단계 축소: -$200/월

순 절감: $80.48/월 + DB 안정성 향상

문제: API 응답 평균 50KB × 일 1억 회 = 5TB/월
비용: 5TB × $0.09 = $450/월

최적화 1: gzip 압축 (평균 80% 감소)
  → 1TB/월 × $0.09 = $90/월 (절감 $360)

최적화 2: CDN (CloudFront) 적용
  → CloudFront egress: $0.085/GB (작지만 캐시 히트로 Origin 트래픽 감소)
  → 캐시 히트율 70%이면 Origin 트래픽 1.5TB → 0.45TB
  → 추가 절감 $94.5/월

# S3/DynamoDB 접근이 NAT를 타는지 확인
# VPC Flow Logs에서 NAT Gateway를 거치는 목적지 분석

# 해결: S3 Gateway Endpoint (무료!)
aws ec2 create-vpc-endpoint \
  --vpc-id vpc-xxx \
  --service-name com.amazonaws.ap-northeast-2.s3 \
  --route-table-ids rtb-xxx

# ECR/CloudWatch 등: Interface Endpoint ($0.01/h + $0.01/GB)
# NAT Gateway ($0.045/h + $0.045/GB)보다 저렴

현재: ECR pull 500GB/월 via NAT
  처리비용: 500GB × $0.045 = $22.50
  시간비용: $0.045/h × 720h = $32.40
  합계: $54.90/월

VPC Endpoint 전환 후:
  처리비용: 500GB × $0.01 = $5.00
  시간비용: $0.01/h × 720h = $7.20
  합계: $12.20/월
  절감: $42.70/월

# Kubernetes: 같은 AZ 우선 라우팅 (Topology Aware Routing)
apiVersion: v1
kind: Service
metadata:
  name: order-service
  annotations:
    service.kubernetes.io/topology-mode: Auto
spec:
  # ...

3개 AZ, 각 10개 Pod, 일 트래픽 10TB
  Cross-AZ 비율 66% → 6.6TB × $0.01 = $66/월
  Topology Routing 적용 후 Cross-AZ 20% → $20/월
  절감: $46/월

{
  "Rules": [
    {
      "ID": "LogLifecycle",
      "Filter": { "Prefix": "logs/" },
      "Status": "Enabled",
      "Transitions": [
        { "Days": 30,  "StorageClass": "STANDARD_IA" },
        { "Days": 90,  "StorageClass": "GLACIER_IR" },
        { "Days": 365, "StorageClass": "DEEP_ARCHIVE" }
      ],
      "Expiration": { "Days": 730 }
    }
  ]
}

문제: CloudWatch Logs 500GB/월
  수집: $0.50/GB × 500GB = $250
  저장: $0.03/GB × 500GB = $15 (1개월만)
  1년 보관: $15 × 12 = $180

최적화:
1) 불필요 로그 필터링 (DEBUG 레벨 제거 → 40% 감소)
2) 보존 기간 30→14일 설정
3) S3 Export로 장기 보관 (Glacier: $0.004/GB)

절감: $250 → $150/월 (수집) + 장기 보관 비용 90% 절감

# 30일 이상 된 스냅샷 찾기
aws ec2 describe-snapshots --owner-ids self \
  --query "Snapshots[?StartTime<='2026-02-20'].[SnapshotId,VolumeSize,StartTime]" \
  --output table

# Data Lifecycle Manager로 자동 정리 설정
# 최근 7개 스냅샷만 유지, 나머지 자동 삭제

# ❌ 흔한 문제: request가 너무 큼 → 노드 낭비
resources:
  requests:
    cpu: "2"          # 실제 사용 0.3 → 1.7 CPU 낭비
    memory: "4Gi"     # 실제 사용 800Mi → 3.2Gi 낭비
  limits:
    cpu: "4"
    memory: "8Gi"

# ✅ 실측 기반 설정 (VPA 추천값 참고)
resources:
  requests:
    cpu: "500m"       # P95 사용량의 1.2배
    memory: "1Gi"     # P99 사용량의 1.3배
  limits:
    cpu: "1"          # 버스트 허용
    memory: "1536Mi"  # OOM 방지 여유

# VPA 설치 후 추천값 확인
kubectl describe vpa order-service-vpa

# 출력 예시
# Recommendation:
#   Container: order-service
#     Lower Bound:  CPU: 250m,  Memory: 512Mi
#     Target:       CPU: 500m,  Memory: 1Gi
#     Upper Bound:  CPU: 1200m, Memory: 2Gi

# 혼합 노드 풀 전략
노드 풀 1 (On-Demand): 핵심 서비스 (API, DB proxy)
  - 인스턴스: m5.xlarge × 3 (최소)
  - 항상 유지

노드 풀 2 (Spot): 비동기/배치 워크로드
  - 인스턴스: m5.xlarge, m5a.xlarge, m4.xlarge (다양화)
  - 0~20대 오토스케일
  - 비용 70% 절감

노드 풀 3 (ARM/Graviton): 컴퓨트 집약 서비스
  - 인스턴스: m6g.xlarge (Graviton)
  - x86 대비 20% 저렴 + 성능 유사/우위

apiVersion: karpenter.sh/v1alpha5
kind: Provisioner
metadata:
  name: default
spec:
  requirements:
    - key: karpenter.sh/capacity-type
      operator: In
      values: ["spot", "on-demand"]
    - key: node.kubernetes.io/instance-type
      operator: In
      values: ["m5.xlarge", "m5.2xlarge", "m5a.xlarge", "m6g.xlarge"]
  limits:
    resources:
      cpu: "100"
  ttlSecondsAfterEmpty: 30   # 빈 노드 30초 후 제거
  consolidation:
    enabled: true              # 여유 노드 자동 통합

월별 컴퓨트 사용량 패턴 (6개월 관찰):

사용량 ▲
  100% │          ╱╲
   80% │    ╱╲  ╱    ╲   ╱╲
   60% │  ╱    ╲╱      ╲╱    ╲    ← 피크: On-Demand
   40% │╱                      ╲
   20% │━━━━━━━━━━━━━━━━━━━━━━━━  ← 바닥: RI/Savings Plan
    0% └─────────────────────────
       1월  2월  3월  4월  5월  6월

바닥(항상 필요한 양) = 전체의 약 40%
→ 이 40%만 RI/SP로 커밋 (1년 All Upfront)
→ 나머지 60%는 On-Demand + Spot 혼합

로그:   수집 ($0.50/GB) + 저장 ($0.03/GB/월) + 쿼리 ($0.005/GB)
메트릭: 커스텀 메트릭당 ($0.30/개/월) + API 호출 ($0.01/1000)
트레이스: 수집 ($5.00/M spans) + 저장 ($0.03/GB/월)

# OpenTelemetry Collector — Tail-based 샘플링 예시
processors:
  tail_sampling:
    decision_wait: 10s
    policies:
      - name: errors-always
        type: status_code
        status_code: { status_codes: [ERROR] }    # 에러는 100% 수집
      - name: slow-requests
        type: latency
        latency: { threshold_ms: 1000 }            # 1초 이상은 100%
      - name: normal-5-percent
        type: probabilistic
        probabilistic: { sampling_percentage: 5 }   # 정상은 5%

# AWS Budgets — 월 예산 초과 시 알림
aws budgets create-budget \
  --account-id 123456789012 \
  --budget '{
    "BudgetName": "monthly-total",
    "BudgetLimit": { "Amount": "5000", "Unit": "USD" },
    "TimeUnit": "MONTHLY",
    "BudgetType": "COST"
  }' \
  --notifications-with-subscribers '[
    {
      "Notification": {
        "NotificationType": "ACTUAL",
        "ComparisonOperator": "GREATER_THAN",
        "Threshold": 80
      },
      "Subscribers": [
        { "SubscriptionType": "EMAIL", "Address": "ops@example.com" }
      ]
    }
  ]'

정상 패턴: 일 $150~$170
이상 감지: 일 $250 (50% 증가)
  → 원인: 새 배치 잡이 m5.4xlarge를 24시간 방치
  → 조치: Spot + 완료 후 자동 종료 설정

{
  "Service": "order-service",
  "Environment": "production",
  "Team": "backend",
  "CostCenter": "engineering",
  "ManagedBy": "terraform"
}

{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Sid": "DenyUntaggedResources",
      "Effect": "Deny",
      "Action": [
        "ec2:RunInstances",
        "rds:CreateDBInstance"
      ],
      "Resource": "*",
      "Condition": {
        "StringNotLike": {
          "aws:RequestTag/Service": "?*",
          "aws:RequestTag/Environment": "?*",
          "aws:RequestTag/Team": "?*"
        }
      }
    }
  ]
}