목차 열기
트래픽 대응
티켓팅 서비스는 오픈 시각에 트래픽이 순간적으로 집중됩니다. 트래픽이 발생한 이후에 Pod를 확장하면 수십 초 단위 지연이 생겨 사용자 경험이 크게 저하됩니다. 이를 줄이기 위해 KEDA Pre-Warming, HPA, Karpenter를 조합해 피크 직전과 피크 중을 나눠 대응합니다.
문제점
다이어그램 렌더링 중...
트래픽 발생 후 Pod 확장까지 수십 초 단위 지연이 발생합니다. 이 구간 동안 사용자 요청이 처리되지 못해 타임아웃과 에러가 집중됩니다.
해결 전략: Pre-Warming
다이어그램 렌더링 중...
KEDA Cron 스케줄러를 활용해 티켓 오픈 전에 Pod를 미리 확장합니다. 오픈 시각에는 이미 필요한 Pod가 준비된 상태를 만들어 응답 지연을 줄입니다.
확장 전략 조합
| 전략 | 도구 | 효과 |
|---|---|---|
| Pre-Warming | KEDA Cron | 오픈 직전 목표 replica를 선반영 |
| Pod 자동 확장 | HPA (Horizontal Pod Autoscaler) | 실시간 부하 기반 Pod 증감 |
| Node 자동 확장 | Karpenter | 노드 자동 증설로 피크 대응 |
HPA와 KEDA를 함께 사용해 Pod 수준에서 먼저 대응하고, Karpenter가 노드 수준 확장을 보조합니다. Pod 준비가 늦지 않도록 노드 확장만 기다리지 않고 사전 확장을 함께 사용합니다.