[넷퍼널] 트래픽 특성에 맞춘 정책 설계 (초기값 제안)

목표: 백엔드 과부하 없이 사용자 경험(이탈률, 응답성)을 최대한 보전하면서 정상 처리율(throughput) 을 유지.

1. 준비(사전정보 수집) — 반드시 먼저 측정할 것

• 정상시 평균 동시접속자(Active sessions), 피크시 초당 요청량(RPS), 평균 응답시간(Backend RT)과 95/99 퍼센타일 응답시간.

• 주요 보호 대상 URL(예: 결제, 예약, 구매 완료)과 비보호 URL(이미지, 정적 리소스) 구분.
  (이 데이터는 현실적인 부하 시나리오 작성과 허용값 산정에 필수). loadninja.com

2. 핵심 정책 요소(설계 항목)

• 보호 범위(Protection Scope): URL 패턴 또는 서비스별로 분리(예: /checkout, /reserve/*만 제어).

• 허용 동시 진입량(Admission Rate / Concurrency Limit): 백엔드가 안정적으로 처리할 수 있는 동시 처리량을 기준으로 설정. (초기값 = 백엔드 정상 처리 가능한 동시 연결 수 × 0.8 — 안전 마진 적용)NetFUNNEL

• 큐 유형: FIFO(공정성) vs 우선순위 큐(예: VIP, 관리자). 우선순위는 세션 로그인 여부·쿠키·IP·사용자 그룹 기반으로 설정. NetFUNNEL

• 세션 유지(Sticky / Session-aware Admission): 로그인/결제 흐름은 같은 사용자가 마지막 단계까지 이어지도록 세션 스티키 적용. NetFUNNEL

• 대기 UX 정책: 예상 대기시간, 순번(또는 퍼센트), 자동 새로고침 억제(anti-refresh) 기능 표시 — UX가 나쁘면 이탈률 급증. NetFUNNEL

3. 초기값(예시 — 실제 측정값으로 조정 필요)

이 숫자들은 예시입니다. 실제 시스템 로그·부하테스트 결과로 반드시 조정하세요.

• 목표 동시진입(Protected endpoint) = 백엔드 처리 동시수 × 0.8

• 큐 진입 속도(Release rate) = 초당 RPS 허용치 (예: 100 RPS 허용 시 초당 100명씩 배출)

• 최대 대기시간 = 5 ~ 10분 (서비스 특성에 따라 1분~30분 범위 검토)

• VIP 비율 = 전체 동시진입의 5~15% (비즈니스 요구에 따라)

• 리트라이(재시도) 정책: 클라이언트 사이드 리프레시 시 재큐 제한(예: 1분 내 3회 초과 차단)

4. 예외·정책 룰 우선순위 예시

1. 관리자(whitelist IP) — 즉시 통과

2. 기존 로그인 사용자(구매 흐름 이어가기) — 높은 우선순위

3. 일반 신규 방문자 — 표준 큐

4. 비정상 트래픽(봇/스캔 의심) — 차단 또는 저우선

5. 모니터링·알람 포인트 (정책 설계와 함께 반드시 등록할 것)

• 평균/피크 대기자 수, 평균 대기시간, 재시도율, 큐 빠져나간 비율(throughput), 백엔드 에러율(5xx 증가 시 자동 강도 조정), 이탈률.

• 정책 변경(릴리즈 레이트 변경) 시 A/B로 영향 비교.