573. 타임아웃 (Timeout) 및 재시도 (Retry) 백오프(Backoff) 전략

핵심 인사이트 (3줄 요약)

1. 본질: 타임아웃(Timeout)과 재시도(Retry) 전략은 마이크로서비스 환경에서 찰나의 네트워크 단절이나 순간적인 서버 과부하(Spike)를 0.1초 만에 우아하게 뭉개버려 유저에게 100% 쾌적한 200 OK를 던져주는 최전방 방어술이다.
2. 가치: 하지만 무지성으로 "1초 간격으로 3번 재시도해!"라고 세팅하면, 트래픽 폭주 시 1만 대의 클라이언트가 일제히 발을 맞춰 3만 번의 디도스(Self-DDoS) 폭격을 쏟아부어 죽어가는 백엔드 서버의 숨통을 완전히 끊어버린다.
3. 융합: 이를 막기 위해 **시간 간격을 기하급수적으로 늘리는 지수 백오프(Exponential Backoff)**와 랜덤 난수(Jitter)를 융합하여, 재시도 트래픽의 거대한 파도를 산산이 부숴버리는 확률적 분산 마술이 탄력성(Resiliency) 아키텍처의 절대 헌법으로 군림한다.

Ⅰ. 개요 및 필요성 (Context & Necessity)

• 개념:

  • Timeout (타임아웃): 남의 서버(API)를 찌르고 무한정 기다리다 내 스레드까지 말라 죽는 걸 막기 위해, "딱 3초만 대답 없으면 통신 선 잘라버려!(Fail-fast)"라고 선언하는 최소한의 멱살잡이.
  • Retry (재시도): 3초 타임아웃으로 에러가 났을 때, 유저한테 시뻘건 500 에러를 던지기 전에 "아마 네트워크 잠깐 튄 걸 거야 ㅋ 몰래 한 번 더 찔러보자"며 1~3회 정도 기회를 더 주는 회복술.

• 필요성 (Retry Storm, 재시도 폭풍의 멸망): 50개의 K8s 파드가 떠 있다. 결제 파드가 쿠폰 파드를 찔렀다. 쿠폰 파드가 1초 딜레이 렉을 먹었다. 결제 파드 1,000개가 "타임아웃 1초 컷! 재시도 갈겨!" 하면서 1초 뒤에 동시에 쿠폰 파드로 1,000방의 재시도 트래픽을 때려 넣었다. 쿠폰 파드는 원래 1,000건만 쳐내면 렉이 풀릴 운명이었는데, 갑자기 쏟아진 2,000건(원래 트래픽 + 재시도 트래픽)의 폭격에 메모리가 터져 뻗어버렸다. "에러를 덮으려던 재시도(Retry)가 오히려 폭주족(Thundering Herd)이 되어 내 시스템을 내가 디도스(Self-DDoS) 때려버렸다!!" 이 끔찍한 팀킬을 막기 위해 딜레이 시간을 예술적으로 흩뿌리는 백오프(Backoff) 전략이 발명되었다.

• 💡 비유: 무지성 재시도는 **'엘리베이터 문이 안 열린다고 10명이 동시에 1초 간격으로 열림 버튼을 발로 쾅쾅쾅 차대는 미친 짓'**입니다. 엘리베이터(서버)는 고장 나 버리죠. 지수 백오프와 Jitter는 **'사람들이 똑똑해지는 것'**입니다. 첫 번째는 1초 뒤에 문을 두드려봅니다. 안 열리면? 2초 뒤에 쳐보고, 그래도 안 열리면 4초 뒤, 8초 뒤에 쳐봅니다(기하급수적 대기). 게다가 10명이 똑같이 4초 뒤에 치는 게 아니라, 누구는 3.5초 뒤, 누구는 4.2초 뒤에(랜덤 난수 섞기) 뿔뿔이 흩어져서 노크합니다. 문(서버)이 받는 타격이 완벽하게 분산되어 부서지지 않습니다.

• 등장 배경 및 발전 과정:

  1. Constant Retry (과거): 1초, 1초, 1초. 정해진 시간마다 무지성으로 때림. 트래픽 폭발 원흉.
  2. Exponential Backoff (과도기): 1초, 2초, 4초, 8초. 지수 함수로 시간을 늘려주며 서버가 숨 쉴 틈을 벌어줌. 하지만 1만 대의 클라이언트가 여전히 발을 맞춰(Synchronized) 8초 뒤에 동시에 1만 번을 때리는 병렬 폭격의 한계는 못 벗어남.
  3. Backoff with Jitter (현재, AWS 헌법): 아마존(AWS) 아키텍트들이 뼈저리게 깨닫고 전파한 절대 법칙. "시간을 늘릴 때(Exponential), 무조건 거기다 랜덤한 숫자 0.1~0.9(Jitter)를 곱해서 더해라!" 파도처럼 몰려오던 트래픽이 모래알처럼 산산이 부서지며 서버에 솜털처럼 부드럽게 꽂히기 시작했다.

• 📢 섹션 요약 비유: 이 진화는 **'군대가 다리를 건너는 법'**과 똑같습니다. 수만 명의 군인이 군가를 부르며 똑같이 발을 구르며(동기화된 Retry) 행진하면 그 진동 주파수 때문에 튼튼한 다리(서버)가 무너져 내립니다(실제 타코마 다리 붕괴 사건). 지휘관은 다리를 건널 때 명령합니다. "발 맞추지 마! 다 지 맘대로 개판으로 뛰어!(Jitter 주입)." 발소리가 엇박자가 나면 충격이 흩어져 다리는 절대 무너지지 않습니다.

Ⅱ. 아키텍처 및 핵심 원리 (Deep Dive)

1. 지수 백오프 (Exponential Backoff) 의 수학적 마술

무턱대고 바로 찌르지 마라! 서버가 재부팅할 틈을 줘야 한다.

• 원리: 재시도 횟수가 늘어날수록, 다음번 찌를 때까지 기다리는 대기 시간(Delay)을 기하급수적으로(보통 2배씩) 늘려간다.
• 공식: WaitTime = BaseDelay * (Multiplier ^ Attempt)
  • 1차 재시도: 1초 * (2^0) = 1초 대기 후 찌름
  • 2차 재시도: 1초 * (2^1) = 2초 대기 후 찌름
  • 3차 재시도: 1초 * (2^2) = 4초 대기 후 찌름
  • 4차 재시도: 1초 * (2^3) = 8초 대기 후 찌름
• 효과: B 서버가 다운되어 K8s가 새 파드를 부팅하고 있다면 5초가 걸린다. 1초 간격으로 3번 찔렀으면 다 터지고 실패했겠지만, 지수 백오프로 4초, 8초를 기다려줬기 때문에 부팅이 끝난 B 서버가 3번째 시도 만에 200 OK를 뱉어내며 시스템이 복원된다.

2. Jitter (랜덤 난수) - "우르르 쾅쾅(Thundering Herd) 분쇄술" 💥

지수 백오프만으로는 군대 발맞춤을 못 깬다. Jitter가 진짜 핵심이다.

• 문제 (지수 백오프의 한계): 1만 명의 유저가 오후 12:00:00에 일제히 결제 버튼을 눌렀고, B 서버가 죽어있어 1만 명이 다 같이 에러를 처맞았다. 1만 명이 지수 백오프 로직을 탄다. 1만 명이 다 같이 1초 뒤에 1만 방을 쏘고 ➡ 다 같이 2초 뒤에 1만 방을 쏘고 ➡ 다 같이 4초 뒤에 1만 방을 쏜다! 딜레이 시간만 길어졌지, 특정 초(Second)에 스파이크(Spike) 폭격이 터지는 건 하나도 변하지 않았다.

• 해결 (Jitter 주입): 대기 시간에 랜덤한 잡음(난수)을 스까버린다.

  • Full Jitter 공식: WaitTime = Random(0, BaseDelay * (2 ^ Attempt))
  • 3차 재시도(원래 4초 대기)일 때, 어떤 클라이언트는 0.5초, 어떤 놈은 2.7초, 어떤 놈은 3.9초 등 0초 ~ 4초 사이의 무작위 시간에 뿔뿔이 흩어져서 서버를 찌른다.
  • 결과: 1만 개의 트래픽이 4초라는 넓은 도화지 위에 부드러운 평탄화(Smoothing) 곡선으로 스며들듯 분산되어, 서버가 1초에 2,500건씩 아주 쾌적하게 숨 쉬며 쳐낼 수 있게 된다.

• 📢 섹션 요약 비유: 지수 백오프만 쓴 건 **'학교 쉬는 종이 울리자 100명이 1초 뒤, 2초 뒤, 4초 뒤에 한꺼번에 화장실(서버) 문으로 우르르 몰려가는 짓'**입니다. 화장실 터집니다. Jitter를 섞은 건 **'선생님이 1번부터 100번까지 제비뽑기(난수)를 해서 4초 동안 한 명씩 천천히 화장실을 보내는 짓'**입니다. 화장실 변기는 평화롭게 100명을 소화해 냅니다.

Ⅲ. 융합 비교 및 다각도 분석

1. 에러 전파 방어 3단계 파이프라인 (Time -> Retry -> Circuit)

어설프게 하나만 쓰면 망한다. 이 3개는 완벽한 깔때기 조립 세트다.

과목 융합 관점

• 소프트웨어 공학 (멱등성 Idempotency, Retry의 선제 조건): 551장에서 언급한 절대 헌법이다. "재시도(Retry)는 무조건 서버 B가 멱등성 필터를 달아놨을 때만 쏴라!" GET(조회) 쿼리야 100번 재시도해도 데이터 안 변하니까 막 쏴도 된다. 근데 POST(돈 출금) API를 타임아웃 났다고 2번 더 쏘면? B 서버는 아까 "돈 출금 완료!" 쳐놓고 타임아웃 렉 걸려 대답만 늦게 한 건데, 1번 더 쏴버리면 돈이 2번 까인다. 아키텍트는 반드시 POST API 호출 시 HTTP 헤더에 Idempotency-Key: uuid-1234 난수를 발급해서 쏴주고, B 서버 DB에 이 키가 캐싱되어 있다면 "어 1초 전에 처리한 놈이네 ㅋ 걍 200 OK 뱉어!" 하고 로직을 씹게(Ignore) 만들어야 유저 돈이 복사되는 금융 대재앙을 막는다.

• 서비스 메시 (Istio Envoy 사이드카의 인프라 이관): 자바 스프링 뱃속에 @Retry(name="payment", maxAttempts=3) 이거 달고 코딩하면 소스가 더러워진다. 545장 이스티오(Istio)가 나타나면 끝이다! 개발자 코드는 "재시도? 타임아웃? 걍 1번 찌르고 끝내 ㅋ" 나체(Naked)로 둔다. 앱을 감싼 사이드카 프록시 도면에 retries: attempts: 3, perTryTimeout: 2s 이거 딱 2줄 발라준다. 앱은 1번 찔렀는데 실패했다? 프록시가 허공에서 패킷 낚아채서 지가 알아서 1초, 2초 딜레이 Jitter 섞어서 3번 쏴보고 200 OK 나면 앱한테 토스해 준다. 개발자는 영원히 재시도의 고통에서 해방되고 인프라가 네트워크 그물망 단에서 완벽한 회복(Resilience)을 튕겨내는 마술이다.

• 📢 섹션 요약 비유: 이스티오(Istio)의 인프라 재시도는 **'완벽한 비서'**와 같습니다. 사장님(앱 코드)은 비서에게 "A사에 서류 결재받아와(API 1번 찔러)" 지시하고 바로 딴 일(스레드 프리) 합니다. 비서(Envoy 프록시)가 A사에 갔는데 담당자가 자리에 없습니다(타임아웃). 사장님한테 전화 안 합니다. 비서는 커피 마시며 1분, 2분 기다렸다(Backoff) 3번 더 시도해 보고, 진짜 도장 받았을 때만 사장님 책상에 "받아왔습니다!" 올려놓는 완벽한 인프라 오프로딩(Offloading)입니다.

Ⅳ. 실무 적용 및 기술사적 판단

실무 시나리오

1. 시나리오 — '재시도 폭풍(Retry Storm)'이 부른 자가 디도스(Self-DDoS) 폭파 멸망: 쇼핑몰 이벤트 오픈에 트래픽이 평소 10배 뛰었다. 뒤에 있는 추천 서버 API가 버거워서 3초 타임아웃을 연발하기 시작했다. 문제는 앞단 50대 서버에 달아둔 "타임아웃 나면 1초 딜레이 주고 3번 재시도해!(Retry=3)" 룰이었다. 트래픽 1만 건이 타임아웃 나서 추천 서버를 찌르고 ➡ 3번씩 미친 듯이 융단폭격(1만 x 3 = 3만 건 추가)을 때리며 자가 디도스를 발사했다! 간신히 버티던 추천 서버는 우리 편이 쏜 3만 건의 재시도 폭풍에 숨통이 끊어지며 폭파되었다.

   • 아키텍트의 해결책: Jitter(난수) 삽입과 서킷 브레이커(Circuit Breaker)의 선 차단 방패 결합이다. Jitter를 안 섞으면 3만 건이 1초, 2초 뒤에 자로 잰 듯이 우르르쾅쾅 몰려든다. 무조건 공식에 랜덤 난수를 곱해 모래알처럼 흩뿌려야 한다. 그리고 가장 중요한 것! 서킷 브레이커(572장)가 없으면 Jitter 할아버지도 결국 뚫린다. "에러가 10% 넘어가면 아예 재시도(Retry) 로직조차 태우지 말고 차단기 스위치를 확 내려버려라(Fail-fast)!!" 차단기가 닫혀야만(Open) 무지성 폭격이 B 서버에 닿지 않고 입구 컷 당하여 B 서버가 살아남는다.

2. 시나리오 — '글로벌 타임아웃(Global Timeout)' 예산 오버런으로 인한 연쇄 타임아웃 증발: MSA 3계층 아키텍처다. API 게이트웨이(A) ➡ 결제 서버(B) ➡ 외부 PG사(C). A가 B한테 타임아웃을 10초 줬다. B는 C한테 타임아웃 5초를 줬다. C가 5초 렉이 걸려 타임아웃 터졌다! B가 5초 x 3회 재시도 = 15초 동안 지지고 볶고 개고생해서 결국 성공(200 OK)했다! 기뻐하며 A한테 결과를 틱 던졌다. 어? A서버(게이트웨이)는 이미 10초 땡 쳤을 때 "야 씨발 B새끼 대답 안 해 500 에러!" 유저한테 뱉고 이미 문 닫아 버렸다! (유저 이탈). B는 쓸데없이 15초 동안 혼자 고생하며 뻘짓(Orphan Request)을 한 것이다.

   • 아키텍트의 해결책: 타임아웃 예산(Timeout Budget) 릴레이 삭감 설계다. 무조건 상위 레이어의 타임아웃이 가장 길고, 밑으로 갈수록 짧아야 한다(깔때기 모양). 그리고 프록시 헤더에 x-envoy-upstream-rq-timeout-ms 같은 '남은 예산 시간'을 같이 보내서 찔러야 한다. A가 B를 찌를 때 "너 남은 시간 10초야!" 던진다. B가 C를 찌를 때 3초 까먹었다. 그럼 B는 2번째 재시도 때 "아씨 내 전체 예산(Budget)이 이제 2초밖에 안 남았네? 여기서 한 번 더 재시도해 봐야 어차피 5초 걸리니까 게이트웨이가 문 닫겠구나! 걍 여기서 재시도 포기하고 에러 뱉자!" 라고 깔끔하게 포기(Abort)하는 전 우주적 글로벌 타이머 연동이 MSA 타임아웃의 끝판왕이다.

도입 체크리스트

• 비즈니스적: "이 API가 재시도(Retry)를 10초 동안 돌릴 만큼, 유저가 인내심을 갖고 하얀 화면을 기다려줄 가치가 있는 코어(Core) 도메인인가?" 결제(Pay) 버튼은 무조건 살려내야 한다. 10초가 걸리더라도 유저 화면에 "결제 진행 중.. 절대 끄지 마세요!" 애니메이션을 띄워놓고 뼈를 깎는 Jitter 3회 재시도를 때려 박아서 기어코 200 OK를 따내 매출을 지켜야 한다. 반면 쿠팡 메인 화면의 "오늘의 추천 상품" 띄우는 API? 1초 딜레이 나면 무조건 타임아웃으로 칼 컷 쳐버리고(재시도 금지), 572장의 폴백(Fallback)으로 "가짜 깡통 추천 데이터"를 즉시 화면에 뿌려야 한다. 유저는 1초만 화면 안 떠도 앱을 지워버린다. 도메인 가치에 따른 철저한 비대칭 방어막 튜닝이 아키텍트의 몸값이다.
• 기술적: DB 쿼리 타임아웃(Query Timeout)과 Statement Timeout을 톰캣 타임아웃 밖에서 멱살 쥐고 있는가? 백엔드에서 5초 타임아웃 걸어놨는데, 오라클 DB에 쏜 쿼리가 풀스캔(Full-Scan) 타서 10분이 걸렸다! HTTP 타임아웃은 끝났지만, DB 쿼리를 쏜 톰캣(Tomcat) 스레드와 JDBC 커넥션은 DB가 대답해 줄 때까지 10분 동안 무한 락(Hang)이 걸려버려 결국 서버가 터진다. 아키텍트는 1) Nginx 대문 타임아웃, 2) Spring Tomcat 타임아웃, 3) JDBC 소켓 타임아웃, 4) DB 엔진 쿼리 타임아웃 이 4단계를 겹겹이 뚫어, DB 쪽(밑단) 타임아웃을 무조건 웹 쪽에 맞춰 짧게 찢어버려야(Fail-fast) 좀비 스레드가 완벽히 소멸한다.

안티패턴

• "Kafka 같은 비동기 메시지 큐(Message Queue) 환경에서 HTTP 식 무지성 짧은 재시도 때리기": 주문 파드가 카프카(Kafka)에 던진 "결제해 줘" 큐를 결제 파드가 읽다가 에러가 났다. 여기서 1초 백오프(Jitter)로 3번 재시도 때리고 안 돼서 "에러 퉤!" 하고 큐 메시지를 버려버렸다(Message Loss). 대참사다! 비동기 큐 생태계에서 에러가 나면 1초 뒤에 찌를 게 아니다. "카프카 비동기 환경에선 3초 타임아웃 이딴 거 없다. 에러 나면 그 메시지를 메인 큐에서 과감히 뽑아내어 '지연 큐(Delay Queue)'나 '데드 레터 큐(DLQ, Dead Letter Queue)'로 멱살 잡아 던져라. 그리고 10분 뒤, 1시간 뒤에 아주 천천히 좀비처럼 재시도를 돌려야 한다. 실시간(HTTP)과 비동기(Kafka)의 재시도 템포(Tempo)를 섞어 쓰는 순간 데이터가 공중분해 된다."

• 📢 섹션 요약 비유: HTTP 타임아웃은 **'패스트푸드점(실시간)'**입니다. 햄버거 시키고 5분 안에 안 나오면 환불(타임아웃 컷오프)하고 딴 데 갑니다. Kafka 비동기 재시도는 **'세탁소 수선 맡기기(비동기 큐)'**입니다. 3일 뒤에 찾으러 갔는데 "아직 수선 덜 됨" 하면 빡쳐서 옷 버립니까? 1주일 뒤에 다시 찾으러 갑니다(긴 주기의 DLQ 재시도). 시스템의 호흡(Tempo)에 맞춰 재시도의 간격을 재단해야 데이터가 살아납니다.

Ⅴ. 기대효과 및 결론

정량/정성 기대효과

미래 전망

• 머신러닝(AI) 주도형 어댑티브 타임아웃 (Adaptive Timeout): 옛날엔 개발자가 "음.. 3초 타임아웃!" 하고 하드코딩 쳐놨다. 피크 타임 땐 서버가 4초 걸리는데 3초에 다 짤려서 유저들이 500 에러 맞고 폭동이 터졌다(설정 실패). 이제는 이스티오(Istio)나 API Gateway 프록시 뱃속에 AI 봇이 들어간다. 이놈이 최근 1주일 치 P99 응답 속도 곡선을 머신러닝으로 씹어 먹고, 트래픽 한가할 땐 타임아웃을 1초로 쪼여버리고, 피크 타임엔 자기가 알아서 타임아웃 스위치를 4.5초로 유도리 있게 슥~ 늦춰주는 다이나믹 오토-튜닝(Dynamic Adaptive Control) 시대가 열려 수동 튜닝 노가다가 박멸 중이다.
• L7 계층의 세분화된 Hedging(헤징) 패턴 등장: 재시도의 끝판왕 마술이다. A 서버가 B 서버를 찌른다. 1초 대답이 없다. 여기서 타임아웃 끊고 재시도를 쏘는 게 아니라! 1초 시점에 '기존 요청 1번은 살려둔 채로, 똑같은 B 서버의 다른 파드(IP)로 2번 요청을 몰래 1발 더 발사(Hedging)' 해버린다. 두발 중 1발이라도 200 OK로 돌아오면, 늦게 온 놈 멱살은 쳐내고 무조건 빨리 응답한 놈 결과를 챙겨 유저한테 던지는 극한의 속도 쟁취 레이스다 (물론 읽기 GET 쿼리에만 써야 함). 구글 검색 엔진이 당신의 검색 속도를 0.01초 컷으로 만들어내는 미친 꼼수가 마이크로서비스 세상의 일상 기술로 내려왔다.

참고 표준

• AWS Architecture Blog - Exponential Backoff and Jitter: 아마존(AWS) 아키텍트가 전 세계 개발자들에게 "제발 클라우드에서 API 찌를 때 1초 단위 고정 재시도 좀 치지 마! 니들 때문에 우리 AWS 서버 인프라가 1만 개 단위로 쳐맞고 디도스 걸리잖아 ㅆㅂ!" 라며 빡쳐서 쓴, 전 우주 클라우드 백오프 난수(Jitter) 공식의 절대 바이블 문서.
• Resilience4j / Retry 모듈: 구식 넷플릭스 Hystrix를 박살 내고 등장한 자바 스프링 진영의 빛. @Retry(name="order", fallbackMethod="fallback") 1줄만 치면 100% 자바 8 함수형 코드로 백오프와 지터를 우아하게 엮어내는 글로벌 1티어 퓨즈 라이브러리.

타임아웃 (Timeout) 및 재시도 (Retry) 백오프 전략은 소프트웨어 공학이 도달한 **'통제할 수 없는 네트워크의 혼돈(Entropy)을, 확률과 시간의 분산(Time-Scattering)이라는 가장 우아한 수학적 마술로 뭉개버린 생존의 극치'**이다. 클라우드는 폭풍이 몰아치는 야생이다. 1초 뒤에 당신이 찌른 그 서버의 랜선이 쥐에 파먹혀 끊길지, 디스크가 타버릴지 아무도 장담할 수 없다(Zero-Trust). 과거의 멍청한 코드들은 이 단절 앞에서 영원히 입을 벌린 채 스레드를 고갈시키며 얼어 죽거나(Hang), 아니면 1만 대가 똑같이 발을 맞춰 재시도의 폭격을 날리다 기어코 피를 토하는 동료 서버를 압사시켜 버렸다(Retry Storm). 진정한 아키텍트의 칼날은 여기서 번뜩인다. 타임아웃 3초로 썩은 동아줄을 가차 없이 끊어내어 내 스레드의 숨통을 트이게 하고, 그 뒤에 찾아오는 공포의 침묵을 '지수 백오프(Exponential Backoff)'로 부드럽게 달랜다. 그리고 마지막으로, 수만 명 유저의 성난 재시도 트래픽 파도에 'Jitter(난수)'라는 파편화의 폭탄을 던져, 파도를 잔잔한 모래알처럼 흩뿌리며 죽어가는 서버의 뺨을 아주 깃털처럼 쓰다듬어 기어코 200 OK의 숨결을 살려낸다. 찰나의 폭주를 시간 축에 넓게 펴 바르고, 우르르 몰려드는 군중을 뿔뿔이 흩어버리는 이 압도적인 통제술. 이것이 바로 부서진 클라우드의 바다 위에서, 10만 명의 유저에게 단 1번의 시뻘건 500 에러도 보여주지 않고 무결점의 200 OK를 던져내는 클라우드 네이티브 항해사의 가장 은밀하고 위대한 사기극(Self-Healing)이다.

• 📢 섹션 요약 비유: 이 전략은 거친 파도를 넘는 **'서퍼(Surfer)의 무릎 반동'**과 같습니다. 파도(서버 렉)가 나를 세게 때릴 때(타임아웃 임계치), 무릎을 뻣뻣하게 펴고 버티면(무지성 무한 대기) 보드가 부러지고 물에 빠져 죽습니다. 훌륭한 서퍼는 파도가 칠 때 무릎을 스르륵 굽혀(백오프 대기) 충격을 흡수하고, 다음 파도의 박자가 흩어질 때(Jitter 난수) 다시 보드를 치고 올라와 멋지게 물살을 가릅니다. 파도(네트워크 렉)를 막는 게 아니라, 파도의 리듬을 타며 힘을 분산시켜 기어코 목적지에 도착하는 유연함의 미학입니다.

📌 관련 개념 맵 (Knowledge Graph)

👶 어린이를 위한 3줄 비유 설명

1. 1만 명의 친구가 인기 햄버거집(서버)에 몰렸는데, 햄버거가 좀 늦게 나온다고 1만 명이 1초 간격으로 다 같이 "아저씨 햄버거 줘요!!(무지성 재시도)" 소리치면 주방장 아저씨는 쓰러져 죽어요 ㅠㅠ (자가 디도스 대참사).
2. 그래서 똑똑한 규칙(백오프와 지터)을 만들었어요. "얘들아! 처음엔 1초 기다리고, 다음엔 2초, 그다음엔 4초 뒤에 소리쳐! 그리고 다 같이 소리치지 말고, 넌 1.5초 뒤, 넌 2.3초 뒤에(랜덤 난수) 눈치껏 흩어져서 소리쳐!"
3. 이렇게 외치는 시간을 고무줄처럼 늘리고, 서로의 목소리가 안 겹치게 흩뿌려주면(Jitter) 주방장 아저씨가 정신을 차리고 안전하게 1만 명의 햄버거(200 OK)를 다 만들어 낼 수 있는 짱 착한 기다림의 마법을 '백오프 재시도 전략'이라고 부른답니다!