832. 트래픽 섀도잉 (Traffic Shadowing) 및 카나리 배포 네트워킹 라우팅 전략

핵심 인사이트: 카카오톡 결제 시스템을 V1에서 V2로 업데이트했다. 개발자 컴퓨터에선 잘 돌아가는데, 전국 5천만 명이 동시 접속하는 내일 아침에도 서버가 안 터지고 버틸까? 모른다. 그래서 천재적인 테스트 방법이 나왔다. "야! 손님들이 V1 서버로 날리는 1만 개의 트래픽(결제 패킷)을 몰래 똑같이 1만 개 복사(그림자 복제)해서, 아직 오픈도 안 한 V2 서버로 쏟아부어봐! 손님들 돈이 두 번 빠져나가지 않게 V2의 응답은 쓰레기통에 버리고, 서버가 버티는지만 관찰해!" 이것이 망가질 걱정 0%로 실전 테스트를 하는 트래픽 섀도잉의 마법이다.

Ⅰ. 카나리 배포 (Canary Deployment) 네트워킹 제어

  • 개념: 광부들이 탄광에 독가스가 있는지 확인하려고 예민한 카나리아 새를 먼저 들여보냈던 것에서 유래한 배포 전략입니다.
  • 네트워크 라우팅의 예술:
    • 옛날엔 L4 스위치(라운드 로빈)로 그냥 50% 대 50%로 트래픽을 뿌렸습니다.
    • 현대의 L7 라우터(Ingress)나 서비스 메시(Istio)는 트래픽 비율을 소수점 단위로 미세 조절합니다.
    • 신버전(V2) 서버를 켜두고, 처음엔 전체 트래픽의 딱 1%만 V2로 꺾어버립니다. 에러가 안 터지는 걸 확인하면 5%, 10%, 100%로 밸브를 서서히 열어 V1을 자연스럽게 멸망시킵니다.
    • A/B 테스트와의 차이: 카나리는 "이 코드가 에러를 뿜는지 안 뿜는지(안정성)"가 목적이고, A/B 테스트는 "파란 버튼과 빨간 버튼 중 어떤 게 매출이 높은지(비즈니스 가치)"가 목적입니다.

Ⅱ. 트래픽 섀도잉 (Traffic Shadowing / Mirroring) 🌟

카나리 배포조차 두려운 1급 핵심 서비스(은행 계좌이체 등)를 업데이트할 때 쓰는 가장 완벽하고 극한의 안전 테스트 기법입니다.

1. 그림자 복제 통신 아키텍처 (어떻게 쏘는가?)

  • 복제 (Mirroring): L7 라우터(Envoy 프록시 등)가 실서비스 중인 V1 서버로 향하는 사용자들의 HTTP 트래픽을 가로채서, 원본은 V1으로 정상적으로 보내고, 복사본(Shadow)을 몰래 떠서 방금 갓 만든 신버전 V2 서버로 무자비하게 쏟아붓습니다.

2. 치명적 위험 차단: 응답(Response) 폐기 🌟

  • Fire and Forget: V2 서버도 이 복사본 패킷을 받고 열심히 DB를 뒤지고 결제 승인 연산을 돌립니다. 그리고 "결제 완료!"라는 응답을 돌려줍니다.
  • 하지만 L7 라우터는 V2가 보낸 응답(Response)을 절대 클라이언트(사용자 폰)에게 돌려주지 않고 그 자리에서 찢어서 쓰레기통에 버립니다. 오직 V1의 정상 응답만 손님에게 줍니다.
  • 손님은 자기가 V2 서버의 베타 테스트 마루타가 된 줄 꿈에도 모른 채 정상 서비스를 즐깁니다.

Ⅲ. 트래픽 섀도잉의 도입 목적과 효과

  • 완벽한 부하 테스트 (Real-world Load Testing): 아무리 QA팀이 가짜 더미(Dummy) 데이터를 만들어 부하를 걸어봐야, 금요일 저녁 진짜 유저들이 뿜어내는 예측 불허의 실전 트래픽 폭풍(버스트)을 재현할 수는 없습니다. 섀도잉은 **'가짜 유저가 아닌 100% 진짜 유저 트래픽'**으로 V2 서버의 맷집을 한 치의 오차 없이 검증해 냅니다.
  • 영향도 0% (Zero-Impact): 카나리 배포는 재수 없게 1%의 손님에 걸린 유저가 에러를 맛볼 수 있지만, 섀도잉은 응답을 버리기 때문에 사용자의 서비스 체감 영향도가 0%입니다. 완벽하게 격리된 '안전지대 샌드박스 테스트'입니다.

Ⅳ. 구현 시 주의점 (사이드 이펙트 억제)

  • 엄청난 주의가 필요합니다! 복제된 트래픽을 받은 V2 서버가 진짜 결제 DB에 붙어서 결제 승인 버튼을 두 번 눌러버리면 큰일 납니다.
  • 그래서 섀도잉 망을 짤 때는, V2 서버가 바라보는 DB도 반드시 껍데기만 남은 가짜(Dummy) 테스트 DB를 바라보도록 격리망(Mocking)을 철저히 설계해야 합니다.

📢 섹션 요약 비유: 카나리 배포가 식당에 온 100명의 손님 중 무작위 1명에게만 '개발 중인 신메뉴 국밥(V2)'을 몰래 먹여보고 배탈이 나는지 지켜보는 '조심스러운 실전 투입'이라면, **트래픽 섀도잉(그림자 복제)**은 절대 배탈이 나면 안 되는 VIP 식당의 '궁극의 백룸 테스트'입니다. 100명의 손님에게는 모두 검증된 원래 국밥(V1)을 정상적으로 대접합니다. 하지만 주방에서는 셰프(라우터)가 손님들의 식성(주문 트래픽)을 100% 똑같이 흉내 내어 '신메뉴 국밥 100그릇(V2)'을 주방 뒷방에서 미친 듯이 끓여냅니다. 손님상에는 절대 내지 않고, 끓인 국밥은 바로 하수구(응답 폐기)에 버립니다. 손님은 아무 피해를 입지 않고, 주방장은 신메뉴 100그릇을 제시간에 끓여낼 수 있는지(서버 부하와 성능) 100% 완벽한 실전 시뮬레이션을 완료할 수 있습니다.