1051. VXLAN 오버레이 VTEP 터널링 연결기법 - 가상 확장 L2 네트워크 MAC-in-UDP 클라우드 데이터센터 네트워크 세그멘테이션 4096 VLAN 한계 극복

핵심 인사이트: 옛날 스위치에서 네트워크를 쪼개는 VLAN(가상 랜)은 아이디(VNI) 개수가 고작 4,000개였다. AWS 같은 클라우드가 생기면서 고객이 100만 명으로 늘어났는데, 방이 4,000개뿐이라 멘붕이 왔다. 게다가 L2 브로드캐스트(ARP)가 서버 10만 대를 덮치면 스위치가 터졌다. "야! VLAN 껍데기 버려! 기존 L2 패킷을 통째로 이더넷 UDP 포장지(L3) 안에 한 번 더 집어넣어서(MAC-in-UDP 캡슐화), 인터넷 라우팅이 되는 거대한 가상의 터널(오버레이)을 허공에 뚫어버려! 방 번호(VNI)도 1,600만 개로 뻥튀기되니까 클라우드 고객 1,600만 명을 완벽하게 격리할 수 있잖아!" 물리적 스위치의 한계를 찢고 구름 위의 가상 네트워크를 만든 혁명, VXLAN이다.

Ⅰ. 기존 802.1Q VLAN의 끔찍한 한계

클라우드 데이터센터(IDC)가 거대해지며 3가지 재앙이 터졌습니다.

  1. 방 개수의 한계: 802.1Q VLAN 태그는 12비트라서 네트워크를 최대 4,096개까지만 쪼갤 수 있습니다. 고객이 수만 명인 클라우드(Multi-Tenancy) 환경에선 방이 모자랍니다.
  2. 물리적 거리의 제약 (L2 한계): VLAN은 라우터(L3)를 넘어가면 태그가 벗겨져 죽습니다. 서울 IDC에 있는 서버 A와 부산 IDC에 있는 서버 B를 같은 랜선 방(L2)으로 묶을 수가 없었습니다.
  3. STP(스패닝 트리)의 낭비: L2 루핑을 막기 위해 길 하나를 일부러 끊어두는 STP 때문에 비싼 광케이블의 50%를 놀려야 했습니다.

Ⅱ. VXLAN (Virtual eXtensible LAN)의 탄생 🌟

  • 개념: 서버나 스위치에서 뿜어져 나오는 원래의 L2 패킷(MAC 프레임)을, 스위치(VTEP)가 낚아채어 그 겉면에 L3(IP)와 L4(UDP) 껍데기를 한 번 더 둘러씌워(MAC-in-UDP 캡슐화), 거대한 L3 라우터 네트워크 허공을 날아다니는 가상의 터널(Overlay)을 뚫어주는 기술입니다.

Ⅲ. VXLAN을 완성하는 마법의 부품들 🌟 핵심 기출 🌟

1. VTEP (VXLAN Tunnel End Point) - "터널의 입구와 출구"

  • 가장 중요한 장비입니다. 서버에 달린 하이퍼바이저(가상 스위치)나 최상단 물리 스위치가 이 역할을 합니다.
  • 동작: VM(가상 머신) 1번이 보낸 L2 패킷이 스위치 입구(VTEP)에 도착합니다. VTEP은 패킷을 까만 비닐봉지(UDP)에 담고, 그 위에 1051번 방(VNI)이라는 택배 송장을 붙여서 목적지 스위치(VTEP)를 향해 터널로 확 던져버립니다.

2. VNI (VXLAN Network Identifier) - "1,600만 개의 방"

  • 기존 VLAN 12비트(4,096개)를 버리고, 24비트의 광활한 주소 체계를 도입했습니다.
  • 무려 16,777,216개의 독립적인 가상 네트워크 방을 만들 수 있어, 클라우드에 입주한 수백만 개의 기업(테넌트) 트래픽을 완벽하게 서로 안 섞이게 격리시킵니다.

3. MAC-in-UDP 캡슐화 아키텍처

  • 오리지널 패킷 구조: [내부 MAC] + [페이로드]
  • VXLAN 포장 패킷: [외부 MAC] + [외부 IP] + [외부 UDP(포트 4789)] + [VXLAN VNI 태그] + [내부 MAC] + [페이로드]
  • 이 거대한 포장지(외부 IP/UDP) 덕분에 패킷은 라우터(L3)의 눈을 속이고 미국 뉴욕 IDC까지 고속도로를 타고 날아갈 수 있습니다. 뉴욕의 VTEP이 이 포장지를 쫙 뜯어내면? 오리지널 L2 패킷이 툭 떨어지며, 서울 서버와 뉴욕 서버가 물리적으로 바로 옆(L2)에 붙어있는 것처럼 통신이 되는 완벽한 가상화(오버레이)가 달성됩니다.

Ⅳ. VXLAN의 약점과 컨트롤 플레인의 부재

  • VXLAN의 뼈대는 훌륭하지만, 처음에 "어느 서버가 어떤 MAC 주소를 갖고 있는지(길 찾기 정보)"를 알아내기 위해 아날로그 방식인 멀티캐스트(Flood-and-Learn)를 써서 네트워크를 마비시켰습니다.
  • 이 무식한 묻지마 길 찾기를 고상하고 스마트한 자동 라우팅 체계로 바꿔준 기술이 바로 다음 장(1052번)에서 배울 EVPN-VXLAN입니다.

📢 섹션 요약 비유: 기존 VLAN은 물리적인 아파트 건물 안에 **'4,096개의 방(네트워크)'**을 쪼개놓고 문에 펜스로 선을 그어둔 것입니다. 방 개수도 모자라고, 서울 아파트와 부산 아파트를 같은 방으로 합칠 수도 없습니다(L2 라우터 장벽). VXLAN은 이 한계를 깨기 위해 발명된 **'우주 워프 게이트(VTEP)와 MAC-in-UDP 캡슐 캡슐 씌우기'**입니다. 방을 1,600만 개로 뻥튀기한 다음, 서울 아파트 1번 방에 사는 철수가 문을 나설 때 워프 게이트(VTEP)가 철수에게 '커다란 택배 박스(UDP L3 캡슐)'를 씌우고 부산 아파트 주소를 적어 우주선으로 쏴버립니다. 이 택배 박스는 서울과 부산 사이의 온갖 산과 강(L3 라우터들)을 다 뛰어넘어 부산 아파트 워프 게이트에 도착합니다. 박스를 뜯고 나온 철수는, 자기가 비행기를 탄 줄도 모른 채 부산 1번 방을 열고 영희와 1초 만에 악수를 합니다. 물리적인 거리와 쇳덩어리 기계의 장벽을 소프트웨어 껍데기로 완전히 우회해 버린 클라우드의 핵심 가상망 기술입니다.