186. 플래그(Flag) 방식 - 문자 삽입 (Character/Byte Stuffing) - DLE, STX, ETX

핵심 인사이트 (3줄 요약)

본질: 문자 삽입 (Character/Byte Stuffing)은 데이터 링크 계층 (Data Link Layer)에서 제어 문자를 프레임 경계로 쓰되, 본문 안에 같은 문자가 나타나면 이스케이프 처리를 넣어 경계를 보존하는 바이트 지향 프레이밍 기법이다.

가치: DLE (Data Link Escape), STX (Start of Text), ETX (End of Text)를 조합하면 길이 필드 없이도 프레임 시작과 끝을 구분하고, 일정 수준의 재동기화 (Resynchronization)도 가능하다.

판단 포인트: 문자 삽입은 이해하기 쉽지만 바이트 오버헤드와 문자 집합 의존성이 있어, 임의의 이진 데이터와 고속 회선에서는 비트 스터핑 (Bit Stuffing)보다 불리할 수 있다.

Ⅰ. 개요 및 필요성

문자 삽입은 연속된 바이트 스트림 속에서 프레임의 시작과 끝을 특수 제어 문자 시퀀스로 표시하는 방식이다. 송신기는 보통 DLE STX로 프레임 시작을, DLE ETX로 프레임 종료를 알린다. 수신기는 이 바이트 조합을 찾아 프레임 경계를 판정한다.

이 방식이 필요했던 이유는 길이 기반 프레이밍만으로는 오류 전파를 막기 어렵기 때문이다. 바이트 카운트 방식은 길이 필드 하나가 깨지면 다음 프레임까지 경계가 무너질 수 있다. 반면 문자 삽입은 스트림 중간에서 다시 DLE STX를 찾으면 어느 정도 재동기화할 수 있어, 문자 중심 통신 환경에서 더 실용적인 선택이 되었다.

아래 그림은 문자 삽입이 프레임 경계를 어떻게 표시하는지 보여 준다.

┌──────────────────────────────────────────────────────────────┐
│           Byte-oriented framing with control chars          │
├──────────────────────────────────────────────────────────────┤
│ DLE STX | payload byte ... payload byte ... | DLE ETX       │
│                                                              │
│ receiver state                                               │
│   HUNT ──(DLE STX)──▶ IN-FRAME ──(DLE ETX)──▶ DONE           │
└──────────────────────────────────────────────────────────────┘

핵심은 수신기가 길이를 세지 않고도 "경계 문자를 만날 때까지 읽는다"는 점이다. 따라서 프레임의 본질이 바이트 수보다 특정 기호의 출현으로 정의된다.

📢 섹션 요약 비유: 문자 삽입은 편지 봉투의 "여기서부터 본문 시작", "여기서 끝" 표식을 붙이는 것과 같다. 길이를 재지 않아도 표식만 찾으면 어디까지 읽어야 할지 알 수 있다.

Ⅱ. 아키텍처 및 핵심 원리

문제는 payload 안에 제어 문자와 같은 값이 우연히 들어올 수 있다는 점이다. 이를 해결하려고 DLE를 이스케이프 문자로 사용한다. 송신기는 payload 안에서 DLE가 나오면 DLE DLE로 하나 더 넣고, 수신기는 프레임 내부에서 DLE DLE를 만나면 데이터 DLE 하나로 복원한다. 즉 DLE는 다음 바이트를 "제어"로 읽을지 "데이터"로 읽을지 결정하는 예약 신호다.

송신 전 payload	송신 후 바이트열	수신기 해석
`A B C`	`DLE STX A B C DLE ETX`	일반 데이터 3바이트
`A DLE C`	`DLE STX A DLE DLE C DLE ETX`	중간의 `DLE DLE`를 데이터 `DLE`로 복원
`DLE ETX`라는 데이터	`DLE STX DLE DLE ETX DLE ETX`	앞 `DLE`가 escape 역할, `ETX`는 데이터로 처리

이 과정을 상태 기계로 보면 더 명확하다.

┌──────────────────────────────────────────────────────────────┐
│               수신기의 해석 상태 전이                       │
├──────────────────────────────────────────────────────────────┤
│ HUNT                                                        │
│   └─ DLE STX 수신 → frame buffer 시작                       │
│                                                              │
│ IN-FRAME                                                     │
│   ├─ 일반 바이트  → 그대로 저장                             │
│   ├─ DLE DLE     → DLE 한 바이트 저장                       │
│   └─ DLE ETX     → 프레임 종료                              │
└──────────────────────────────────────────────────────────────┘

이 방식의 장점은 경계 인식 규칙이 단순하다는 데 있다. 하지만 payload에 DLE가 많이 들어가면 stuffing 오버헤드가 커지고, 모든 문자를 바이트 단위로 검사해야 하므로 처리 비용도 증가한다. 그래서 문자 삽입은 "단순하지만 항상 효율적인" 방식은 아니다.

📢 섹션 요약 비유: 문자 삽입은 글 속 따옴표를 다룰 때 역슬래시를 붙이는 규칙과 같다. 특별한 표식을 그냥 쓰면 문장이 끝난 줄 알 수 있으니, 앞에 보호 표시를 붙여 "이건 내용일 뿐"이라고 알려 주는 것이다.

Ⅲ. 비교 및 연결

프레이밍 기법은 경계를 어디에 두느냐에 따라 성격이 갈린다. 바이트 카운트는 길이를 세고, 문자 삽입은 제어 문자를 찾고, 비트 스터핑은 특정 비트 패턴을 찾는다. 문자 삽입은 그중 바이트 지향과 재동기화 가능성의 절충안에 해당한다.

방식	경계 기준	장점	약점
바이트 카운트 (Byte Counting)	길이 필드	오버헤드 작음	길이 오류가 연쇄 전파
문자 삽입 (Character Stuffing)	`DLE STX`, `DLE ETX`	규칙 이해 쉬움, 재동기화 가능	escape 오버헤드, 문자 집합 의존
비트 스터핑 (Bit Stuffing)	`01111110` 같은 비트 플래그	이진 데이터에 강함, 현대성 높음	구현 복잡도 상승

문자 삽입은 과거 IBM의 BSC (Binary Synchronous Communication) 같은 바이트 지향 프로토콜과 잘 맞았다. 반면 임의의 바이너리 payload가 많고 회선 속도가 높아질수록 바이트 단위 제어 문자보다 비트 단위 플래그가 더 적합해졌다. 이 때문에 오늘날 고속 링크에서는 HDLC (High-Level Data Link Control)류 비트 지향 프레이밍이 주류가 되었다.

소프트웨어 계층과도 연결된다. JSON 문자열에서 따옴표 앞에 백슬래시를 넣거나, CSV 내부 쉼표를 따옴표로 감싸는 규칙 역시 "제어 기호가 본문에 섞였을 때 escape를 넣는다"는 점에서 문자 삽입과 같은 사고방식을 따른다.

📢 섹션 요약 비유: 세 방법은 물건을 포장하는 세 방식과 같다. 하나는 상자 겉면에 개수를 적는 방식이고, 하나는 시작과 끝에 리본을 묶는 방식이며, 하나는 내용물이 어떤 모양이어도 안 헷갈리게 특수 매듭 규칙을 쓰는 방식이다.

Ⅳ. 실무 적용 및 기술사 판단

실무에서는 문자 삽입을 저속 직렬 통신, 제어 문자 체계가 명확한 장비 간 통신, 텍스트 성격이 강한 프로토콜에 적용하기 쉽다. 구현이 단순하고 디버깅 시 사람이 바이트 스트림을 해석하기도 쉽기 때문이다. 하지만 payload가 임의 이진 데이터 중심이면 DLE가 자주 등장할 수 있어 오버헤드가 커지고, 바이트 경계에 묶인 처리 특성 때문에 고속 링크에는 비효율적일 수 있다.

체크리스트

통신 환경이 바이트 지향이며 제어 문자 규약을 공유하는가?
payload에서 escape 대상 문자가 얼마나 자주 등장하는지 측정했는가?
프레임 중간 오류 발생 시 다음 DLE STX 탐색으로 재동기화할 수 있는가?
문자 삽입보다 비트 스터핑이나 길이 필드가 더 단순한 환경은 아닌가?

안티패턴

대용량 이진 파일 전송에 문자 삽입을 기본값으로 고집하는 설계
escape 처리 없이 STX, ETX, DLE를 payload에 그대로 허용하는 설계
CRC (Cyclic Redundancy Check) 같은 오류 검출 없이 경계 문자만 믿는 설계

기술사 답안에서는 "문자 삽입은 경계 인식만 해결하지, 오류 검출까지 해결하는 것은 아니다"를 분명히 적는 것이 중요하다. 프레이밍과 에러 검출은 다른 계층적 책임이며, 실제 프로토콜은 보통 두 메커니즘을 함께 사용한다.

📢 섹션 요약 비유: 문자 삽입은 행사장 입구에 안내 리본을 치는 일과 같다. 리본이 있으면 어디로 들어오고 나가야 하는지는 알 수 있지만, 초대장이 진짜인지 가짜인지는 별도의 검사대가 또 필요하다.

Ⅴ. 기대효과 및 결론

문자 삽입 방식의 가장 큰 효과는 바이트 스트림에 경계를 부여해 수신기가 프레임 단위로 데이터를 해석할 수 있게 한다는 점이다. 길이 필드 하나에 전적으로 의존하지 않으므로 일부 환경에서는 재동기화 능력도 좋아진다. 또한 제어 문자 기반 규칙이 단순해 교육용·설계 설명용으로도 매우 유용하다.

그러나 이 방식은 문자 집합과 escape 규칙에 묶여 있어 임의 이진 데이터가 많은 현대 고속 네트워크에는 한계가 있다. 결국 프레이밍 기술은 "무엇을 구분자로 삼을 것인가"의 역사이며, 문자 삽입은 그중에서 바이트 지향 통신 시대를 대표하는 해법이다.

따라서 이 개념은 단순히 DLE STX ... DLE ETX를 외우는 것이 아니라, 제어 기호가 데이터 안에 섞이면 escape가 필요하다는 일반 원리로 기억해야 한다. 그 원리는 오늘날의 문자열 인코딩, 직렬 통신, 프로토콜 설계 전반에 여전히 살아 있다.

📢 섹션 요약 비유: 문자 삽입은 중요한 단어에 따옴표를 치되, 내용 속 따옴표에는 다시 보호 표식을 붙이는 글쓰기 규칙과 같다. 경계를 만들고, 그 경계가 본문과 충돌하지 않게 지켜 주는 기술이다.

📌 관련 개념 맵

개념	연결 포인트
프레이밍 (Framing)	연속 비트/바이트 스트림에 프레임 경계를 부여하는 상위 문제
바이트 카운트 (Byte Counting)	문자 삽입과 대비되는 길이 기반 경계 지정 방식
비트 스터핑 (Bit Stuffing)	문자 삽입을 비트 지향 프로토콜로 확장한 현대적 방식
이스케이프 문자 (Escape Character)	제어 문자와 데이터 문자를 구분하기 위한 핵심 장치
CRC (Cyclic Redundancy Check)	프레이밍과 별도로 오류 검출을 담당하는 메커니즘

📈 관련 키워드 및 발전 흐름도

연속 바이트 스트림의 경계 문제
    │
    ▼
바이트 카운트 (Byte Counting)
    │
    ▼
제어 문자 프레이밍 (STX / ETX)
    │
    ▼
DLE 기반 문자 삽입 (Character Stuffing)
    │
    ▼
비트 스터핑 · HDLC 같은 비트 지향 프로토콜

이 흐름은 단순 길이 표기에서 출발해, 제어 문자 기반 프레이밍과 escape 규칙을 거쳐 보다 일반적인 비트 지향 프레이밍으로 발전하는 과정을 요약한다.

👶 어린이를 위한 3줄 비유 설명

문자 삽입은 상자 앞에 "시작" 표지와 "끝" 표지를 붙여서 어디까지가 한 상자인지 알려 주는 방법이에요.
그런데 상자 안 물건에도 똑같은 표지가 있으면 헷갈리니까, 그 앞에 "이건 진짜 표지가 아니야"라는 표시를 하나 더 붙여요.
그래서 받는 사람은 가짜 표지와 진짜 표지를 구분해서 상자를 정확히 열 수 있어요.