8. 채널 부호화 정리 (Channel Coding Theorem) — 샤논 한계

핵심 인사이트 (3줄 요약)

1. 본질: 섀넌 제2 정리는 잡음 있는 채널에서도 오류 없는 통신이 가능함을 증명 — 코드율 R < C이면 오류율을 임의로 작게 만드는 부호가 존재한다.
2. 가치: 이 정리가 등장하기 전까지 "잡음 채널 = 오류 필수"로 여겼으나, 섀넌은 충분한 부호 길이와 올바른 구조로 오류를 사실상 0으로 줄일 수 있음을 보였다.
3. 판단 포인트: 터보 코드(1993), LDPC (Low-Density Parity-Check) 코드(1960/재발견), 폴라 코드(2009) — 이 세 부호가 섀넌 한계에 근접한 현대 채널 부호의 3대 이정표다.

Ⅰ. 개요 및 필요성

채널 부호화 정리 (Channel Coding Theorem, 섀넌 제2 정리):

"채널 용량 C를 가진 잡음 채널에서 코드율 R < C인 코드를 사용하면, 블록 길이 n을 충분히 크게 했을 때 비트 오류율 (BER, Bit Error Rate) 을 임의로 작게 만들 수 있다. 반면 R > C이면 BER은 0에 수렴할 수 없다."

R < C  →  BER → 0   (가능, 부호 길이 충분할 때)
R > C  →  BER ↛ 0   (불가능)

이 정리의 의의: 오류 없는 통신이 가능함을 증명 (구체적 코드 구성법은 별도 문제).

코드율 (Code Rate)

R = k/n   [bits/channel use]

k: 정보 비트 수
n: 코드워드 비트 수 (k + 잉여 비트)

• k=4, n=7 → R = 4/7 (해밍 코드)
• k=1/2, n=1 → R = 1/2 (반복 코드)

📢 섹션 요약 비유: 채널 부호화 정리는 "잡음 속 완벽한 편지"가 가능함을 증명한 것이다 — 편지를 여러 번 쓰고(잉여 비트), 수신자가 패턴을 분석하면(디코딩) 잡음 속에서도 원본 메시지를 완벽히 복원할 수 있다.

Ⅱ. 아키텍처 및 핵심 원리

섀넌 한계 접근 코드 연대표

1948  섀넌, 채널 부호화 정리 증명 (존재성만)
  │
1950  해밍 코드 — 최소 거리 3, 1비트 오류 정정
  │
1960  갈라거 (Gallager), LDPC 코드 제안 → 무시됨
  │
1993  베로 (Berrou) 등, 터보 코드 발표
       → AWGN에서 섀넌 한계 0.5dB 이내 달성 (충격!)
  │
1996  LDPC 재발견 (MacKay & Neal)
  │
2009  아르칸 (Arıkan), 폴라 코드 — 이론적으로 섀넌 한계 달성
  │
2016  3GPP, 5G NR 제어 채널에 폴라 코드 채택
  │
2018  5G NR 데이터 채널에 LDPC 채택

BER vs Eb/N0 곡선 (개념도)

BER (로그)
   │
10⁻¹ ├─────────────── 무코딩 ─────────────────
     │
10⁻³ ├─────────────────── 해밍(7,4) ──────────
     │
10⁻⁵ ├──────────────────────── 터보/LDPC ─────
     │
10⁻⁷ ├─────────────────────────────── 폴라 ───
     │
10⁻⁹ ├──────────────────────── 섀넌 한계 ─────
     └──────────────────────────────────────►
       0   2   4   6   8   10 [dB]  Eb/N0

섀넌 한계에 가까울수록 낮은 Eb/N0 (낮은 신호 에너지)에서도 낮은 BER 달성.

현대 채널 부호 비교

📢 섹션 요약 비유: 터보 코드의 반복 디코딩은 "두 선생님이 서로 채점 결과를 공유하며 정답 찾기"다 — 두 디코더가 서로의 소프트 정보를 교환하며 점점 확신 있는 결론으로 수렴한다.

Ⅲ. 비교 및 연결

터보 코드 구조

정보 비트 u
    ├──────────────────────────────►  인코더 1 (RSC₁)
    │                                     │
    ▼  인터리버 (Interleaver)              ▼
  u' (재정렬)                         패리티 비트 p₁
    │                                     │
    ▼                                     │
  인코더 2 (RSC₂)                         │
    │                                     │
    ▼                                     │
  패리티 비트 p₂               u + p₁ + p₂ 전송

RSC: Recursive Systematic Convolutional 코드

LDPC 코드의 태너 그래프 (Tanner Graph)

변수 노드 (Variable Nodes): v₁ v₂ v₃ v₄ v₅
                              │  │  │  │  │
        ─────────────────────╯ ╰─╯ ╰─╯ ╰─╯
체크 노드 (Check Nodes):      c₁  c₂  c₃

신뢰 전파: 변수 노드 ↔ 체크 노드 반복 메시지 교환

LDPC의 "저밀도 (Low-Density)" = 연결이 희소 = 신뢰 전파 수렴 빠름

폴라 코드의 채널 분극

n→∞일 때 채널을 n개의 "완전 잡음" 또는 "완전 신뢰" 채널로 분극화. 신뢰 채널에만 정보 비트 전송, 잡음 채널에 알려진 비트 전송.

이것이 이론적으로 섀넌 한계를 달성하는 첫 번째 명시적 구성법.

📢 섹션 요약 비유: 폴라 코드의 채널 분극은 "분류 작업"과 같다 — 모든 채널을 "믿을 수 있는 채널"과 "믿을 수 없는 채널"로 완벽히 나누어, 믿을 수 있는 것만 사용한다.

Ⅳ. 실무 적용 및 기술사 판단

5G NR 채널 부호 선정

5G NR 채널        채택 코드        이유
────────────────────────────────────────
제어 채널 (PDCCH)  폴라 코드        짧은 블록 최적
데이터 채널 (PDSCH) LDPC 코드       긴 블록, 높은 처리량

스토리지에서의 채널 부호

📢 섹션 요약 비유: LDPC가 5G 데이터 채널에 선택된 것은 "성능도 좋고 속도도 빠른 고속도로 설계"다 — 터보 코드보다 병렬 처리가 쉬워 Gbps급 처리에 유리하다.

Ⅴ. 기대효과 및 결론

채널 부호화 정리는 디지털 통신의 가능성 한계를 수학적으로 확정했다. 1948년 섀넌이 증명한 것은 존재성뿐이었지만, 이후 70년간의 코딩 이론 연구가 실제 달성 가능한 코드를 찾아냈다.

현재 5G, Wi-Fi 6, 위성 통신은 섀넌 한계의 0.1~0.5 dB 이내에서 동작한다 — 이론과 실제 사이 격차가 거의 사라진 놀라운 성취다.

📢 섹션 요약 비유: 섀넌이 "이 높이까지 점프 가능하다"고 증명했고, 70년 후 폴라 코드가 "실제로 그 높이를 점프했다" — 이것이 정보이론과 코딩 이론의 완성이다.

📌 관련 개념 맵

📈 관련 키워드 및 발전 흐름도

[섀넌 채널 용량 정리 (Shannon Channel Capacity)]
    │
    ▼
[블록 부호 (Block Code) — 해밍 코드 (Hamming Code)]
    │
    ▼
[터보 코드 (Turbo Code) — 반복 디코딩 (1993)]
    │
    ▼
[LDPC 부호 (Low-Density Parity-Check) — 5G 데이터]
    │
    ▼
[폴라 코드 (Polar Code) — 섀넌 한계 최초 달성]

채널 부호화 기술이 섀넌 이론의 증명에서 시작하여 5G 표준을 달성하는 폴라 코드까지 진화한 흐름이다.

👶 어린이를 위한 3줄 비유 설명

1. 채널 부호화 정리는 "잡음 있어도 완벽 전달 가능 증명": 편지를 여러 번 복사해서 보내는 방법이 있다면, 잡음 속에서도 완벽하게 받을 수 있다.
2. 터보 코드는 "두 선생님 교차 채점": 두 디코더가 서로 결과를 교환하며 점점 정확한 답으로 수렴한다.
3. 폴라 코드는 "확실한 채널만 사용하기": 믿을 수 있는 통로만 골라서 정보를 보내는 영리한 방법.