3. 고유값/고유벡터 (Eigenvalue/Eigenvector) — Av = λv

핵심 인사이트 (3줄 요약)

1. 본질: Av = λv — 행렬 변환 A 아래서 방향이 바뀌지 않고 크기만 λ배 되는 특별한 벡터 v 가 고유벡터이며, 이것이 행렬의 핵심 구조를 드러낸다.
2. 가치: 반복 행렬 곱 연산 (AⁿB)을 고유분해로 O(n) 계산, 대칭 행렬의 실수 고유값 보장, 분산 방향 발견(PCA), PageRank의 지배 고유벡터 계산 등 응용이 방대하다.
3. 판단 포인트: 대칭 행렬 (A = Aᵀ) 은 항상 실수 고유값과 직교 고유벡터를 가진다 (스펙트럼 정리) — 이것이 공분산 행렬 분해와 PCA의 수학적 근거다.

Ⅰ. 개요 및 필요성

고유값 (Eigenvalue) / 고유벡터 (Eigenvector) 정의:

Av = λv   (v ≠ 0)

A: n×n 정방 행렬
v: 고유벡터 (eigenvector) ∈ ℝⁿ
λ: 고유값 (eigenvalue) ∈ ℂ (일반), ∈ ℝ (대칭 행렬)

기하적 의미: A가 나타내는 선형 변환(회전, 스케일, 전단)이 v 방향에는 스케일(λ배)만 작용하고 방향은 바꾸지 않는다.

특성 방정식 (Characteristic Equation)

(A - λI)v = 0   → 비자명 해 존재 조건:
det(A - λI) = 0   (특성 다항식 = 0)

n×n 행렬 → n차 다항식 → n개의 고유값 (중복 포함, 복소수 포함).

📢 섹션 요약 비유: 고유벡터는 "거울 변환 후에도 같은 방향을 가리키는 화살표"다 — 거울(A)로 반사해도 줄어들거나 늘어날 뿐(λ배), 방향이 안 바뀌는 특별한 화살표.

Ⅱ. 아키텍처 및 핵심 원리

2×2 행렬 고유값 계산 예시

A = ┌ 3  1 ┐
    └ 1  3 ┘

det(A - λI) = (3-λ)² - 1 = 0
λ² - 6λ + 8 = 0
λ₁ = 4,  λ₂ = 2

λ₁ = 4: (A - 4I)v = 0 → v₁ = [1, 1]ᵀ / √2
λ₂ = 2: (A - 2I)v = 0 → v₂ = [1,-1]ᵀ / √2

A를 v₁, v₂ 기저로 표현하면 대각 행렬 ┌4 0┐ └0 2┘.

고유분해 (Eigendecomposition)

n개의 선형 독립 고유벡터를 가지는 경우:

A = P Λ P⁻¹

P = [v₁ | v₂ | ... | vₙ]   (고유벡터 열로 구성)
Λ = diag(λ₁, λ₂, ..., λₙ)  (고유값 대각 행렬)

활용: Aⁿ = PΛⁿP⁻¹ — 반복 곱을 O(n) 스케일 연산으로!

스펙트럼 정리 (Spectral Theorem)

대칭 행렬 A = Aᵀ (또는 에르미트 행렬 A = A†):

1. 모든 고유값 λᵢ ∈ ℝ (실수)
2. 서로 다른 고유값의 고유벡터는 직교
3. 직교 정규 기저로 대각화 가능: A = QΛQᵀ (Q: 직교 행렬)

이것이 공분산 행렬 Σ (대칭 양반정치) 분해의 수학적 근거.

거듭제곱 반복법 (Power Iteration)

큰 희소 행렬에서 가장 큰 고유값 λ₁과 고유벡터 v₁:

v₀ (임의 초기화)
vₖ₊₁ = A·vₖ / ‖A·vₖ‖   (정규화)

충분히 반복하면 vₖ → v₁ (지배 고유벡터)
                 ‖A·vₖ‖/‖vₖ‖ → λ₁

PageRank 알고리즘의 핵심: 웹 그래프의 전이 행렬에 거듭제곱 반복 적용.

웹 페이지 그래프
  A ──► B ──► C
  │           │
  ▼           ▼
  D ◄─────── E

전이 행렬 P의 지배 고유벡터 = PageRank 점수 벡터

📢 섹션 요약 비유: PageRank의 고유벡터는 "인기 투표의 수렴점"이다 — 많은 인기 페이지가 링크할수록 더 높은 점수를 받고, 반복 계산이 결국 안정된 상태(지배 고유벡터)에 수렴한다.

Ⅲ. 비교 및 연결

고유분해 vs SVD 관계

진동 분석 (Structural Vibration)

기계 구조의 고유 진동수 (Natural Frequency) 계산:

K·x = ω²·M·x   (K: 강성 행렬, M: 질량 행렬)
K·M⁻¹·x = ω²·x  ← 고유값 문제!

고유값 ω²: 고유 진동수의 제곱
고유벡터: 진동 모드 형태

구조물 설계에서 외부 진동과 고유 진동수의 공진 (Resonance) 회피가 핵심.

분산 방향과 PCA 연결

데이터 공분산 행렬 Σ = 1/n XᵀX (X: 중심화 데이터):

Σ·v = λ·v

최대 고유값 λ₁에 대응하는 v₁: 데이터 변동이 가장 큰 방향 (1st PC)
두 번째 고유값 λ₂에 대응하는 v₂: v₁에 직교하는 방향 중 변동 최대 (2nd PC)

📢 섹션 요약 비유: 공분산 행렬의 고유벡터는 "데이터 구름의 주축"이다 — 타원형 구름이 있을 때 장축 방향이 1st PC(v₁, λ₁ 최대), 단축이 2nd PC(v₂, λ₂).

Ⅳ. 실무 적용 및 기술사 판단

QR 알고리즘 — 실용 고유값 계산

n > 3에서 특성 다항식은 근의 공식 없음 (Abel's theorem) → 반복 알고리즘 필요:

QR 알고리즘:
  A₀ = A
  Aₖ₊₁ = Rₖ · Qₖ   (Aₖ = Qₖ · Rₖ QR 분해 후 순서 뒤집기)

충분히 반복하면 Aₖ → 상삼각 (대각이 고유값)

LAPACK의 dgeev 등 모든 실용 고유값 루틴의 기반.

안정성 분석 — 미분 방정식 시스템

x' = Ax 형태의 선형 시스템:

해: x(t) = Σᵢ cᵢ eᵃᵢᵗ vᵢ

안정 조건: 모든 고유값의 실수부 Re(λᵢ) < 0

제어 시스템, 신경망 기울기 소실/폭발 분석에 활용.

기술사 판단 포인트

1. "대칭 행렬의 고유값이 항상 실수인 이유?" → 스펙트럼 정리 (에르미트 행렬의 성질)
2. "PageRank 수렴 조건은?" → 전이 행렬이 기약 비주기적 → 유일 정상 분포 = 지배 고유벡터
3. "PCA와 고유값의 관계는?" → 공분산 행렬의 고유벡터 = 주성분, 고유값 = 설명 분산량

📢 섹션 요약 비유: 안정성 분석의 고유값 실수부는 "시스템 붕괴 속도 미터기"다 — 실수부가 음수면 시간이 지날수록 안정화되고, 양수면 폭발적으로 성장한다.

Ⅴ. 기대효과 및 결론

고유값/고유벡터는 선형대수의 핵심 구조 도구다. 행렬이 나타내는 변환의 본질을 스케일(고유값)과 방향(고유벡터)으로 분리함으로써:

1. 복잡한 반복 연산을 단순화 (Aⁿ = PΛⁿP⁻¹)
2. 데이터의 주요 변동 방향 발견 (PCA)
3. 시스템 안정성 판단 (제어 이론)
4. 웹 중요도 계산 (PageRank)

스펙트럼 정리는 "대칭 = 직교 분해 가능"이라는 아름다운 사실을 제공하며, 물리·공학·데이터과학의 수많은 문제에서 활용된다.

📢 섹션 요약 비유: 고유분해는 "복잡한 춤 동작의 기본 스텝 분해"다 — 아무리 복잡한 회전·변형도 결국 몇 가지 기본 방향(고유벡터)과 크기(고유값)의 조합으로 설명된다.

📌 관련 개념 맵

📈 관련 키워드 및 발전 흐름도

[:---]
    │
    ▼
[고유값/고유벡터]
    │
    ▼
[특성 다항식]
    │
    ▼
[고유분해]
    │
    ▼
[스펙트럼 정리]
    │
    ▼
[거듭제곱 반복법]

이 흐름도는 :---에서 출발해 스펙트럼 정리까지 이어지며, 중간 단계가 기초 개념을 실무 구조로 발전시키는 과정을 보여준다.

👶 어린이를 위한 3줄 비유 설명

1. 고유벡터는 "흔들어도 방향 안 바뀌는 팽이": 행렬로 잡아 흔들어도(A 적용) 같은 방향을 유지하며 크기만 변한다.
2. 고유값은 "크기 조절 배율": λ=2면 2배 늘어나고, λ=-1이면 반대 방향으로 뒤집힌다.
3. PageRank는 "친구 추천 수렴": "중요한 페이지가 링크한 페이지가 중요하다"를 반복하면, 결국 안정된 중요도 순위(지배 고유벡터)에 수렴한다.