198. 멀티코어 스케줄링 (Multicore Scheduling) - 메모리 스톨 (Memory Stall) 대응

핵심 인사이트 (3줄 요약)

본질: EDF (Earliest Deadline First) 스케줄링은 하드 실시간(Hard Real-time) 시스템에서 **"현재 시점을 기준으로 마감 시간(Deadline)이 가장 임박한 태스크에게 최우선순위를 부여"**하는 동적(Dynamic) 선점형 스케줄링 알고리즘이다.

가치: 고정된 주기를 따지는 RM(Rate Monotonic)과 달리 매 순간 우선순위를 유연하게 재계산하므로, CPU 이용률(Utilization)을 수학적 한계인 100%까지 극한으로 쥐어짜면서도 데드라인 방어가 가능한 이론적 무결성을 자랑한다.

융합: 그러나 런타임에 끊임없이 남은 데드라인을 빼기 연산하고 큐를 정렬해야 하는 무거운 오버헤드와, 100% 부하를 초과하는 순간 연쇄적으로 데드라인이 터져나가는 도미노 현상(Domino Effect) 때문에 범용 커널보다는 동영상 코덱(Soft RTOS) 등 제한적 환경에 주로 쓰인다.

Ⅰ. 개요 및 필요성

개념: 시스템에 스케줄링 이벤트가 발생할 때마다, 준비 큐(Ready Queue)에 있는 모든 태스크들의 **절대적 데드라인(Absolute Deadline, 마감 시간)**을 쳐다보고, 가장 시간이 안 남은 촉박한 녀석에게 무조건 CPU를 몰아주는 방식이다.
필요성: RM 스케줄링은 구현이 너무 편했지만 CPU를 69% 이상 쓰면 데드라인 펑크가 날 수 있다는 치명적 자원 낭비(31% 유휴)의 족쇄가 있었다. 비싼 CPU(자원)를 100% 꽉 채워서 효율적으로 쓰고 싶다는 열망이 스케줄러가 매번 머리를 써서 융통성을 발휘하는 EDF(동적 스케줄링)의 탄생을 불렀다.
등장 배경: 리우와 레이랜드가 RM을 발표할 때 함께 제안한 알고리즘으로, RM이 "정적 우선순위에서의 최적(Optimal)"이라면, EDF는 "동적 우선순위에서의 최적"임을 수학적으로 증명해 냈다. CPU 자원이 극도로 희귀했던 시절, 자원을 버리지 않고 100% 쓸 수 있다는 점은 학계의 거대한 찬사를 받았다.

  [EDF 알고리즘의 동적 우선순위 갱신 매커니즘]

  [ 시간 T = 10ms 시점 ]
  ▶ 태스크 A (마감: 50ms) ─▶ 남은 시간 40ms 
  ▶ 태스크 B (마감: 30ms) ─▶ 남은 시간 20ms (🥇 제일 급함! B 실행!)
  
  [ 시간 T = 25ms 시점 (B 종료, C 새로 도착) ]
  ▶ 태스크 A (마감: 50ms) ─▶ 남은 시간 25ms (🥇 어라? 이제 내가 제일 급하네! A 실행!)
  ▶ 태스크 C (마감: 80ms) ─▶ 남은 시간 55ms 
  
  >> 고정된 신분(VIP)이 없다. 어제는 꼴찌였던 A가 시간이 흘러 마감이 다가오면
     자연스럽게 최우선순위(VIP)로 신분 상승하는 철저한 "마감 임박 순" 체제다.

[다이어그램 해설] RM은 한 번 정해진 우선순위가 요지부동이지만, EDF는 시간이 째깍째깍 흐를 때마다 모든 태스크의 우선순위가 실시간으로 뒤바뀐다. 스케줄러가 이 융통성을 발휘하기 위해 끊임없이 남은 시간을 계산하고 큐를 재정렬(Sorting)해야 하는 것이 바로 동적(Dynamic) 스케줄링의 묘미이자 짐(오버헤드)이다.

📢 섹션 요약 비유: 병원 응급실에서 "어제 온 감기 환자(A)"와 "방금 실려 온 심정지 환자(B)"가 있을 때, 도착 순서(FCFS)나 고정된 신분(RM)이 아니라, "지금 당장 의사를 안 보면 죽을 시간이 가장 짧게 남은 사람(B)"을 무조건 먼저 살려내는 극한의 트리아지(응답성) 시스템입니다.

Ⅱ. 아키텍처 및 핵심 원리

EDF의 CPU 100% 쥐어짜기 시뮬레이션 (RM의 붕괴점 돌파)

RM은 69%가 넘으면 터진다고 했다. 똑같이 CPU 이용률이 **90%**에 달하는 살인적인 과부하 시나리오를 EDF가 어떻게 방어하는지 증명한다.

[시나리오 조건]

태스크 1 (T1): 주기=5, 실행 시간=2 ─▶ 이용률 40%
태스크 2 (T2): 주기=10, 실행 시간=5 ─▶ 이용률 50%
총 이용률(U) = 90% (RM의 한계선 69.3%를 한참 초과함 🚨)

  ┌──────────────────────────────────────────────────────────────────────┐
  │         [1] RM 적용 시 (실패!) - 고정 우선순위의 비극                │
  ├──────────────────────────────────────────────────────────────────────┤
  │  0      2         7      9    10 (🚨 T2 데드라인)                    │
  │  │██ T1 │░░░ T2 ░░│██ T1 │░░ T2 │ (펑크 발생!)                       │
  │                                                                      │
  │  분석: T1(주기5)이 무조건 VIP. 7ms 시점에 T1이 또 새치기해서 들어옴. │
  │  T2는 10ms 안에 5ms를 채워야 하는데, T1이 4ms나 빼앗아가서           │
  │  10ms가 될 때까지 4ms밖에 실행 못함. 💥 데드라인 미스 참사!          │
  └──────────────────────────────────────────────────────────────────────┘

  ┌──────────────────────────────────────────────────────────────────────┐
  │         [2] EDF 적용 시 (성공!) - 동적 우선순위의 기적               │
  ├──────────────────────────────────────────────────────────────────────┤
  │  0      2         7      10 (T2 종료)                                │
  │  │██ T1 │░░░ T2 ░░░░░░░░░│ (T1 2회차 실행 지연)                      │
  │                                                                      │
  │  분석: 7ms 시점에 두 번째 T1(마감 10)이 도착했다.                    │
  │  하지만 이때 T2의 마감도 10으로 똑같다. EDF는 하던 T2를 멈추지 않고  │
  │  그냥 쭉 실행시켜 10ms 안에 5ms를 꽉 채워 살려낸다. 그 직후 T1이     │
  │  나머지 시간에 돌아간다. 90% 부하에서도 완벽히 방어 성공! ✅         │
  └──────────────────────────────────────────────────────────────────────┘

[다이어그램 해설] RM의 약점은 "융통성 없는 고집"이다. T2가 지금 당장 안 끝나면 죽는데도, 룰에 따라 주기가 짧은 T1이 무식하게 새치기를 해버려 둘 다 망친다. 반면 EDF는 "어? 너(T1) 마감 10초 남았고 얘(T2)도 10초 남았네? 굳이 교체(선점)하지 말고 하던 애 먼저 끝내자"라며 유연하게 방어막을 형성한다. 이 완벽한 융통성 덕에 수학적으로 CPU 이용률(U) = 1.0 (100%) 이하이기만 하면 절대 펑크가 나지 않음이 증명되었다.

📢 섹션 요약 비유: 원칙주의자 사장님(RM)은 마감 1시간 남은 큰 프로젝트(T2)를 하던 직원에게 "무조건 아침 9시엔 커피 타는 일(T1)부터 해!"라고 강요해서 회사를 망하게 합니다. 센스 있는 사장님(EDF)은 "커피는 11시에 마셔도 되니까, 당장 10시 마감인 프로젝트부터 끝내!"라며 상황에 맞춰 융통성을 발휘합니다.

Ⅲ. 비교 및 연결

과부하(Overload) 시의 최악의 단점: 도미노 효과 (Domino Effect)

CPU 100%까지 쓴다는 건 평상시엔 축복이지만, 이벤트가 폭주하여 이용률이 101%를 넘는 순간(Overload) EDF는 세상에서 가장 끔찍한 악마로 돌변한다.

과부하 대처	RM (Rate Monotonic)	EDF (Earliest Deadline First)
희생자 선택	무조건 주기가 긴(우선순위 낮은) 녀석들부터 순서대로 죽어나감. (예측 가능, 통제 가능)	누가 죽을지 전혀 예측 불가.
도미노 현상	한쪽 구석의 하위 태스크만 계속 실패함 (방화벽 존재)	"다 같이 죽자" (도미노 효과 폭발)

[도미노 효과 붕괴 원리] 101% 부하가 터졌다. A가 마감이 임박해 CPU를 잡아 간신히 완료했다(이미 늦음). 그 사이 B의 마감도 코앞이 되어 B가 CPU를 잡지만 또 늦게 끝난다. 그 사이 C도 마감이 지나간다. 스케줄러가 "마감 급한 놈부터!"라며 이리저리 코어(CPU)를 찢어 발기지만, 이미 모두의 데드라인이 턱밑까지 온 상태라 결국 A, B, C, D가 모두 데드라인을 조금씩 넘기며 다 같이 사이좋게 폭망해 버린다. 반면 RM은 A(중요도 높음)는 살리고 쩌리인 D만 확실하게 쳐내는 냉혹함을 보여준다.

📢 섹션 요약 비유: 빚이 100만 원(과부하) 터졌을 때, RM은 막내아들 학원(하위 태스크) 하나를 딱 끊어버리고 가정을 지킵니다. 하지만 평등주의자 EDF는 첫째 학원비, 둘째 밥값, 셋째 용돈을 조금씩 다 깎아서 돌려막기를 하다가 결국 가족 전체가 굶어 죽는 끔찍한 연쇄 부도(도미노)를 맞이합니다.

Ⅳ. 실무 적용 및 기술사 판단

실무 시나리오

소프트 실시간 환경의 멀티미디어 코덱 (Video/Audio Decoding): EDF는 자동차 브레이크(하드)에서는 도미노 붕괴의 공포 때문에 잘 쓰이지 않는다. 하지만 넷플릭스 4K 영상을 디코딩하거나 오디오 믹싱을 할 때는 최고의 선택이다. 영상은 "60프레임(16ms)마다 무조건 다음 프레임 디코딩"이라는 데드라인이 명확하다. EDF를 쓰면 시스템 자원의 99%를 동영상 디코딩에 쥐어짜 내어 화질 저하를 막을 수 있으며, 가끔 과부하가 걸려 도미노로 프레임 몇 개가 뭉개져도(Soft Real-time) 사람이 죽지 않으므로 매우 훌륭한 타협이 된다.
리눅스 커널의 SCHED_DEADLINE 도입 (2014년): 리눅스 커널 3.14 버전에 이르러서야 실무 해커들이 이 학술적 알고리즘을 커널 메인스트림에 박아 넣었다. 단순히 EDF만 구현한 게 아니라, 도미노 현상을 막기 위해 **CBS (Constant Bandwidth Server)**라는 방어막 기술을 융합했다. 태스크가 약속한 예산(Budget) 이상으로 CPU를 쓰려 하면(과부하 징후), 스케줄러가 강제로 이 태스크의 데드라인을 미래로 뻥 차버려서(연기시켜서) 뒷사람들에게 피해가 가는 끔찍한 도미노 효과를 OS 레벨에서 원천 차단해 낸 위대한 공학적 성과다.

  ┌─────────────────────────────────────────────────────────────────┐
  │     하드 리얼타임 스케줄러 선택 (RM vs EDF) 아키텍트 가이드     │
  ├─────────────────────────────────────────────────────────────────┤
  │                                                                 │
  │   [요구사항: 미사일 요격 제어 시스템 구축]                      │
  │                │                                                │
  │                ▼ 1. 비용(하드웨어)과 안정성 중 무엇이 우선인가? │
  │      [ 돈이 넘치고 절대 죽으면 안 됨 (안전 100%) ]              │
  │       ├─▶ CPU를 2배 비싼 걸 사서 전체 이용률을 60% 이하로 낮춤  │
  │       ├─▶ 스케줄러: RM (Rate Monotonic) 채택                    │
  │       └─▶ 효과: 과부하 위험도 없고 오버헤드도 없는 완벽 방어    │
  │                                                                 │
  │      [ 장비가 소형이라 CPU 성능을 100% 한계치까지 써야 함 ]     │
  │       ├─▶ 스케줄러: EDF (Earliest Deadline First) 채택          │
  │       ├─▶ 보완책: 반드시 CBS 대역폭 통제기를 앞단에 달아        │
  │                   과부하(Overload) 도미노를 물리적으로 방어     │
  │       └─▶ 효과: 저사양 칩셋에서도 100% 자원을 뽑아내어 임무 완수│
  └─────────────────────────────────────────────────────────────────┘

[다이어그램 해설] 이론과 실무의 극명한 차이다. 이론가들은 "EDF가 100% 꽉 채워 쓰니 최고!"라고 하지만, 실무 아키텍트는 "미사일 만드는데 CPU 부하 100% 치게 설계하는 놈은 미친놈이다. 그냥 비싼 CPU 달아서 부하 50%로 낮추고, 마음 편하고 버그 안 나는 RM으로 깔끔하게 가자"라고 결정한다. 이것이 EDF가 논문의 여포임에도 산업계 파이를 RM에게 많이 뺏긴 본질적 이유다.

📢 섹션 요약 비유: 100L짜리 물통에 물을 99L 찰랑찰랑하게 채워 다니는 기술(EDF)은 위대하지만 넘어지면 다 쏟아집니다(과부하 붕괴). 현장 작업 반장(실무자)은 그냥 돈을 더 써서 200L짜리 큰 통을 사고 그 안에 80L만 대충 담아서 맘 편하게 뛰어다니는(RM) 방식을 훨씬 선호합니다.

Ⅴ. 기대효과 및 결론

기대효과

EDF 알고리즘을 시스템에 잘 조율하여 적용하면, 값비싼 다중 코어나 고성능 칩셋을 때려 박지 않고도, 저전력/저사양의 임베디드 칩(MCU) 위에서 CPU 연산 사이클을 100% 한계까지 알뜰하게 소모하면서 모든 센서의 데드라인을 방어해 내는 극강의 하드웨어 가성비(ROI)를 이끌어낼 수 있다.

결론 및 미래 전망

EDF는 스케줄링 이론이 도달할 수 있는 '동적 최적화의 정점'이다. 과거에는 런타임에 레드-블랙 트리를 뒤집으며 데드라인을 정렬하는 오버헤드가 커서 꺼려졌으나, 현대 CPU 연산 속도가 미친 듯이 빨라지면서 그 정도 오버헤드는 씹어먹을 수 있게 되었다. 미래의 K8s 클라우드 컨테이너 스케줄링에서는, 마이크로서비스 간의 API 응답 지연(Timeout)을 컨테이너 생성 시 데드라인 힌트(Hint)로 스케줄러에 던져주고, 리눅스의 SCHED_DEADLINE (EDF 기반)이 이를 통째로 흡수하여 마이크로서비스 간 연쇄 타임아웃 장애를 커널 레벨에서 막아내는 융합 아키텍처로 만개하고 있다.

📢 섹션 요약 비유: 과거에는 똑똑하지만 계산이 너무 느린 천재(EDF)라서 안 썼다면, 지금은 계산기를 좋은 걸(현대 CPU) 쥐여주니 압도적인 지능으로 모든 마감일(데드라인)을 혼자 완벽하게 조율해 내는 구글 캘린더 같은 만능 비서로 부활했습니다.

📌 관련 개념 맵

개념	연결 포인트
부하 균등화 (Load Balancing)	현재 개념으로 들어오기 전에 함께 이해하면 경계가 선명해지는 기반 개념이다.
프로세서 친화성 (Processor Affinity)	현재 개념이 등장하게 만든 직접적인 선행 흐름이다.
하이퍼스레딩 (Hyper-threading) / SMT (Simultaneous Multithreading) 스케줄링	현재 개념이 구현·세분화될 때 바로 연결되는 후속 개념이다.
이기종 다중 처리기 스케줄링 (HMP)	확장 학습이나 심화 비교로 이어지는 다음 단계의 키워드다.

📈 관련 키워드 및 발전 흐름도

[프로세서 친화성 (Processor Affinity)]
    │
    ▼
[멀티코어 스케줄링 (Multicore Scheduling)]
    │
    ├──▶ [하이퍼스레딩 (Hyper-threading) / SMT (Simultaneous Multithreading) 스케줄링]
    └──▶ [이기종 다중 처리기 스케줄링 (HMP)]

이 흐름도는 선행 개념에서 현재 개념으로 넘어온 뒤, 구현 세분화와 후속 확장으로 이어지는 학습 순서를 압축해 보여준다.

👶 어린이를 위한 3줄 비유 설명

"제출 날짜가 제일 코앞으로 다가온 급한 숙제부터 당장 꺼내서 하자!"라는 벼락치기 맞춤형 규칙이 바로 EDF 예요.
매일매일 남은 날짜를 계산해서 똑똑하게 순서를 바꾸니까, 낭비하는 시간 1초도 없이 내 능력(CPU 100%)을 극한으로 쓸 수 있어서 아주 좋아요.
하지만, 만약 숙제가 너무 많아서 내 능력을 초과해 버리면? 이것저것 조금씩 다 건드리다가 결국 모든 숙제를 다 지각해버리는 연쇄 붕괴(도미노 효과)가 일어날 수 있으니 조심해야 해요!