장기 스케줄러 (Long-term Scheduler)와 다중 프로그래밍 조절

핵심 인사이트 (3줄 요약)

본질: 장기 스케줄러 (Long-term Scheduler), 또는 잡 스케줄러 (Job Scheduler)는 디스크의 스풀링(Spooling) 영역에 있는 작업들 중 어느 것을 메인 메모리에 적재하여 '프로세스'로 만들지 결정하는 입장 통제자다.

가치: 메모리에 동시에 올라가는 프로세스의 수, 즉 다중 프로그래밍 정도 (Degree of Multiprogramming)를 조절하여 시스템이 과부하에 빠지거나 자원이 낭비되는 것을 사전에 방지한다.

융합: I/O 바운드 프로세스와 CPU 바운드 프로세스를 적절히 혼합 (Mix)하여 CPU와 I/O 장치 모두가 쉬지 않고 일하게 하는 것이 목표였으나, 가상 메모리와 시분할 시스템의 발전으로 현대 범용 OS에서는 그 역할이 거의 소멸하거나 중기 스케줄러에 흡수되었다.

Ⅰ. 개요 및 필요성 (Context & Necessity)

개념: 장기 스케줄러 (Long-term Scheduler)는 디스크의 일괄 처리 큐 (Job Queue)에 대기 중인 작업들 중 어떤 작업을 메모리로 올려 실행 가능한 상태 (Ready)로 만들지 결정하는 컴포넌트다.
필요성: 물리적 메모리의 크기는 제한되어 있으므로, 무작정 모든 프로그램을 메모리에 올리면 시스템이 감당할 수 없다. 또한 CPU 위주의 작업만 올리면 디스크가 놀고, 디스크 위주의 작업만 올리면 CPU가 놀게 되므로 최적의 비율을 맞추는 통제소가 필요했다.
💡 비유: 인기 있는 놀이공원에서 한 번에 입장객이 너무 많이 들어와 시설이 마비되는 것을 막기 위해, 매표소 입구에서 전체 수용 인원을 계산하며 입장을 허가하는 **'게이트 통제 요원'**과 같다.
등장 배경: 과거 일괄 처리 시스템 (Batch System)에서는 펀치 카드나 테이프로 입력된 수많은 작업 (Job)들이 디스크에 임시 저장(스풀링)되었다. 이때 메인 프레임의 메모리와 CPU를 효율적으로 쓰기 위해 장기 스케줄러가 매우 엄격하게 작업의 입장을 통제했다. 하지만 현대 OS는 사용자가 더블 클릭하는 순간 곧바로 가상 메모리를 이용해 프로세스를 띄워버리므로 전통적인 의미의 장기 스케줄러는 찾아보기 어렵다.

  [프로세스 생성 관점에서의 스케줄러 개입 단계]

  [Disk]                             [Main Memory]
  +---------+   (장기 스케줄러)      +------------------+
  | Job 1   | ───────────────────▶ | Ready Queue      |
  | Job 2   |   * 입장을 승인하여  |                  |
  | Job 3   |     프로세스화 시킴  | [P1] [P2] [P4]   | ──▶ CPU로 이동
  +---------+                      +------------------+     (단기 스케줄러)
   (Job Pool)                          (다중 프로그래밍 정도 조절)

[다이어그램 해설] 디스크에 저장된 단순한 프로그램(Job)이 메모리에 적재되어 생명력을 가진 프로세스(Process)로 변환되는 순간, 즉 New 상태에서 Ready 상태로 넘어가는 관문을 장기 스케줄러가 담당한다. 여기서 한 번에 메모리에 올리는 프로세스의 개수를 '다중 프로그래밍 정도 (Degree of Multiprogramming)'라고 부르며, 이 수치가 안정적으로 유지되어야 시스템이 최대 효율을 낸다.

📢 섹션 요약 비유: 클럽(메모리)에 사람이 너무 적으면 분위기가 안 살고, 너무 많으면 숨쉬기 힘들어지므로, 입구에서 인원수와 성비(I/O, CPU 바운드 비율)를 맞춰서 들여보내는 까다로운 바운서(Bouncer)와 같습니다.

Ⅱ. 아키텍처 및 핵심 원리 (Deep Dive)

구성 요소

요소명	역할	내부 동작	특징	비유
작업 큐 (Job Queue)	디스크에 저장된 실행 대기 프로그램 목록	디스크 스풀 영역에서 유지	밀리초 대신 분 단위 대기	매표소 밖의 대기줄
I/O/CPU 바운드 판별기	작업의 성격 (I/O 위주인지 연산 위주인지) 추정	작업 제출 시의 메타데이터 분석	이상적인 Mix 유지 목표	놀이기구/식당 선호도 파악
다중 프로그래밍 제어기	현재 메모리 점유율 대비 추가 적재 판단	남은 메모리 블록 수와 작업 크기 비교	스래싱 사전 예방	실내 혼잡도 전광판

심층 동작 원리 (최적의 프로세스 혼합)

장기 스케줄러가 달성해야 하는 가장 중요한 수학적 목표는 **'I/O 바운드 프로세스와 CPU 바운드 프로세스의 황금 비율(Mix)'**을 유지하는 것이다.

프로세스 이탈 감지: 메모리 내의 기존 프로세스가 작업을 마치고 종료(Terminated)되면 다중 프로그래밍 정도가 1 감소한다.
비율 평가: 장기 스케줄러가 깨어나 현재 시스템의 자원 사용량을 평가한다. CPU 이용률이 너무 낮다면 I/O 바운드만 모여있는 것이고, I/O 큐가 텅 비어있다면 CPU 바운드만 모여있는 것이다.
선택 및 적재: 현재 부족한 자원을 사용하는 성격의 Job을 디스크 풀에서 골라 메모리로 올린다. 이를 통해 CPU 코어와 디스크 컨트롤러가 모두 100%에 가깝게 동시에 병렬로 일하도록 만든다.

  ┌──────────────────────────────────────────────────────────────────┐
  │         장기 스케줄러의 이상적 프로세스 믹스 (Mix) 결정          │
  ├──────────────────────────────────────────────────────────────────┤
  │                                                                  │
  │  [상황 A] CPU 바운드만 10개 적재된 경우                          │
  │  ▶ CPU : 100% 풀로드 (프로세스들끼리 CPU 쟁탈전)                 │
  │  ▶ I/O 장치 : 0% 대기 상태 (자원 낭비)                           │
  │  >> 조치: 다음 입장 프로세스는 반드시 I/O 바운드로 선택          │
  │                                                                  │
  │  [상황 B] I/O 바운드만 10개 적재된 경우                          │
  │  ▶ CPU : 10% 사용 (다들 I/O 기다리느라 CPU가 놀고 있음)          │
  │  ▶ I/O 장치 : 100% 병목 (장치 큐 적체 현상)                      │
  │  >> 조치: 다음 입장 프로세스는 반드시 CPU 바운드로 선택          │
  │                                                                  │
  │  [상황 C] CPU 5개 + I/O 5개 적재된 경우 (이상적 믹스)            │
  │  ▶ CPU : 90% 사용 (효율 극대화)                                  │
  │  ▶ I/O 장치 : 80% 사용 (효율 극대화)                             │
  └──────────────────────────────────────────────────────────────────┘

[다이어그램 해설] 이 표는 장기 스케줄러가 어떻게 판단을 내리는가에 대한 원리를 보여준다. 단기 스케줄러가 주어진 환경 안에서 어떻게든 공정하게 나누려 애쓴다면, 장기 스케줄러는 애초에 "어떤 성격의 구성원들로 큐를 채울 것인가"라는 환경 자체를 디자인한다. 만약 I/O와 CPU 바운드의 균형이 무너지면 시스템 전체의 이용률(Utilization)이 크게 떨어진다.

📢 섹션 요약 비유: 뷔페 식당에서 고기만 먹는 손님(CPU 바운드)과 채소만 먹는 손님(I/O 바운드)을 반반씩 들여보내야, 어떤 음식 코너도 텅 비거나 줄 서지 않고 최적의 회전율을 유지하는 원리입니다.

Ⅲ. 융합 비교 및 다각도 분석 (Comparison & Synergy)

시분할 시스템에서의 장기 스케줄러 (소멸과 대체)

시스템 유형	장기 스케줄러 존재 여부	다중 프로그래밍 조절 주체	동작 특징
과거 일괄 처리 (Batch)	⭕ (명확히 존재)	장기 스케줄러	Job 제출 후 OS가 적재 시점 통제
현대 시분할 (Time-sharing)	❌ (사실상 소멸)	중기 스케줄러 (스와퍼)	사용자 클릭 즉시 프로세스화 (다중 프로그래밍 정도 최대화)

과거 일괄 처리 시스템과 달리, 리눅스나 윈도우 같은 현대 데스크톱/서버 운영체제는 장기 스케줄러가 없다. 사용자가 프로그램을 실행하면 시스템은 일단 프로세스를 생성하여 Ready Queue에 넣어버린다. 결과적으로 다중 프로그래밍 정도가 무제한으로 상승하게 되며, 이로 인해 메모리가 부족해지면 그 뒷수습은 가상 메모리의 페이징 기법과 **중기 스케줄러(스와퍼)**가 떠맡게 된다.

  [과거 vs 현대 OS의 스케줄링 패러다임 변화]
  
  (과거 Batch OS)
  [Job] ──(장기 스케줄러 엄격 통제)──▶ [Memory] ──(단기)──▶ [CPU]
             └─ 메모리 꽉 차면 입장 거부
  
  (현대 Time-sharing OS)
  [App] ──(더블 클릭 시 즉각 진입)───▶ [Memory] ──(단기)──▶ [CPU]
                                          │
                            (메모리 부족 시 중기 스케줄러 개입)
                                          ▼
                                     [Swap Space]

이 다이어그램은 운영체제 아키텍처의 패러다임 변화를 극명히 보여준다. 현대 OS는 사용자 경험(응답성)을 최우선으로 하기 때문에 입구를 막는 대신 입구는 완전히 열어두고, 내부 공간이 좁아지면 가상 메모리를 활용해 디스크와 메모리 사이를 동적으로 스왑(Swap)하는 유연한 대처 방식을 선택했다.

📢 섹션 요약 비유: 과거에는 정원이 찰 경우 식당 문을 걸어 잠갔지만(장기 스케줄러), 지금은 일단 무조건 손님을 다 받아들인 뒤 자리가 없으면 옥상 테라스(가상 메모리 스왑)로 안내하는 방식(중기 스케줄러)으로 경영 철학이 바뀌었습니다.

Ⅳ. 실무 적용 및 기술사적 판단 (Strategy & Decision)

실무 시나리오

HPC (High-Performance Computing) 환경의 워크로드 매니저: 현대 범용 OS 커널 내부에는 장기 스케줄러가 없지만, 슈퍼컴퓨터나 대규모 배치 처리를 하는 클러스터 (예: Slurm, 쿠버네티스의 Job/CronJob 컨트롤러) 환경에서는 유저 스페이스 수준의 거대한 장기 스케줄러가 존재한다. 사용자들이 딥러닝 훈련 잡(Job)을 던지면, 스케줄러 큐에 머물다가 GPU와 메모리 노드 자원이 완전히 확보되는 순간에만 실행을 승인한다.
도커 (Docker) 컨테이너 제한: 리눅스 커널 수준에서는 프로세스 생성을 안 막지만, 시스템 관리자는 cgroups를 통해 특정 유저나 그룹이 생성할 수 있는 최대 프로세스 수(pids limit)를 제한한다. 이는 현대적 의미에서 관리자가 강제하는 수동적 장기 스케줄링 정책의 일환으로 볼 수 있으며, 포크 폭탄 (Fork Bomb) 같은 악의적 자원 고갈 공격을 방어한다.

  ┌─────────────────────────────────────────────────────────────┐
  │       거시적 자원 스케줄링 (HPC/Cloud) 의사결정 트리        │
  ├─────────────────────────────────────────────────────────────┤
  │                                                             │
  │   대규모 배치 작업(AI 훈련/빅데이터) 제출                   │
  │                │                                            │
  │                ▼                                            │
  │   클러스터 전체에 가용 GPU/메모리가 있는가?                 │
  │          ├─ [자원 부족]                                     │
  │          │      │                                           │
  │          │      ▼                                           │
  │          │  Pending Queue 대기 (유저레벨 장기 스케줄러)     │
  │          │                                                  │
  │          └─ [자원 충분]                                     │
  │                 │                                           │
  │                 ▼                                           │
  │             특정 노드에 컨테이너 할당 및 실행               │
  │                 │                                           │
  │                 ▼                                           │
  │          (이후 단기 스케줄러에 의한 CPU 쟁탈전 시작)        │
  └─────────────────────────────────────────────────────────────┘

[다이어그램 해설] 단일 데스크톱 PC에서는 사라진 장기 스케줄러의 개념이, 클라우드와 쿠버네티스(Kubernetes) 같은 분산 시스템 스케줄러 레벨에서 화려하게 부활했음을 보여준다. K8s의 kube-scheduler나 Slurm 같은 잡 스케줄러는 현대 IT 인프라에서 수천 대의 서버를 하나의 컴퓨터처럼 묶어 다중 프로그래밍 정도(클러스터 수용량)를 조절하는 거대한 장기 스케줄러 역할을 수행한다.

📢 섹션 요약 비유: 동네 식당(PC)에서는 문지기가 사라졌지만, 수만 명이 모이는 대형 콘서트장(클라우드 클러스터)에서는 오히려 표를 배분하고 입장 시간을 엄격히 통제하는 거대한 예약 시스템(K8s 스케줄러)이 훨씬 중요해졌습니다.

Ⅴ. 기대효과 및 결론 (Future & Standard)

기대효과

장기 스케줄링 도입의 궁극적 목표: 한정된 물리적 자원 하에서 CPU와 I/O 디바이스의 이용률을 동시에 극대화하고, 작업의 턴어라운드 시간(Turnaround Time)을 예측 가능하게 유지하는 것이다.

결론 및 미래 전망

장기 스케줄러는 OS 커널 내부의 모듈로서는 그 생명력을 다했지만, '시스템 전체의 작업 처리량 제어'라는 아키텍처적 철학은 클라우드 네이티브 환경의 워크로드 오케스트레이션(Workload Orchestration) 시스템으로 그대로 이전되었다. 미래에는 AI 기반 부하 예측 모델이 결합되어, 앞으로 1시간 뒤에 발생할 트래픽과 가용 자원을 미리 계산하여 배치 잡의 실행 타이밍을 동적으로 늦추거나 당기는 지능형 잡 스케줄러로 진화하고 있다.

📢 섹션 요약 비유: OS 내부의 작은 부서였던 장기 스케줄러가 커널 밖으로 튀어나와, 이제는 데이터센터 전체의 물류를 지휘하는 거대한 글로벌 관제탑(오케스트레이터)으로 승진한 셈입니다.

📌 관련 개념 맵 (Knowledge Graph)

개념 명칭	관계 및 시너지 설명
다중 프로그래밍 정도 (Degree of Multiprogramming)	메모리에 동시에 적재되어 실행을 다투는 프로세스의 총합으로, 이 수치가 장기 스케줄러의 핵심 통제 타깃이다.
I/O 바운드 / CPU 바운드	장기 스케줄러가 시스템 이용률 100%를 달성하기 위해 식별하고 조합(Mix)해야 하는 두 가지 상반된 프로세스 성질이다.
쿠버네티스 스케줄러 (kube-scheduler)	OS 커널의 장기 스케줄러 개념이 분산 시스템 스케일로 확장되어, 노드의 자원 상태를 보고 파드(Pod)의 배치를 결정하는 현대적 구현체다.
일괄 처리 시스템 (Batch System)	응답성보다는 전체 처리량(Throughput)이 중요했기 때문에 장기 스케줄러가 가장 활발하게 작동했던 과거의 메인프레임 환경이다.
가상 메모리 (Virtual Memory)	물리 메모리의 한계를 디스크로 확장시킴으로써, 장기 스케줄러의 엄격한 입장 통제 기능을 유명무실하게 만든 혁명적 기술이다.

👶 어린이를 위한 3줄 비유 설명

놀이공원(메모리)에 사람이 너무 많이 들어가면 기구(CPU)를 타지도 못하고 꽉 막혀버려요.
그래서 옛날에는 장기 스케줄러라는 매표소 직원 아저씨가 "지금은 너무 붐비니까 밖에서 10분만 대기하세요~" 하고 입장을 꽉꽉 막았어요.
요즘 컴퓨터는 똑똑해져서 일단 다 들어오게 한 다음, 안 노는 사람들을 쉴 수 있는 마법의 공간(가상 메모리)으로 보내주기 때문에 매표소 아저씨가 필요 없어졌답니다!