[하드웨어 뜯어보기] CPU #15 - 파이프라인 해저드 & 분기 미스, 생각의 충돌을 다스리는 기술

완벽한 흐름 속에서도, 사고는 일어난다 - CPU의 스트레스 관리 기술

핵심요약
파이프라인 해저드(Pipeline Hazard)란 CPU 내부의 명령 실행 단계들이 서로 충돌해 흐름이 막히는 현상을 말합니다.
그중에서도 분기 예측 실패(Branch Miss) 는 가장 흔한 병목의 원인입니다.
즉, CPU가 ‘미래를 잘못 예측해서 엉뚱한 길로 들어선 상태’입니다.
현대 CPU는 이 사고를 최소화하기 위해, 버블(대기), 재정렬, 예측 복원 같은 기술로 스트레스를 관리합니다.

 

Pipeline hazard

---

1. 개념 설명 - “생각의 교통사고, 파이프라인 해저드”

CPU의 파이프라인은 여러 단계의 명령을 겹쳐 처리하는 고속 생산 라인입니다.
그런데 이 라인 위에서 명령 간 의존성이나 순서 문제가 생기면,
다음 명령이 멈추거나 되돌아가야 하는 **‘교통 체증’**이 발생합니다.
이것이 바로 파이프라인 해저드입니다.

CPU가 명령어를 빠르게 처리하려면 각 단계가 매 클럭마다 움직여야 하지만,
이 충돌이 발생하면 CPU는 잠시 멈춰 버블(bubble, 공회전 구간) 을 삽입하거나
명령 순서를 조정하여 문제를 해결합니다.

핵심 문장: 파이프라인 해저드는 CPU 내부의 “생각이 서로 부딪히는 교통사고”다.

---

2. 파이프라인 해저드의 세 가지 종류

1) 데이터 해저드 (Data Hazard)

이전 명령의 결과가 아직 준비되지 않았는데, 다음 명령이 그 값을 필요로 하는 상황입니다.

예시:

 

1. ADD R1, R2 → R3 2. SUB R3, R4 → R5 ← (R3 결과가 아직 안 나옴!)

두 번째 명령은 첫 번째 명령의 결과가 나올 때까지 기다려야 합니다.
이때 CPU는 포워딩(Forwarding) 또는 버블 삽입으로 이 문제를 회피합니다.

비유: “요리사가 재료가 안 익었는데 다음 요리를 시작해버린 상황.”

---

2) 제어 해저드 (Control Hazard)

분기(branch) 명령이 등장할 때 발생합니다.
프로그램의 흐름이 바뀔 가능성이 있을 때, CPU는 다음 명령이 어디에 있는지 확정되지 않아 파이프라인이 멈춥니다.
이를 해결하기 위해 CPU는 “미리 다음 경로를 예측”하는 분기 예측기(Branch Predictor) 를 사용합니다.

만약 예측이 틀리면?
그동안 쌓인 명령을 모두 버리고 되돌아가야 하죠 - 이것이 바로 Branch Miss 입니다.

비유: “길을 잘못 들어서 유턴하느라 시간을 잃는 상황.”

---

3) 구조 해저드 (Structural Hazard)

하드웨어 자원이 부족할 때 발생합니다.
예를 들어, 두 명령이 동시에 메모리 접근을 시도하지만, CPU 내부에 메모리 포트가 하나뿐이라면 한쪽이 기다려야 합니다.

💬 비유: “엘리베이터가 한 대뿐인데, 여러 사람이 동시에 타려는 상황.”

---

3. 분기 예측 실패(Branch Miss) - 가장 치명적인 해저드

파이프라인 해저드 중에서도 분기 미스는 가장 큰 성능 저하를 유발합니다.

CPU는 코드 흐름을 멈추지 않기 위해 “다음에 실행될 명령”을 미리 예측합니다.
하지만 예측이 틀리면 이미 디코딩·실행 중인 명령들을 전부 폐기하고,
새로운 경로로 다시 시작해야 합니다.

이 되감기 과정을 플러시(Flush) 라 부르며,
그 사이 발생한 클럭 낭비는 수십 사이클의 손실로 이어질 수 있습니다.

핵심 문장: 분기 미스는 CPU에게 “되감기 버튼”을 누르게 만드는 사고다.

---

4. 비유하자면 - “생각의 루틴이 꼬일 때”

사람이 일을 하다 ‘잘못된 판단’을 내리면, 계획을 수정하느라 시간이 걸립니다.
CPU도 마찬가지입니다.
예측이 틀리면 스스로 되돌아가고, 이미 진행하던 일을 취소해야 하죠.

예를 들어,

• 데이터 해저드: 아직 도착하지 않은 자료를 기반으로 결론을 내리려다 오류 발생
• 제어 해저드: 다음 행동을 잘못 예측해 엉뚱한 선택
• 구조 해저드: 손이 모자라 일을 한꺼번에 처리하지 못함

CPU의 분기 예측은 인간의 ‘직감’과 같습니다.
직감이 맞으면 놀라울 정도로 빠르지만, 틀리면 되돌림이 필요하죠.

핵심 문장: 해저드는 두뇌의 판단 착오이며, 예측과 되돌림을 통해 자기 회복을 배운다.

---

5. 기술 발전 과정 - 사고를 줄이기 위한 진화

- 초기 CPU - 단순한 대기 (Stall)

8086이나 MIPS 초기 모델은 충돌 시 단순히 대기 시간을 추가했습니다.
“멈추고 기다리는 방식”이었죠.

- 슈퍼스칼라 시대 - 동적 스케줄링

Pentium Pro와 같은 슈퍼스칼라 CPU는 Out-of-Order 실행을 통해
다른 명령을 먼저 실행함으로써 대기 시간을 줄였습니다.

- 현대 CPU - 고정밀 분기 예측 + BTB + BPU

오늘날의 CPU는 분기 예측 버퍼(Branch Target Buffer, BTB) 와
분기 예측 유닛(Branch Prediction Unit, BPU) 을 결합해
“명령어 흐름의 패턴”을 학습합니다.
일종의 통계 기반 AI로, 과거의 행동 패턴을 바탕으로 미래의 흐름을 예측하는 셈입니다.

AMD Zen 4의 분기 예측기는 1,000개 이상의 분기 히스토리를 추적하며,
인텔 Core 시리즈는 딥 분기 히스토리(Deep Branch History) 와 기계학습 기반 예측 로직을 사용합니다.

💡 핵심 문장: 분기 예측은 CPU 내부의 ‘미니 인공지능’이며, 해저드는 그 학습의 실패 사례다.

---

6. 오늘날의 활용 - AI와도 닮은 CPU의 사고 관리

• 스마트폰 SoC (ARM Cortex-X4): 분기 미스율을 낮춰 전력 낭비 최소화
• 서버 CPU (AMD EPYC, Intel Xeon): 예측 실패 시 복원 속도를 높여 대규모 병렬 처리 유지
• AI 가속기 (Google TPU, NVIDIA Hopper): 파이프라인 충돌을 제어하는 스케줄러 기반 구조

현대 CPU는 해저드를 단순한 오류가 아닌 “학습의 재료”로 활용합니다.
즉, 예측 실패 데이터를 저장하고 다음 실행 시 더 나은 판단을 내리죠.

핵심 문장: CPU는 실패를 기억해 더 나은 판단을 내리는 ‘학습형 두뇌’로 진화하고 있다.

---

7. 요약

구분	내용
정의	명령 실행 중 발생하는 충돌과 병목 현상
주요 요형	데이터 해저드, 제어 해저드, 구조 해저드
대표 사례	분기 예측 실패(Branch Miss)
해결 기술	포워딩, 스톨, Out-of-Order, 분기 예측기
의의	CPU의 효율과 속도를 좌우하는 핵심 제어 기술

요약 문장: 파이프라인 해저드와 분기 미스는 CPU의 사고 충돌이며, 이를 제어하는 기술은 곧 ‘두뇌의 회복력’이다.

---

8. 다음 편 예고

다음 편 에서는 CPU가 “한 명이 여러 일을 동시에 처리”하는 대신,

“한 번에 여러 데이터를 동시에 계산”하는 방식으로 진화한 이야기를 다룹니다.
즉, 생각의 병렬화를 실현한 벡터 연산의 세계를 탐구합니다.

 

다음 글 : [컴퓨터 과학] - [하드웨어 뜯어보기] CPU #16 - SIMD / 벡터 연산, 한 번에 여러 생각을 하는 두뇌

[하드웨어 뜯어보기] CPU #16 - SIMD / 벡터 연산, 한 번에 여러 생각을 하는 두뇌