GPU

왜 배우는가: GPU는 그래픽 처리뿐 아니라 AI 학습·추론, 과학 계산 등 범용 병렬 연산의 핵심 장치가 되었다. CPU와의 구조 차이를 이해해야 아키텍처 문제와 활용 문제를 함께 답할 수 있어 기술사 시험에서 반복 출제된다.

출제 이력: 제137회 1교시 10번, 제120회 1교시 5번

1. 한 줄 정의와 핵심 키워드

GPU는 그래픽 처리와 대량 병렬 연산을 수행하기 위해 수백~수천 개의 연산 유닛을 갖춘 특수 목적 프로세서이다.

• 그래픽 처리 장치(GPU)
• SIMT(Single Instruction, Multiple Threads)
• 스트리밍 멀티프로세서(SM)
• CUDA 코어
• 데이터 병렬성(Data Parallelism)
• 고대역폭 메모리(HBM)
• 처리량(Throughput)
• 범용 GPU 연산(GPGPU)

2. 개념 풀이

쉽게 말하면 GPU는 같은 계산을 아주 많이 동시에 하는 장치다. 화면의 픽셀 수백만 개에 같은 색 계산을 한꺼번에 적용하는 일이 대표적이다. CPU가 몇 개의 똑똑한 코어로 복잡한 일을 순서대로 처리한다면, GPU는 단순한 코어를 많이 두고 같은 일을 나눠서 동시에 처리한다.

정식으로는 GPU를 그래픽 처리 장치(GPU)라 부른다. 디지털 화상 처리와 컴퓨터 그래픽스 가속을 위해 설계된 특수 전자 회로이며, 현대적 의미에서는 3차원 이미지의 회전·크기 조절 같은 그래픽 작업을 내부에서 수행하고 셰이더라는 사용자 정의 프로그램까지 실행하는 장치를 가리킨다.

핵심 용어는 다음과 같다. 스트리밍 멀티프로세서(SM)는 GPU 내부에서 작업을 관리하고 실행하는 단위다. 한 SM에는 여러 CUDA 코어가 들어 있다. SIMT(Single Instruction, Multiple Threads) 는 한 명령을 여러 스레드가 서로 다른 데이터에 동시에 수행하는 실행 방식이다.

범용 연산 용도로 쓰는 경우를 범용 GPU 연산(GPGPU)이라 한다. 그래픽이 아닌 행렬 곱, 신경망 학습, 과학 계산 등을 GPU에서 수행하는 것이다. 현대 GPU는 선형대수 연산을 가속하므로 AI 처리에 널리 쓰인다.

3. 등장 배경과 필요성

초기 그래픽 장치는 내부 연산 능력이 없었다. 비디오 디스플레이 컨트롤러는 화면 신호만 만들었고, 블리터(Blitter)는 메모리 복사 같은 단순 이동 작업만 수행했다. 그래서 모든 계산을 CPU가 맡아야 했고 CPU 부담이 컸다.

GPU는 CPU의 도움 없이 선과 텍스트를 그리는 연산 능력을 갖추었다. 이후 3차원 그래픽 기능이 더해지며 발전했다. 3차원 장면은 정점과 픽셀마다 같은 종류의 계산을 반복하므로 병렬 구조가 자연스럽게 맞았다.

이 병렬 구조가 그래픽을 넘어 범용 연산으로 확장된 계기가 되었다. 처리 대상이 대량의 데이터에 같은 연산을 적용하는 형태이면 GPU가 CPU보다 훨씬 높은 처리량을 낸다. 그 결과 신경망 학습, 암호화폐 채굴, 과학 시뮬레이션이 GPU로 옮겨 갔다.

CPU와 GPU의 차이는 다음과 같다. CPU는 소수의 강력한 코어로 복잡하고 직렬인 제어 작업에 강하다. GPU는 많은 단순 코어로 간단한 연산을 대량 병렬 처리하는 데 강하다. 다만 GPU는 알고리즘을 병렬로 설계해야 하며, 복잡한 분기 작업에서는 CPU보다 느려질 수 있다.

수백~수천 개 의 연산 유닛을 가진 것이 현대 GPU의 공통 특징이다.

4. 구성요소·원리·절차

GPU는 수천 개의 소형 연산 코어를 여러 묶음으로 나누어 같은 명령을 여러 데이터에 동시에 적용하는 구조다. 핵심 구성요소는 다음과 같다.