본문 바로가기

CUDA

 (2)
[하드웨어 뜯어보기] GPU #43 - GPGPU와 AI 가속기 사고를 병렬화하는 두뇌그래픽 장치를 넘어서 모든 계산을 가속하는 범용 병렬 두뇌의 탄생핵심요약GPGPU는 GPU를 그래픽이 아닌 일반 계산(GPU Computing)에 사용하는 개념이다.수천 개의 코어를 활용해 거대한 병렬 연산을 처리한다.딥러닝의 핵심은 행렬 계산이고, 이는 GPU에서 가장 잘 맞는 작업이다.NVIDIA의 Tensor Core, Google TPU, Apple ANE 등 AI 가속기는 GPU의 철학을 더 고도화한 기술이다.현대 AI의 성장은 GPU, NPU 없이 불가능하다. 1. GPGPU란 무엇인가?핵심 문장: GPGPU는 GPU의 ‘병렬 처리 능력’을 그래픽이 아닌 모든 계산에 활용하는 기술이다. GPU는 원래 그래픽을 그리기 위해 만들어졌다. 하지만 GPU 내부의 구조-수천 개의 ..
[하드웨어 뜯어보기] CPU #17 - GPU와 CPU의 차이, 다른 방식으로 생각하는 또 다른 두뇌 “깊게 생각하는 두뇌 vs 넓게 생각하는 두뇌” - 두 지성의 공존핵심요약CPU는 한 번에 하나의 복잡한 일을 정확히 수행하는 두뇌,GPU는 수천 개의 단순한 일을 동시에 수행하는 두뇌입니다.즉, CPU는 ‘사색형 두뇌’, GPU는 ‘집단형 두뇌’라 할 수 있습니다.이 두 구조는 서로 대립하지 않고, 오늘날 인공지능과 고성능 연산에서 협력적인 사고 구조를 이룹니다. 1. 개념 설명 - “CPU는 사고, GPU는 실행”CPU와 GPU 모두 연산 장치이지만, 그 사고 방식이 완전히 다릅니다.구분CPUGPU구분CPUGPU목적다양한 연산과 제어대량 데이터 병렬 처리구조복잡한 제어 유닛, 적은 코어단순한 제어, 수천 개의 코어강점논리적 사고, 순차적 연산반복적 계산, 병렬 데이터 연산비유전략가 (Thinker)실..

티스토리툴바