반도체 일상 13. GPU

 인공지능 시대가 도래하며 가장 필요해진 반도체는 단연 GPU와 HBM이다. HBM은 다음 포스팅에서 다루기로 하고 GPU를 먼저 살펴보겠다. GPU는 "Graphic Processing Unit"의 약어로, 그 어디에도 AI나 인공지능 같은 단어는 담겨있지 않다. 사실 현재 인공지능만을 위한 반도체는 없다. 여러 후보가 있지만 경제성과 신뢰도 있는 성능과 품질을 확보하지 못했다. 따라서 그와 비슷한 역할을 하는 반도체를 사용하는데, 그게 바로 GPU다. GPU의 'G'에 해당하는 그래픽은 화면에 나오는 이미지라고 생각하면 된다. 다시 말해 동영상을 모니터(TV)에 출력하는 역할을 하는 반도체다. 즉, 동영상의 한 순간을 가로 세로로 잘게 쪼개서, 맨 왼쪽 맨 위는 핑크색, 그 옆은 진한 핑크색, … 맨 오른쪽 맨 아래는 파란색. 이런 식으로 알려주는 역할을 한다. 물론 동영상은 순식간에 이런 화면이 변화하므로 엄청나게 빠르게 계산해서 알려줘야 한다.
 
 GPU는 어떻게 만들까? 사실 계산한다는 것부터 반도체 일상 8. CPU와 똑같다. 하지만 CPU가 복잡한 양자역학을 계산하는 천재 중의 수재 한 명이라면,  GPU는 1+1=2만 알고 있는 유치원생 수준의 CPU를 수천 개 가지고 있는 집단이다. 다시 말해 CPU는 주어진 복잡한 문제를 순차적으로 정확하게 계산하는 스타일이라면, GPU는 주어진 많은 단순한 문제를 여럿이 해서 빠르게 해결하는 스타일이다. CPU는 컴퓨터를 운영하는 데 적합하고, GPU는 많은 데이터를 일정한 규칙에 의해 처리하는 데 특화되어 있다. (참고로 반도체에서는 순차적으로 진행하는 걸 직렬, 동시에 여러 개가 진행하는 걸 병렬이라 한다.)
 
 만약 어떤 사진을 화면에 띄운다고 할 때 CPU가 한다면 가장 왼쪽 맨 위에 있는 색깔을 계산한 뒤 그 오른쪽에 있는 걸 계산하고, 그 뒤 그 오른쪽을 계산하는 아주 긴 일이 될 테지만, GPU는 모두가 한꺼번에 계산하기 때문에 시간이 압도적으로 적게 걸린다.

그렇다면 왜 인공지능에서는 GPU를 사용하는 걸까? 인공지능이 엄청나게 많은 데이터를 단순 계산해야 하기 때문이다. 다다음 포스팅에서 다루겠지만, 인공지능은 많은 데이터를 모아 특정한 규칙으로 처리하여 더하는 방식이다. 따라서 특정 데이터를 화면에 출력하는 것처럼 많은 데이터를 각각 계산하여 인공지능 모델에 돌려준다면 그만큼 안성맞춤일 수는 없다.
 
 이런 역할을 위해 엄청나게 많은 데이터가 빠르게 오고가야 하는데, 여기에 HBM이 꼭 필요하다. HBM에 대해선 다음 포스팅에서 논의할 예정이다. 뭔가 미지근하게 끝났다고 걱정마시라. 오늘은 세 가지만 가져가면 된다. CPU는 천재 한 명, GPU는 유치원생 수천 명. CPU는 직렬, GPU는 병렬. CPU는 저렴, GPU는 비쌈. 왜 이렇게 비쌈.