반도체 일상 17. 이종 집적

 반도체 칩의 미래를 논할 때 자주 등장하는 주제가 'CPU와 메모리를 한 칩으로!'다. 현재는 CPU와 메모리를 따로 만들어 배선으로 연결해 사용한다. 데이터를 차곡차곡 사물함에 저장해야 하는 메모리와 달리, CPU는 연산만 하면 되므로 속도가 빠르다. 그래서 처음에는 배선 하나로도 충분히 소통이 되어 같이 통합할 이유가 없었다.(반도체 일상 8. CPU ,반도체 일상 7. 메모리)

 

 하지만 컴퓨터 구동에 필요한 용량이 늘어나고 CPU와 메모리 모두 속도가 빨라지면서 배선 하나로는 부족해졌다. 이는 마치 예전에 10명이 작은 짐을 들고 다니던 길에 중국의 모든 인구가 짐을 들고 이동하는 것과 같다. 배선의 데이터 전송 속도는 점점 느려지고, 이를 처리하는 데 필요한 에너지도 급증하게 된다. 이에 인류는 특단의 조치로 양방향 고속도로를 깔고, 지하철도 설치하고, 통행 규칙도 정하는 등 다양한 방법을 고안했다. 이렇게 탄생한 것이 메모리의 DDR4, DDR5, DDR7 같은 전송 기술이다. 그러나 기술이 빠르게 발전하면서 더 큰 용량과 더 빠른 속도가 요구되었다. 메모리 자체에도 용량 과부하가 발생하면서 열 관리가 어려워졌으며 용량 증가도 한계에 도달하게 된다.

 

 인류는 다시 머리를 맞대고 브레인스토밍을 했다.(실제로는 안 했을 거다.)

Q1. 고속도로 폭을 더 넓이기 힘든 이유는 무엇인가?

A1. 메모리 칩이 감당하기 힘들어한다.

Q2. 이런 문제들의 근본적인 문제는 무엇인가?

A2. 지나다니는 데이터가 많아서 그렇다.

 

 Q1. 에 대한 해결 방법으로 제시된 건 메모리에 도우미를 붙이는 것이었다. 다시 말해 메모리 아래 Logic Die라 불리는 CPU와 비슷한 칩을 붙여 메모리의 열관리를 해주고 CPU와 통신하는 배선을 비약적으로 높이고 많은 메모리 용량을 관리해 준다. 이렇게 등장한 메모리가 HBM이다. 가장 성공적으로 상용화가 된 이종 집적 칩이라고 볼 수 있다. 이렇게 배선을 엄청나게 많이 만들어 줄 수 있었다.

 

 Q2. 에 대한 문제의 해결로 제안된 건 HBM에 도우미로 붙인 Logic Die에 기능을 업그레이드시켜 메모리의 데이터를 어느 정도 연산하여 CPU로 보내주는 방법이다. 다시 말해 A+B와 같은 간단한 연산을 하기 위해 메모리에서 CPU로 A와 B를 보낸 후 CPU에서 계산한 뒤 다시 메모리에 계산 값을 돌려보낸 후 계산 값이 필요할 때 메모리에서 CPU로 다시 가져오는 방법이 아닌, 메모리의 Logic Die에서 자체적으로 A+B를 한 뒤 CPU로 한 번에 보내는 방법이다. 이런 방법을 PIM(Process in memory), CIM(Computing in memory)과 같은 이름으로 불린다.

 이렇게 되면 보내는 데이터도 줄일 수 있고 전체적인 속도도 빨라지게 된다. 이렇게 3D로 쌓는걸 이종 집적 (heterogeneous integration)이라 하는데, 최근에는 메모리와 CPU를 붙이는 거 외에 센서도 붙이고 MEMS도 붙이는 등 다양한 방식으로도 만들어진다.