본문 바로가기
← 메인으로
비주얼 브리프

HBM - Architecture Evolution

HBM 아키텍처가 메모리 용량 확장에서 시스템 최적화로 발전하는 과정을 설명한 인포그래픽. 확장 영역은 기존 DRAM의 좁은 입출력 구조를 HBM의 넓은 입출력 구조로 바꿔 대역폭을 초당 수십·수백 GB에서 수백 GB·수 TB 수준으로 높이는 변화를 보여준다. 적층 영역은 TSV와 마이크로범프로 DRAM 다이를 수직 연결해 약 24GB에서 36~48GB, 64GB 이상으로 용량을 늘리는 흐름을 나타낸다. 로직 영역은 기본 입출력과 제어를 맡던 베이스 다이가 고급 로직과 AI 최적화 기능을 갖춘 로직 베이스 다이로 발전하는 모습을 비교한다. 맞춤화 영역은 하나의 표준 HBM 설계에서 벗어나 GPU, ASIC, NPU별 연산 특성에 맞춘 맞춤 HBM으로 나뉘는 구조를 보여준다. 오른쪽 위에는 SK하이닉스의 적층·공동설계, 삼성전자의 수직계열화·로직·맞춤화, 마이크론의 성능·효율·확장·적층 전략이 정리되어 있다.

HBM은 더 많은 데이터르 저장하고 더 빠르게 전송하는 메모리 확장(Memory Scaling)에서 GPU와 AI 가속기의 성능을 극대화하는 시스템 최적화(System Optimization)의 방향으로 발전하고 있다.

이러한 변화는 크게 네 가지 기술적 흐름으로 정리할 수 있다.

  • 적층(Stacking) : D램을 더 높이 쌓아 용량을 늘리는 기술이다. 여러 개의 D램 다이를 수직으로 적층하고 TSV로 연결한다. 이 기술이 발전하면서 8단, 12단, 16단 이상으로 높아지고, 용량도 메모리 용량도 24GB급에서 64GB 이상으로 증가하고 있다.
  • 대역폭 확장(Expansion) : GPU와 메모리 사이의 데이터 통로를 넓히는 기술이다. 범용 D램보다 더 넓은 I/O를 통해 데이터를 병렬로 전송할 수 있다. HBM4에서는 I/O 수가 1,024개에서 2,048개로 늘어나면서 스택당 대역폭이 수 TB/s로 확대되고 있다.
  • 로직 고도화(Logic) : 적층과 대역폭 확장으로 복잡해지는 데이터 전송과 신호·전력·I/O를 효율적으로 제어하고, HBM을 AI 가속기에 최적화하기 위해 로직 베이스 다이(Logic Base Die)의 역할이 중요해졌다. 이제는 메모리 기술 외에도 로직 설계와 파운드리 역량까지 HBM 경쟁력에 영향을 미치게 됐다.
  • 고객 맞춤화(Customization) : 표준화된 HBM(Standard HBM)을 공급하는 방식에서 벗어나 GPU·ASIC·NPU 등 AI 가속기의 구조와 성능 요구에 맞춰 메모리와 로직 베이스 다이를 설계하는 고객 맞춤형 HBM(Custom HBM)으로 발전하고 있다. 이에 따라 메모리 기업과 AI 반도체 기업이 제품 개발 단계부터 설계를 조율하고 협업하는 공동설계(Customer Co-design)의 중요성도 커지고 있다.

메모리 Big 3의 발전 방향은 비슷하지만, 경쟁 포인트는 다르다.

  • SK하이닉스 : 세계 최초로 HBM을 개발·양산하며 시장을 개척했고, 이후 고단 적층과 패키징 기술로 HBM 경쟁력을 높여 16단 HBM4까지 적층 기술을 고도화하였다. HBM4부터는 TSMC의 첨단 공정을 활용한 로직 베이스 다이를 적용하고, 고객의 AI 가속기와 워크로드에 맞춰 로직 베이스 다이와 패키지를 설계하는 고객 맞춤형 HBM을 강화하고 있다. HBM에서 축적한 전문성을 적층에서 로직과 고객 맞춤 설계로 확장하는 것이 SK하이닉스 전략의 특징이다.

  • 삼성전자 : 삼성전자의 강점은 메모리·로직 설계·파운드리·첨단 패키징을 자체적으로 연결할 수 있는 수직통합(Vertical Integration) 역량이다. HBM4 이후 로직 베이스 다이의 중요성이 커지면서 이러한 강점이 더욱 부각되고 있다. 자체 파운드리 공정으로 로직 베이스 다이를 생산하고, 메모리부터 첨단 패키징까지 하나의 체계로 연결해 고객 맞춤형 HBM 개발에 대응하고 있다.

  • 마이크론 : 대역폭과 용량을 높이면서도 전력효율을 개선하는 HBM 성능 최적화에 강점이 있다. 고속 I/O와 고단 적층을 통해 AI 가속기가 요구하는 데이터 처리 성능을 높이고, HBM4E에서는 TSMC와 협력해 고객 맞춤형 로직 베이스 다이까지 적용 범위를 넓히고 있다.