HBM 경쟁은 메모리 성능에서 시스템 설계 경쟁으로
HBM(High Bandwidth Memory)은 여러 개의 DRAM을 수직으로 쌓아 데이터 처리 속도와 전력효율을 높인 고대역폭 메모리다. 2013년 첫 HBM 이후 HBM2, HBM2E, HBM3, HBM3E를 거치면서 용량과 대역폭이 빠르게 증가했다. 최근에는 AI 확산으로 GPU와 AI 가속기의 핵심 메모리로 자리 잡으면서 경쟁의 기준도 달라지고 있다.
초기에는 더 많은 데이터를 빠르게 전달하는 성능이 중요했다면, HBM3·HBM3E부터는 GPU와 AI 가속기의 성능을 극대화 하는 **AI 가속기 최적화(AI Accelerator Optimization)**가 중요해졌다. HBM4부터는 베이스 다이(Base Die)[1]에 로직 기능이 결합되면서 HBM이 단순한 메모리를 넘어 시스템 아키텍처의 일부로 발전하고 있다.
그 다음 공동설계(Customer Co-design)도 중요한 경쟁 요소다. AI 칩마다 요구하는 대역폭과 용량, 전력, 로직 기능이 달라지면서 표준화된 HBM 공급에서 벗어나 고객의 AI 가속기에 맞춰 메모리를 설계하는 맞춤형 HBM(Custom HBM)으로 경쟁의 초점이 바뀌고 있다.
HBM 3사의 경쟁 전략
현재 HBM 경쟁을 주도하는 SK하이닉스, 삼성전자, 마이크론은 발전 방향을 같지만, 이를 구현하는 기술과 전략은 차이가 있다.
- SK 하이닉스 : 2013년 세계 최초로 HBM을 출시하고, 이후 MR-MUF[2] 패키징 기술을 적용하며 HBM 경쟁력을 강화했다. HBM3부터 AI 가속기용 메모리 시장을 주도했으며, HBM4에서는 TSMC와 협력해 로직 베이스 다이(Logic Base Die)를 개발하고 있다. HBM4를 기점으로 고객의 AI 칩 설계에 맞춘 공동설계도 확대하고 있다.
- 삼성전자 : 2016년 세계 최초로 4GB HBM2를 양산하고, TC-NCF[3] 패키징 기술을 적용하며 HBM 경쟁력을 높였다. HBM4에서는 자체 1c DRAM과 4nm Logic Base Die를 결합했으며, 메모리·로직·파운드리·패키징을 내부에서 연계하는 수직계열화(Vertical Integration)으로 경쟁력을 차별화하고 있다.
- 마이크론 : 2024년 HBM3E를 양산하고 NVIDIA H200에 공급하면서 HBM 시장에서 본격적으로 뛰어들었다. 경쟁사보다 낮은 소비전력을 HBM3E의 강점으로 내세웠고, HBM4에서는 12단·16단으로 고적층 제품군을 확대하고 있다. 성능과 전력효율(Performance & Efficiency)을 앞세워 선두 업체와의 격차를 빠르게 좁히고 있다.
표준 HBM에서 맞춤 HBM으로
HBM은 메모리 성능(Memory Performance) → AI 가속기 최적화(AI Accelerator Optimization) → 로직 통합(Logic Integration) → 공동 설계(Customer Co-design)으로 발전하고 있고, 이에 따라 메모리 벤더의 역할도 확대되고 있다.
차세대 HBM의 경쟁력은 메모리 칩 하나의 성능만으로 결정되는 것이 아니라 AI 가속기, HBM, 로직 다이, 첨단 패키징을 하나의 시스템으로 설계하고 최적화할 수 있는가, 즉 **맞춤 HBM(Custom HBM)**이 중요해진다.
용어 설명
- [1] 로직 베이스 다이(Logic Base Die) : 여러 층으로 쌓은 HBM의 맨 아래에서 메모리와 GPU·AI 가속기를 연결하는 반도체다. HBM4부터 역할이 확대되면서 AI 칩에 맞는 HBM을 설계하는 핵심 요소가 되고 있다.
- [2] MR-MUF(Mass Reflow Molded Underfill) : 적층된 DRAM 사이를 한 번에 몰딩해 열 방출과 패키징 안정성을 높이는 SK하이닉스의 HBM 핵심 패키징 기술이다.
- [3] TC-NCF(Thermal Compression Non-Conductive Film) : 열과 압력을 이용해 적층 DRAM을 접합하고 층 사이를 절연 필름으로 채우는 삼성전자의 HBM 패키징 기술이다.