[이성진의 Y] "다 같은 D램 아냐?"… HBM, 어떻게 다를까

'엘리베이터' 달린 HBM, 빠르게 데이터 공급

비싼 가격에 DDR5 대체 못해… 응용처 확연

[사진=삼성전자]

최근 반도체 업계는 '고대역폭메모리(HBM)'로 통한다. HBM 시장을 선도하고 있는 SK하이닉스가 전 세계 D램 시장에서 33년 동안 1위를 달리고 있던 삼성전자를 제치며 승승장구하는 등 HBM으로 메모리 업계 지형도도 바뀌고 있다. 

HBM은 D램의 한 종류지만 우리가 흔히 아는 정보기술(IT)기기용 메모리와는 공법과 응용처가 다르다. 'High Bandwidth Memory'라는 명칭처럼 대역폭을 획기적으로 늘린 것이 특징이다. 대역폭은 주어진 시간 내에 데이터를 전송하는 속도나 처리량 등 데이터 운반 능력을 뜻한다. 즉 HBM은 데이터 연결 통로가 확장된 것이다.

넓은 대역폭을 가진 이 D램은 주로 중앙처리장치(CPU)나 그래픽처리장치(GPU)로 만드는 AI 가속기 옆에 들어가 방대한 양의 데이터를 빠르게 공급해 생성형 AI의 빠른 응답속도를 구현해 낸다. AI 가속기를 만드는 대표 기업으로는 엔비디아, AMD 등이 있다.

GPU용으로 사용되는 D램에는 GDDR 제품도 있지만 HBM은 D램을 여러 층으로 쌓아 만든다는 점에서 차이를 보인다. 현재 최신 HBM인 5세대(HBM3E)의 경우 12단까지 쌓고 있다. 제한된 공간에서 더 많은 용량을 확보하기 위함이다. 적층을 하면서도 일정한 높이를 유지하는 것이 경쟁력이다.

쌓아올린 D램을 연결시키는 실리콘관통전극(TSV) 공법도 주요 기술 중 하나다. TSV는 적층된 칩 사이에 얇은 금속 터널을 만들어 전기적 신호가 칩 간 직접 전달되게 하는 패키징 기술이다.

다른 종류의 D램도 적층 구조로 된 제품이 있지만 각 층을 선으로 연결해 처리 속도가 비교적 늦다. 쉽게 말해 이 제품들은 아파트에서 계단으로 오르락 내리락 한다면 HBM은 엘리베이터를 이용하는 것이다. 

그렇다고 HBM이 DDR5 등 다른 D램들을 대체하는 제품은 아니다. 같은 D램이라도 용도가 확연히 다르다. AI 서버를 예로 들면 HBM은 CPU, GPU 옆에서 데이터 처리를 돕고, DDR5는 서버 내 메인보드에서 메모리 역할을 해준다. HBM으로 저장 기능까지 대체하기엔 고가의 제품이기 때문이다.

또 공간만 허락한다면 DDR5는 대용량 구현이 가능한 것과 달리 HBM은 적층 수에 한계가 있다. 이같은 문제들로 인해 여전히 게임용 PC, 일반 서버 등 대중 시장에서는 DDR5가 널리 사용되고 있다. 비유를 하자면 HBM은 포뮬러1(F1)을 달리는 레이싱카, DDR5는 도로를 달리는 승용차에 가깝다.

다음 세대(HBM4)부터는 제품 하단 '베이스 다이'에 로직 기능을 넣기로 하면서 미세 공정에 특화된 파운드리(반도체 위탁생산)에 맡기는 등 HBM 차별화가 가팔라질 전망이다. 반도체업계 관계자는 "고객사들의 저전력 요구 등 다양한 기능들을 충족시키기 위한 커스터마이징(맞춤 제작)의 첫 걸음"이라고 말했다.