HBM 완전정복 — 개념부터 수혜주까지

AI 반도체 시대, 가장 많이 듣지만 가장 헷갈리는 그 이름. HBM이 정확히 무엇이고, 어떤 기업들이 이 흐름을 타고 있는지 처음부터 끝까지 정리했다

이 글에서 알 수 있는 것

- HBM이 무엇이고, 일반 D램과 정확히 무엇이 다른지 - HBM1부터 HBM4까지, 기술이 어떻게 진화해왔는지 - HBM 하나가 만들어지기까지 어떤 기업들의 손을 거치는지 - 이 흐름에서 주목받는 국내 기업들은 어디인지 - 투자 전 반드시 알아야 할 위험 요인은 무엇인지

HBM이란 무엇인가 — '고속도로'로 이해하기

HBM(High Bandwidth Memory, 고대역폭메모리)을 이해하는 가장 쉬운 방법은 도로에 비유하는 것이다. 일반 D램은 차선이 몇 개 안 되는 일반 국도라고 생각하면 된다. 차량(데이터)이 아무리 빨리 달리고 싶어도 도로 자체가 좁으면 정체가 생긴다. HBM은 이 도로를 수십 개 차선으로 넓힌 고속도로다. 차량의 속도(클럭 속도)를 무리하게 높이지 않고도, 차선 수(인터페이스 폭) 자체를 늘려서 한 번에 훨씬 많은 데이터를 실어 보낸다.

이 구조를 가능하게 하는 핵심 기술이 두 가지다. 첫째는 수직 적층(Stacking)이다. D램 칩을 옆으로 늘어놓는 대신 여러 장을 아파트처럼 위로 쌓아 올린다. 같은 면적에 더 많은 메모리를 담을 수 있고, GPU와의 물리적 거리도 가까워진다. 둘째는 TSV(실리콘관통전극, Through-Silicon Via)다. 이건 그 아파트의 각 층을 연결하는 엘리베이터에 해당한다. 칩과 칩 사이에 미세한 구멍을 뚫고 그 안에 전극을 채워, 위아래로 쌓인 칩들이 데이터를 직접 주고받을 수 있게 한다.

이렇게 만들어진 HBM은 GPU나 AI 가속기 바로 옆에 나란히 배치된다. 일반 D램이 메인보드 어딘가에 멀찍이 떨어져 꽂혀 있는 것과 달리, HBM은 프로세서와 한 몸처럼 붙어서 짧고 넓은 통로로 데이터를 주고받는다. 이 '짧고 넓은 통로'가 바로 AI 연산에서 결정적인 차이를 만든다.

왜 지금 이렇게 중요해졌나

AI 모델, 특히 거대언어모델(LLM)을 학습시키고 추론하는 과정은 단순히 계산을 빨리 하는 것만으로 끝나지 않는다. 모델이 갖고 있는 수천억 개의 파라미터(매개변수)를 메모리에서 끊임없이 끌어와야 한다. 연산 속도가 아무리 빨라도, 그 연산에 필요한 데이터를 제때 공급받지 못하면 GPU는 손가락만 빨며 대기하게 된다. 업계에서는 이를 '메모리 병목(memory bottleneck)'이라 부른다.

HBM은 바로 이 병목을 풀어주는 부품이다. AI 반도체 성능 경쟁이 한동안 "얼마나 빠른 연산 칩을 만드느냐"의 싸움이었다면, 이제는 "그 칩에 데이터를 얼마나 빨리 공급할 수 있느냐"의 싸움으로 옮겨가고 있다. 엔비디아의 최신 AI 가속기 한 장에는 HBM이 여러 개 적층 형태로 탑재되는데, 이 HBM의 성능과 수량이 곧 GPU 전체의 실질적인 성능을 좌우한다.

HBM의 진화 — HBM1부터 HBM4까지

HBM은 2013년 처음 국제표준(JEDEC)으로 채택된 이후, 매 세대마다 '차선'을 넓히고 '엘리베이터'를 더 효율적으로 만들어왔다. 세대별 흐름을 정리하면 다음과 같다.

세대 | 표준 채택 | 인터페이스 폭 | 스택당 대역폭 | 특징

HBM1 | 2013년 | 1024비트 | - | 첫 상용 HBM, SK하이닉스가 세계 최초 개발

HBM2 | 2016년 | 1024비트 | - | 용량·속도 개선

HBM2E | 2020년 | 1024비트 | 약 460GB/s | 엔비디아 A100 등 초기 AI 가속기에 탑재

HBM3 | 2022년 | 1024비트 | 최대 819GB/s | 채널 수를 8개→16개로 확대, HBM 주류화 시작

HBM3E | 2023년 | 1024비트 | 1.2TB/s 이상 | 현재 주력 제품, 엔비디아 블랙웰 등에 탑재

HBM4 | 2025년 표준 발표 | 2048비트 (2배 확장) | 표준 약 2TB/s, 삼성전자 단일 스택 기준 최대 3.3TB/s 구현 | HBM4부터는 베이스 다이를 첨단 파운드리 공정으로 제작, 기업마다 전략이 다름

이 표에서 가장 주목할 부분은 HBM4다. HBM2부터 HBM3E까지는 같은 1024비트 도로 위에서 차량(데이터)의 속도만 계속 높여온 것이었다. 그런데 HBM4는 도로 자체를 2048비트, 즉 2배로 넓혔다. 채널 수도 기존 16개에서 32개로 두 배 늘었다. 단순한 속도 개선이 아니라 구조 자체를 다시 설계한 세대라는 의미다.

용량도 함께 커지고 있다. HBM3E는 한 스택에 D램을 최대 16장까지 쌓아(16-Hi) 48GB를 구현했는데, HBM4는 같은 16단 적층에서 최대 64GB까지 용량을 늘릴 수 있는 구조로 설계됐다. 전력 효율도 HBM3E 대비 약 40% 개선될 것으로 업계는 전망한다. 더 많이 담고, 더 빠르게 주고받으면서, 전력은 덜 쓰는 방향으로 기술이 수렴하고 있는 셈이다.

여기서 끝이 아니다. 한미반도체는 이미 차세대 HBM5·HBM6 생산을 염두에 둔 장비 개발에 착수했다고 밝혔는데, 이는 HBM의 진화가 HBM4에서 멈추지 않는다는 신호다. 업계는 HBM5에서 대역폭이 스택당 4TB/s 수준까지 올라갈 것으로 내다보고 있다.

누가, 어떻게 만드는가 — HBM 공급망 지도

HBM 한 개가 AI 서버에 탑재되기까지는 여러 단계의 기업들을 거친다. 이 흐름을 이해하면 '수혜주'라는 말이 왜 한 기업에만 국한되지 않는지 알 수 있다.

① 메모리 3사 — HBM의 본체를 만드는 곳

HBM의 핵심인 D램 적층 자체를 만드는 곳은 전 세계에 단 세 곳뿐이다. SK하이닉스, 삼성전자, 그리고 미국의 마이크론이다. 이 중 SK하이닉스는 2013년 세계 최초로 HBM을 개발한 기업으로, 이후 줄곧 HBM 시장에서 가장 앞서 있는 위치를 지키고 있다. 삼성전자는 메모리 전반의 강자로서 추격하고 있고, 마이크론 역시 엔비디아 블랙웰 GPU에 자사 HBM3E를 공급하며 빠르게 점유율을 늘리고 있다.

세 회사의 결정적인 차이는 다음 섹션에서 다룰 '파운드리' 보유 여부에 있다. 삼성전자는 메모리와 파운드리를 모두 한 회사 안에 갖춘 세계 유일의 종합반도체기업(IDM)이다. 이 점이 HBM4 시대로 갈수록 중요한 경쟁 요소로 부각되고 있다.

② 파운드리 — HBM의 '받침대'를 만드는 곳

HBM4 세대부터는 한 가지 중요한 변화가 생겼다. HBM을 적층할 때 그 맨 아래에 놓이는 '베이스 다이(base die)'—전력과 신호를 제어하는 기반 칩—를 기존의 D램 공정이 아니라 첨단 파운드리 공정으로 따로 제작해야 한다는 것이다. 미래에셋증권 추정으로 이 베이스 다이가 HBM4 원가의 약 15%를 차지할 만큼, 그 중요성이 커졌다.

흥미로운 점은 메모리 3사가 이 베이스 다이를 만드는 방식에서 서로 다른 길을 택했다는 것이다. SK하이닉스는 대만의 TSMC에 베이스 다이 생산을 맡기는 외부 협력 전략을 선택했다. HBM3E까지는 자체 기술로 만들었지만, HBM4부터는 TSMC의 첨단 로직 공정을 가져와 베이스 다이의 성능을 끌어올리는 쪽으로 전략을 바꾼 것이다.

삼성전자는 정반대의 길을 갔다. 자체 파운드리의 4나노 공정으로 베이스 다이를 직접 생산하는 수직계열화를 택했다. 이게 가능한 이유는 삼성전자가 전 세계에서 유일하게 메모리·파운드리·시스템반도체·패키징을 모두 한 회사 안에 갖춘 종합반도체기업(IDM)이기 때문이다. SK하이닉스나 마이크론은 메모리는 만들지만 첨단 파운드리는 직접 갖고 있지 않아 TSMC 같은 외부 업체에 의존해야 하는데, 삼성전자는 같은 회사 안에서 메모리 설계팀과 파운드리 공정팀이 긴밀하게 협업(DTCO)할 수 있다는 게 차별점이다. 다만 삼성전자 파운드리 사업부 자체는 최근 몇 년간 TSMC에 점유율을 크게 내준 상태였고, 업계에서는 이번 HBM4 베이스 다이 자체 생산이 "뒤처진 파운드리 경쟁력을 증명해야 하는 시험대"라는 평가도 동시에 나온다.

마이크론은 비용 절감을 우선시해 자사 D램 공정으로 베이스 다이를 직접 만들었는데, 이 때문에 엔비디아가 요구하는 성능 수준을 맞추지 못해 공급 경쟁에서 다소 뒤처졌다는 평가를 받기도 했다.

결국 HBM4 시대는 "D램을 얼마나 많이 쌓느냐"의 경쟁에서 "베이스 다이를 얼마나 고도화하느냐"의 경쟁으로 무게중심이 옮겨가고 있고, 이는 메모리 경쟁력과 파운드리 경�쟁력이 한데 묶이는 방향으로 시장이 재편되고 있다는 뜻이다. TSMC는 SK하이닉스·마이크론의 베이스 다이를 수주하는 동시에, 일부 다른 HBM 진영의 파운드리 역할까지 맡으며 이 경쟁에서 중요한 위치를 점하고 있다.

③ 후공정 장비 — 쌓아 올린 칩을 단단히 붙이는 곳

D램을 수십 장 쌓아 올렸다고 저절로 하나의 HBM이 되는 것은 아니다. 이 적층된 칩들을 열과 압력으로 정밀하게 붙여 하나로 결합하는 공정이 필요한데, 이 장비를 'TC본더(Thermo-Compression Bonder)'라 부른다. 한국의 한미반도체가 이 장비 시장에서 압도적인 점유율(약 71%)을 차지하고 있다. HBM4용 TC본더는 이미 양산 체제에 들어갔고, 회사는 차세대 HBM5·HBM6에 대응하는 '와이드 TC본더'까지 미리 준비하고 있다.

다만 차세대 적층 기술로 갈수록 새로운 경쟁이 생긴다. 16단 이상의 초고적층(울트라 하이 스택) 공정부터는 범프(접착 물질) 없이 칩과 칩을 직접 맞붙이는 '하이브리드 본딩' 기술이 중요해지는데, 이 분야는 해외의 어플라이드머티어리얼즈, 베시, ASMPT 같은 기업들이 오랜 특허를 갖고 앞서 있다. 한미반도체는 이 영역에서도 전용 공장을 새로 짓고 특허를 쌓아가며 추격하는 중이고, 한화세미텍 같은 후발 국내 기업도 이 경쟁에 합류했다.

④ 소재·기판 — HBM과 GPU를 연결하는 다리

HBM과 GPU를 같은 기판 위에 얹어 하나의 패키지로 만드는 과정에는 정밀한 기판 기술이 필요하다. 특히 여러 개의 칩을 하나의 큰 기판 위에 나란히 배치하는 'FC-BGA' 기판은 AI 반도체 패키지에서 핵심적인 역할을 한다. 이 영역에서는 이수페타시스(AI 서버용 고다층 기판), 대덕전자(FC-BGA) 같은 기업들이 주목받는다. HBM 자체를 만들지는 않지만, HBM이 실제로 작동하는 패키지로 완성되기 위해 반드시 필요한 부품들이다.

⑤ 후공정 외주(OSAT) — 패키징과 검사를 전문으로 하는 곳

TSMC나 삼성전자 같은 대형 파운드리는 첨단 공정 자체에 생산력을 집중하는 경우가 많아, 패키징이나 검사 같은 후속 작업을 외부 전문기업에 맡기기도 한다. 이런 역할을 하는 기업을 OSAT(Outsourced Semiconductor Assembly and Test)라 부르며, 국내에서는 하나마이크론 등이 이 영역에서 활동한다. 또한 미세한 적층 칩의 불량을 검사하는 정밀 테스트 장비 분야에서는 리노공업 같은 기업이 높은 점유율을 갖고 있다.

정리하면 — HBM 밸류체인 한눈에 보기

① 메모리 3사 (HBM 본체 제조)
SK하이닉스 · 삼성전자 · 마이크론
↓
② 파운드리 (베이스 다이 제작 — 기업마다 전략 다름)
삼성전자(자체 4나노) · TSMC(SK하이닉스·마이크론 일부 위탁)
↓
③ 후공정 장비 (적층 칩 결합)
한미반도체(TC본더) · 한화세미텍
↓
④ 소재·기판 (패키지 연결)
이수페타시스 · 대덕전자
↓
⑤ 후공정 외주·검사 (패키징·테스트)
하나마이크론 · 리노공업
↓
⑥ 최종 적용 (AI 가속기 완성)
엔비디아 · AMD 등

이 구조를 알면 "HBM 수혜주가 SK하이닉스 하나뿐"이라는 생각에서 벗어날 수 있다. HBM이라는 부품 하나가 완성되기까지, 적어도 5단계 이상의 서로 다른 기업들이 손을 거친다. 각 단계마다 기술적 난이도와 경쟁 구도가 다르기 때문에, 투자자 입장에서는 "어느 단계에 투자하는가"에 따라 위험과 기대수익의 성격도 달라진다.

투자 전 꼭 알아야 할 위험 요인

정보를 정리하는 글일수록 위험 요인을 빠뜨리면 균형을 잃는다. HBM 관련 투자를 고려한다면 다음 세 가지를 함께 알아두는 것이 좋다.

첫째, 가격 사이클의 존재다. 메모리 산업은 본래 수요·공급에 따라 가격이 크게 출렁이는 업종이었다. HBM이 AI 호황으로 이 사이클의 진폭을 키운 것은 사실이지만, 사이클 자체가 사라진 것은 아니다. 지금의 호황이 영원히 지속된다고 가정하는 것은 위험하다.

둘째, 공급망 내부의 경쟁 구도가 계속 바뀐다는 점이다. 지금 점유율이 높은 기업이 다음 세대에도 같은 위치를 유지한다는 보장은 없다. HBM4의 하이브리드 본딩 경쟁에서 보듯, 새로운 기술 전환기마다 해외 기업과 후발 기업들이 도전장을 내밀고 있다. 특정 기업의 '독점적 지위'는 다음 세대 기술 전환에서 흔들릴 수 있는 잠정적인 지위다.

셋째, 밸류체인의 각 단계마다 사업의 성격이 다르다는 점이다. 메모리 3사처럼 대규모 설비투자가 필요한 사업과, 특정 장비 하나에 특화된 기업의 사업 구조는 위험과 수익의 패턴이 다르다. "HBM 관련주"라는 한 마디로 모든 기업을 같은 잣대로 묶어 판단하는 것은 정확한 접근이 아니다.

다음 읽을거리: HBM이 실제로 어떻게 거래되고 가격이 매겨지는지, 그리고 이 가격이 왜 일반 소비자용 D램과 다르게 책정되는지를 다룬 글로 이어가면 HBM에 대한 이해를 한 단계 더 넓힐 수 있다.