HBM(고대역폭 메모리)은 주로 어디에 쓰이나요?

Question

최근 뉴스나 주식 시장에서 HBM(고대역폭 메모리)이라는 단어가 정말 자주 보여서 질문드립니다.

​일반 컴퓨터에 들어가는 DDR 메모리와 비교했을 때, HBM은 구체적으로 어떤 제품이나 장치, 어떤 산업 분야에서 주로 사용되는지 궁금합니다. AI 반도체 외에도 쓰이는 곳이 있나요? 알기 쉽게 설명해 주시면 감사하겠습니다!

Answer 1

이름은 고대역폭 메모리라고 불리더군요

근데 쉽게 생각하면 그게 요즘 데이터센터같은거

짓는다고 투자많이 하잖아요. 거기에 그게 많이 들어간대요

Answer 2

HBM은 주로 그래픽카드에 들어가요,

엔비디아가 그 시장에서 최고이고요,

하이닉스가 70%가까히 납품하고 있습니다.

삼전이 나머지를 책임지고 있습니다.

해서 시총도 하이닉스가 잠시지만 삼전을 따라잡은 적이 있습니다.

Answer 3

HBM은 인공지능(AI) 시대의 핵심으로 꼽히는 초고속 메모리 반도체 'HBM(High Bandwidth Memory, 고대역폭 메모리)'을 의미하는 것이며, 주로 '엄청난 양의 데이터를 초고속으로 처리해야 하는 고성능 컴퓨팅 분야'에 사용됩니다.

<AI(인공지능) 가속기 및 데이터 센터 (가장 핵심적인 용도)>

현재 HBM 수요의 대부분이 몰리는 곳입니다. 챗GPT 같은 대형언어모델(LLM)을 학습시키고 서비스하려면 수천 개의 AI GPU(예: 엔비디아의 H100, B200 등)가 필요한데, 이 GPU 옆에 바짝 붙어서 초고속으로 데이터를 공급해 주는 역할을 HBM이 맡고 있습니다. HBM이 없으면 GPU가 아무리 빨라도 메모리가 데이터를 제때 주지 못해 병목 현상이 생기게 됩니다.

<슈퍼컴퓨터 (HPC) 및 기상/우주 관측>

기상 예측, 우주 탐사 데이터 분석, 분자 구조 시뮬레이션 등 복잡하고 방대한 연산을 수행하는 글로벌 연구소의 슈퍼컴퓨터에 필수적으로 탑재됩니다.

<고성능 그래픽 카드 (워크스테이션)>

3D 그래픽 렌더링, 고해상도 영상 편집 등을 전문으로 하는 딥러닝/그래픽 워크스테이션용 특수 그래픽 카드에 쓰입니다. (일반 게이밍 PC는 가격이 훨씬 저렴한 GDDR 계열 메모리를 주로 사용합니다.)

<자율주행 및 모빌리티 시스템>

실시간으로 수많은 센서 데이터를 분석하고 주변 상황을 판단해야 하는 최고급 자율주행 차의 ADAS(첨단 운전자 보조 시스템) 및 중앙 컴퓨터 시스템에도 고성능 HBM이 점차 도입되는 추세입니다.