엔비디아가 차세대 AI 칩 ‘루빈 울트라’에 탑재하는 고대역폭메모리(HBM) 사양을 일부 버전에서 낮추는 방안을 검토중이라는데 엔비디아 제품군별 HBM사양이 궁금합니다

Question

엔비디아가 차세대 AI 칩 ‘루빈 울트라’에 탑재하는 고대역폭메모리(HBM) 사양을 일부 버전에서 낮추는 방안을 검토중이라는데 엔비디아 제품군별 HBM사양이 궁금합니다

전세계 AI 업계가 극심한 메모리 공급난에 시달린 결과 상대적으로 사양이 낮은 반도체라도 활용하려는 수요가 있어 대응욘이라고 하네요

Answer 1

안녕하세요. 김창현 경제전문가입니다.

엔비디아의 주요 인공지능 가속기 제품군별 고대역폭메모리 사양은 세대와 아키텍처에 따라 뚜렷한 차이를 보입니다. 가장 널리 보급된 호퍼 아키텍처 기반의 H100 제품은 1세대 5세대 제품으로서 80GB 용량의 HBM3를 탑재하고 있습니다. 이후 메모리 용량을 대폭 늘려 출시된 H200 제품은 동일한 연산 칩을 쓰면서도 141GB 용량의 고속 HBM3e를 채택했습니다. 차세대 블랙웰 아키텍처 기반의 B200 가속기는 메모리 인터페이스를 넓혀 192GB 용량의 HBM3e를 장착했습니다. 블랙웰 울트라 버전인 B300 제품군은 데이터 처리 체급을 한 단계 더 키워 288GB 용량의 HBM3e 메모리를 탑재합니다. 차세대 아키텍처의 기본형인 베라 루빈 칩은 차세대 6세대 메모리인 HBM4를 최초로 도입하여 288GB 용량을 제공합니다.

Answer 2

안녕하세요. 권용욱 경제전문가입니다.

HBM 사양은 현재 루빈 GPU 엔비디아 신제품에 들어가는 모델은 HBM4 입니다. 이는 삼성과 하이닉스, 마이크론이 납품하고 있습니다. 내년에 출시될 루빈 울트라 버전은 HBM4e 버전이 들어갑니다. 아직 HBM4e는 양산 테스트 중으로 통과한 회사는 아직 없는것으로 알고 있습니다.

Answer 3

안녕하세요. 인태성 경제전문가입니다.

엔비디아에서 생산하는 GPU 별 HBM 사양은 다음과 같습니다.

A100은 HBM2가 탑재되고

H100은 HBM3가 탑재되고

B200은 HBM3E가 탑재되고

블랙웰 울트라는 HBM3E, 베라 루빈은 HBM4가, 그리고

루빈 울트라는 HBM4E가 탑재 예정입니다.

Answer 4

안녕하세요. 정현재 경제전문가입니다.

현행 주력 제품인 베라루빈은 GPU당 최대 288GB의 HBM4를 탑재해 있고, 차세대 최상위 라인업은 루빈 울트라의 경우 최근 극심한 HBM4E 수급 부족 문제로 192GB 또는 256GB 수준으로 낮아지거나 HBM4를 탑재하는 방안이 고려중이라고 합니다.