구글 딥마인드가 차세대 인공지능(AI) 시대를 이끌 메모리 기술로 SK하이닉스가 개발 중인 고대역폭플래시(HBF) 언급했는데 HBM이 아닌 HBF인지 궁금힙니다

Question

구글 딥마인드가 차세대 인공지능(AI) 시대를 이끌 메모리 기술로 SK하이닉스가 개발 중인 고대역폭플래시(HBF) 언급했는데 HBM이 아닌 HBF인지 궁금힙니다

그리고 HBM과 HBF위 차이점 설명 부탁드립니다

Answer 1

안녕하세요. 최정훈 전문가입니다.

구글 딥마인드가 HBF를 지목한 건 AI가 학습을 넘어서 추론 단계로 가면서 다뤄야 할 데이터량이 늘었기 때문입니다. 기존 HBM은 D램 기반이라서 속도는 제일 빠르지만 가격이 비싸고 용량을 대폭 늘리기에 한계가 있었죠. 반면에 HBF는 낸드 플래시 기반입니다. 그래서 HBM보다 훨씬 큰 용량을 저렴하게 구현할 수도 있죠. 그러면서도 SSD보다 훨씬 빠른 속도를 내주죠. 결국 HBF는 HBM을 완전히 대체하기보다는 HBM과 SSD 사이에서 엄청난 데이터를 커버해주는 보완용 메모리 계층이겠네요. 정리해보면 속도를 최우선은 HBM이고 대용량과 가성비까지 생기는 추론용은 HBF가 핵심이 될 겁니다.

Answer 2

안녕하세요.

이번에 언급된 것은 HBM이 아니라 HBF가 맞아요.

HBF는 High Bandwidth Flash의 앞글자를 딴 약자로, 현재 SK하이닉스와 샌디스크가 AI 추론용 차세대 메모리로 표준화를 추진하고 있는 기술이죠. SK하이닉스도 HBF를 HBM과 SSD 사이에 들어가는 새로운 메모리 계층으로 설명하고 있어요.

이 둘의 차이점은 영어 약자에서도 알 수 있듯, HBM은 DRAM 기반이라면, HBF는 NAND flash 기반이에요. HBM은 매우 속도가 빠르다면, HBF는 큰 용량과 높은 대역폭을 가지는 것이 장점이죠.

감사합니다.

Answer 3

안녕하세요. 박재화 전문가입니다.

제가 알기로는 이번 구글 딥마인드가 언급한 것은 HBM이 아닌 HBF가 맞는 것으로 알고 있습니다.

HBM은 D램을 여러 층 쌓아 GPU 바로 옆에서 매우 빠르게 데이터를 주고받는 메모리를 말합니다. 현재 AI 학습과 추론에서 핵심적인 역할을 하고 있습니다. 반면에 HBF는 낸드플래시를 기반으로 한 대역폭을 크게 높인 기술입니다. HBM보다 속도와 응답성 면에서는 불리할지 몰라도 훨씬 많은 데이터를 담을 수 있다는 것이 장점입니다.

SK하이닉스와 샌디스크가 공개한 HBF는 AI 추론에서 HBM과 SSD 사이의 빈 공간을 메우는 새로운 메모리 계층을 목표로 하고 있고, 현재 표준화와 제품화가 진행중인 것으로 알고 있습니다.

이것은 어느 하나를 없애는 개념이라기 보다는 함께 사용하는 방향으로 갈 것 같고, AI 모델이 계속 커지는 상황에서 HBM의 속도와 HBF의 대용량을 함께 사용하는 구조가 상당히 중요한 방향으로 발전할 가능성이 높아 보입니다.

Answer 4

안녕하세요. 김재훈 전문가입니다.

최근 구글 딥마인드가 AI 추론 병목을 해결할 차세대 메모리로 언급한 것은 HBM이 아닌 HBF가 맞습니다. HBM이 초고속 D램을 수직으로 쌓아 극강의 전송 속도를 내는 메모리라면 HBF는 대용량 비휘발성 저장장치인 낸드플래시를 HBM처럼 3차원으로 적층해 대역폭을 극대화한 신기술입니다. HBM은 초고속 연산이 필수적인 AI 학습 영역에 최적화되어 있지만 가격과 용량 한계가 명확한 반면 HBF는 HBM 대비 10배 이상의 대용량을 훨씬 저렴한 비용과 높은 전력 효율로 구현할 수 있습니다. 따라서 HBF는 HBM을 완전 대체하기보다는 AI 추론 과정에서 HBM과 함께 배치되어 부족한 메모리 용량을 보완하고 데이터센터 구축 비용을 대폭 낮추는 상호보완적 역할을 수행한다고 보면 됩니다