디지털·가전제품
엔비디아의 블랙웰의 성능은 어떠한지 궁금합니다.
엔비디아의 젠슨 황 최고경영자가 최첨단 인공지능 칩셋 블랙웰에 설계 결함이 있었지만 오랜 파트너사인 TSMC의 도움으로 해결됐다고 최근 밝혔는데요.
이러한 엔비디아의 블랙웰의 성능은 어떠한지 궁금합니다.
1개의 답변이 있어요!
NVIDIA의 블랙웰 아키텍처, 특히 B200 GPU는 AI 성능 면에서 이전 세대인 Hopper (H100)와 비교해 큰 도약을 이뤘습니다. TSMC의 최신 4nm 공정을 사용해 제작된 이 GPU는 20 페타플롭스에 달하는 AI 연산 성능을 제공하며, 이는 H100의 성능을 FP4 정밀도 기준으로 약 5배 향상시킨 것입니다. 이러한 낮은 정밀도를 활용함으로써 메모리 사용량을 줄이고 처리 속도를 크게 높일 수 있어, 특히 GPT와 같은 대형 언어 모델에서 효율적인 추론이 가능합니다.
블랙웰 B200의 주요 기능으로는 192GB의 HBM3e 메모리와 초당 8TB의 메모리 대역폭이 포함되어 있으며, 이는 대규모 AI 모델을 원활하게 처리할 수 있도록 지원합니다. 또한, NVLink 인터커넥트 대역폭이 이전 세대 대비 두 배로 증가하여 GPU 간 데이터 통신이 개선되고, 대규모 AI 및 머신러닝 애플리케이션에서의 확장성을 높였습니다.
결론적으로, 블랙웰은 LLM(대형 언어 모델) 및 복잡한 과학 시뮬레이션과 같은 최첨단 AI 애플리케이션을 위한 강력한 솔루션으로 자리 잡고 있습니다.