왜 AI는 그래픽카드로 학습을 시켜야 되나요?

Question

일반 CPU로는 불가능한가요?
만약 속도가 느려서 그렇다면 더 많은 CPU를 사용하면 되는 게 아닐까 해서요.

꼭 GPU로만 사용을 해야되나요?

Answer 1

GPU가 대규모 딥러닝 병렬 학습에 뛰어나기 때문 입니다.

메모리 대역폭도 높아서 병렬학습을 시킬때 전력 소모도 훨씬 줄고용

Cpu로도 학습은 가능합니다만 효율만 따지면 GPU이 대규모 데이터 학습에 훨씬 비용적이나 시간적으로 더 유리하기에 업계에선GPU를 사용하는게 아닐까 싶습니다.

비슷한 예시로 GDDR을 두고 HBM을 쓰는것도 마찬가지로 대역폭 차이 및 전력 효율성 때문이라고 보시면 될거 같습니다