챗gpt는 GPU를 몇장을 활용하여 서비스를 하는것인가요?

Question

요즘 AI가 너무 트랜드이고, 얼마전에 엔비디아 회장도 방문을 했었는데요.

이 엔비디아의 성공도 결국은 AI의 발달에 따른 GPU의 사용이 많아져서라고 생각합니다.

그래서 가장 궁금한게,

과연 ChatGPT는 과연 GPU를 몇장이나 사용하여 서비스를 하는것인가요?

그 AI모델은 몇장을 가지고 학습을 하고 있는것인지 궁금합니다.

Answer 1

안녕하세요 몇장이 아닙니다. 수천개의 cpu 즉 수천개의 그래픽 처리장치로 병렬연산을 수행하고 슈퍼컴퓨터 클라스터에서 작동을 하는것 입니다.