학문
요즘 너도나도 ai챗봇 경쟁인데요.
요즘 너도나도 ai챗봇 경쟁인데요 ai챗봇을 돌리려면 어마어마한 gpu가 필요한건가요? 쓰는 사람이 많아야 많이 필요한건지 아니면 ai봇이 많은 학습을해야해서 필요한건지 궁금합니다.
55글자 더 채워주세요.
2개의 답변이 있어요!
안녕하세요. 김재훈 전문가입니다.
AI챗봇 운영에는 두가지 단계가 있으며 학습 단계에서는 대규모 데이터를 처리하기 위해 수천 개의 GPU가 필요하지만 이는 한번 수행됩니다 실제 서비스 단계에서는 사전에 학습된 모델을 실행 하는데 이때는 사용자 요청을 처리할 서버 GPU 자원이 필요하며 사용자가 많을수록 더 많은 GPU가 필요합니다
안녕하세요. 조일현 전문가입니다.
필수적이다 라고 할 수 있습니다.
ai를 학습 시키기 위해 많은 계산량과 연산 성능이 요구되기 때문이며 많은 사용자가 이용하다보니 더 빠르고 원활한 서비스를 위해 더 많은 자원이 필요 하게 됩니다. 이에 따라 사용자가 늘어나게 되면 그 만큼 더 자주 학습을 하거나 업데이트로 인해 더 많은 gpu가 필요 하게 됩니다.