쳇지피티를 움직이는 데 전기는 어느정도 먹나요?
우리가 인공지능이 전력 소비를 많이 한다고 하던데요.
사람들이 많이 쓰는 쳇지피티 같은경우에는 어느정도 전기 사용을 하는건가요?
안녕하세요. 신광현 전문가입니다.
개별 쿼리당 전력 소비
– 일반 텍스트 프롬프트(수백 토큰) ≈ 0.3 Wh
– 긴 문서 업로드(≈1만 토큰) ≈ 2.5 Wh
– 대용량 입력(≈10만 토큰) 최대 40 Wh
전체 데이터센터 소비
– 0.3 Wh/쿼리 가정하더라도 하루 수억 건 요청 → 수십 MWh 소모
– 타 연구 기준(0.14 kWh/100단어)로는 하루 약 4,000만 kWh
요약하자면, 개별 상호작용은 전력 소모가 극히 적지만, 방대한 이용량 때문에 데이터센터 전체로 보면 매일 수십 메가와트시급 전력을 쓴다는 뜻입니다.
안녕하세요. 박준희 전문가입니다.
생성형 AI 서비스의 전력 소모량은 기존 인터넷 서비스보다도 10배 이상 많다고 합니다. 단적인 예를 들어 구글 검색엔 평균 0.3Wh의 전력이 쓰이는 반면 챗GPT는 한 번에 2.9Wh를 소모한다고 하네요.
감사합니다.
안녕하세요. 하성헌 전문가입니다.
이러한 인공지능의 경우 자가발전학습을 통해 다양한 지식과 그에 대한 생각을 정리하는 시간이 필요해 24시간 자기연산을 하는 것으로 알려져 있습니다. 이러한 것은 크게 인공지능의 개별학습, 그리고 다양한 정보 취합, 사람들의 접속 등에 따른 전력을 모두 고려해봐야 합니다. 다만 대략적인 형태나 수치를 확인하려면 이는 수백 ~ 수천 kw 정도의 데이터가 소모가 될 예정이라 이는 큰 전력이 소모된다고 볼 수 있을 것으로 보입니다.
안녕하세요. 구본민 박사입니다.
ChatGPT 한번 실행시 평균 전력
OpenAI CEO 사만다 알트만에 따르면, 평균적으로 ChatGPT 한번 실행할 때 약 0.34Wh정도 소비 된다고 합니다. 이는 고효율 LED 전구 2~3분 정도를 켤 수 있는 수준입니다.
한번 실행시 비교적 낮은 편이지만 전 세계 수백만 사용자의 사용량이 누적되면 전력 소모는 꽤 커진다는 셈이니 단일 실행은 부담이 없지만 전체 규모엔 신경 써야 할 수준입니다.
안녕하세요. 설효훈 전문가입니다. 우리가 사용하는 쳇gpt는 질문 1회 답변을 하는데 약 0.1 ~ 1 Wh 사용된다고 합니다. 보통 led 전구가 1시간에 10Wh인것에 비하면 정말 많이 사용되는 것입니다.
안녕하세요. 김재훈 전문가입니다.
ChatGPT 같은 대형 인공지능은 실제로 상당한 전력을 소비한다고 합니다 GPT-4 의경우 질문 1개당 수 와트의 전기를 소비한다고 하는데 만일 수백만 명이 동시에 사용할 경우 데이터센터 전체에서 하루에 수십만 킬로와트시 의 전력을 사용할 수 있다고 합니다
안녕하세요. 김준연 전문가입니다.
대형 언어 모델들은 많은 소비전력을 가지는것은 맞습니다. 저희들은 쉽게 쳇지티피를 접하고 사용하지만 실제로는 많은 컴퓨터와 전기를 사용하여 ai를 운영하고 있습니다. 쳇지티피는 한국뿐만 아니라 전세계적으로 수억건의 요청이 있고 그것을 답변하고 있습니다. 이것은 소비전력을 표현하기 어렵고 수억 kwh 로 추정이 됩니다.
제답변이 도움이되셨으면 좋겠습니다
안녕하세요. 강세훈 전문가입니다.
GPT 같은 인공지능 모델은 서버에서 운영되기 때문에, 전력 소비는 서버의 규모와 사용량에 따라 달라집니다.
대형 데이터 센터에서 수천에서 수만 킬로와트의 전력을 사용합니다. 개인 사용자 수준에서는 거의 전력 소모가 크지 않습니다.
안녕하세요. 조일현 전문가입니다.
일반적으로 1회 사용기준은 약 0.3와트시(Wh)로 보입니다.
하지만 전세계적으로 수억 건을 요청하고 처리하기 때문에 엄청나게 큰 전력이 필요하게 됩니다.
이는 앞으로 AI 서비스가 더 생활화 되고 개발됨에 따라 전력 소비가 크게 늘어날 전망입니다.