디지털·가전제품

챗 지피티는 $20, Gemini는 무료입니다.

이제 질문에 GPT는 C로, 나머지는 G로 표기합니다.

앞서 제목에서 말했듯 저는 저렇게 요금을 하례하고 있습니다.

C는 질문을 하면 음성의 경우엔 잠깐만 확인하고 정리해줄게 하고 G는 음성은 잘 안써봐서 모르겠는데 둘다 정리를 하면 검색 후 답합니다.

근데 G는 0.5초고, C는 1분이하걸립니다.

왜 다른거죠?

G가 C를 이겼다는 내용을 군대 간부님들 대화를 몰래 듣다가 알았는데 그건가요

3개의 답변이 있어요!

  • 현재 저도 GPT를 유료 버전으로 쓰고 있고, 제미나이를 무료로 쓰는데..

    이게 유료버전의 제미나이가 훨씬 신중하고 정보를 더 깊게 아는 반면에 무료버전은 뭔가 성능이 많이 하향된 걸

    체감합니다.

    그러면서 정보수집으로는 무료버전으로도 괜찮은 편이긴 하지만 그럼에도 조금 모자란 느낌을 지울 수 없어서

    GPT를 활용해서 펙트체크를 합니다.

    둘을 동시 운용하면서 크로스 체크를 하면 정보의 정확성이 확 올라가는 걸 느껴요.

  • 응답 속도만으로 두 서비스의 우열을 가리기는 어렵습니다. 걸린 시간의 차이는 대개 성능 차이가 아니라, 그 순간 어떤 방식으로 답을 만들었느냐의 차이입니다. 같은 서비스 안에서도 설정에 따라 0.5초가 되기도 하고 1분이 되기도 합니다.

    요즘 챗봇은 크게 두 가지 방식으로 답합니다. 하나는 알고 있는 내용으로 바로 답하는 방식이고, 다른 하나는 답하기 전에 스스로 단계를 밟아 생각하거나 웹을 검색해 근거를 모으는 방식입니다. 뒤쪽을 쓰면 당연히 수십 초가 걸립니다. 1분이 걸렸다면 실제로 검색을 돌리고 여러 문서를 읽었을 가능성이 큽니다.

    반대로 0.5초 만에 나온 답은 검색을 하지 않고 이미 학습된 내용으로 바로 답한 경우입니다. 빠른 것이 나쁘다는 뜻은 아니지만, 최신 정보나 사실 확인이 필요한 질문에서는 빠른 답이 틀릴 확률이 더 높습니다. 속도와 정확도는 대체로 맞바꾸는 관계라고 보시면 됩니다.

    무료로 쓰신다고 해서 유료와 같은 모델을 쓰는 것도 아닙니다. 무료 이용자에게는 보통 더 가벼운 모델이 기본으로 붙고 사용량 한도도 낮습니다. 유료 요금제로 사는 것은 사실 모델 하나가 아니라 상위 모델 접근 권한과 사용 한도, 그리고 파일 분석이나 이미지 생성 같은 부가 기능입니다.

    구글 쪽이 무료처럼 보이는 데에도 이유가 있습니다. 구글은 검색이나 안드로이드, 업무용 서비스에 얹어서 배포하기 때문에 진입 장벽을 일부러 낮게 가져갑니다. 통신 요금제나 기기 구매에 딸려 오는 경우도 있고요. 돈을 안 받는 것이 아니라 다른 곳에서 회수하는 구조에 가깝습니다.

    어느 쪽이 이겼다는 이야기는 대개 특정 시점의 성능 평가 점수를 두고 나옵니다. 그런데 이 분야는 몇 달 단위로 순위가 뒤집히고, 항목마다 이기는 쪽이 다릅니다. 코딩은 이쪽이 낫고 긴 문서 요약은 저쪽이 낫는 식이라, 한 문장으로 누가 이겼다고 정리하기는 어렵습니다.

    실제로 쓰실 때는 이렇게 나누시면 편합니다. 사실 확인이 중요한 질문은 검색이나 추론 기능을 켜고 시간을 주고 기다리시고, 초안 작성이나 아이디어처럼 빠른 반응이 필요한 일은 기본 모드로 쓰세요. 그리고 중요한 답이라면 두 서비스에 같은 질문을 넣어 비교해 보시는 것이 가장 확실합니다.

  • 내가 입력한 텍스트

    검색을 하면 나온 결과

    그리고 정보를 정리해서 출력하는거

    이거 다 돈입니다

    요즘 업계에서는 토큰이라고 하는데요

    높은 버전의 모델이 토큰당 비용도 더 비싸지지만

    처리할 수 있는 토큰의 양도 많습니다

    무료사용자에게는 굳이 많은양의 토큰을 처리해서 보여줄 필요가 없으니까 제일 싼 모델로 최소한의 토큰만 처리하도록 해서 출력하니까 오히려 더 빠를 수도 있는거고요

    유료버전의 경우 지금 최신 모델의 경우 토큰 숫자를 대략적으로 정해줄 수도 있습니다 GPT의 경우 reasoning 을 몇단계로 바꿔가면서 설정할 수 있는데

    토큰을 적게 쓰면 답변이 더 빨리 나오고 정보가 적고

    토큰을 많아 쓸수록 퀄리티가 올라가지만 답은 더 느리게 나오죠