Chat gpt가 100%확정을 피하려는이유

Question

안녕하세요. ChatGPT 같은 대규모 언어모델(LLM)의 답변 성향에 대해 궁금합니다.

미래 기술이나 개인의 미래 상태처럼 불확실성이 있는 질문에서, ChatGPT가 어떤 결과를 “가능하다”고 평가하면서도 “반드시 100% 그렇게 된다고 보장할 수는 없다”는 표현을 자주 덧붙이는 경우가 있습니다.

이런 답변은 실제로 해당 가능성을 낮게 평가해서 그런 것인지, 아니면 LLM이 과잉확신이나 잘못된 단정을 피하도록 학습되어 있기 때문에 가능성을 긍정적으로 보더라도 100% 확정 표현 자체를 피하는 일반적인 응답 성향인지 궁금합니다.

또한 현재 LLM이 불확실한 미래를 답할 때 실제 가능성 평가와 별개로 “반드시”, “100%”, “확실히” 같은 표현을 의도적으로 더 조심해서 사용하는 경향이 있는지도 의견 부탁드립니다.

Answer 1

안녕하세요. 박재화 전문가입니다.

Chat GPT가 미래 질문에 100% 확정을 피하는 것은 가능성을 낮게 본다는 뜻과는 조금 다를 수 있습니다.

미래에는 일단 변수가 많기 때문에 가능성이 높아도 반드시 그렇게 된다고 단정하게 되면 틀릴 위험이 존재합니다. 그래서 가능성이 높다, 충분히 가능하다 같은 표현을 쓰면서 100% 보장은 어렵다고 덧붙이는 경우들이 많은 이유입니다.

이것은 과잉확신이나 잘못된 단정을 줄이려는 일반적인 응답 성향에 가까운 것입니다. 다만 모델의 조심스러운 표현이 실제 확률을 정확히 숫자로 반영하는 것은 아닙니다. 결국 100%라는 말을 피한다고 해서 가능성을 낮게 본다고 바로 해석할 필요는 없다는 것입니다.

Answer 2

안녕하세요. 설재훈 전문가입니다. LLM이 미래의 가능성을 높게 평가하면서도 반드시, 100%, 확실히 같은 표현을 피하는 것은 상당히 일반적인 성향입니다.

 예를 들어 어떤 기술이 앞으로 현실화될 가능성을 매우 높게 본다고 해도, LLM은 그것을 곧바로 반드시 그렇게 된다고 표현하지 않는 경우가 많습니다. 미래에는 예상하지 못한 기술적·경제적·사회적 변수가 생길 수 있기 때문입니다.

 여기에는 LLM이 과잉확신이나 잘못된 단정을 피하도록 학습되고 조정된 영향도 있습니다. 즉 실제 판단은 상당히 긍정적이더라도 표현에서는 한 단계 낮춰 말할 수 있습니다. 

 그래서 답변에서 100%라는 말을 쓰지 않았다고 해서 가능성을 낮게 평가한다고 볼 수는 없습니다. 오히려 가능성 자체와 확정적으로 말해도 되는지를 별도로 판단하는 것입니다.

Answer 3

안녕하세요. 이수민 전문가입니다.

대부분은 가능성을 낮게 봐서라기보다 응답 성향에 가까워요. LLM은 사전학습 뒤 사람이 답변을 평가하는 강화학습(RLHF)을 거치는데, 이때 불확실한 일을 단정하는 답은 낮은 점수를, 근거와 한계를 함께 말하는 답은 높은 점수를 받도록 조정돼요. 건강, 시험 합격, 투자처럼 틀렸을 때 피해가 큰 주제는 개발사 가이드라인에서도 보장 표현을 피하라고 명시하는 경우가 많아요. 그래서 실제로 꽤 가능성이 높다고 보는 상황에서도 "반드시", "100%" 같은 말은 습관처럼 빠지고 "보장할 수는 없다"는 문장이 붙어요.

또 LLM이 말로 표현하는 확신의 정도는 내부의 확률 판단과 정확히 맞물려 있지 않아요. "가능하다"와 "충분히 가능하다"의 차이가 실제 수치 차이를 엄밀하게 반영한다고 보기는 어려워요.

실제 평가를 알고 싶으시면 질문을 구체적으로 바꿔 보세요. "가능성을 대략 몇 퍼센트로 보는지와 그 근거", "가장 유력한 시나리오와 실패한다면 어떤 이유일지"처럼 물으면 같은 모델도 훨씬 분명한 판단을 내놓아요 :)

Answer 4

안녕하세요. 김재훈 전문가입니다.

LLM이 100% 확정적 표현을 피하는 가장 큰 이유는 모델 학습 과정에서 환각 및 과잉 확신을 방지하고 안전성을 확보하도록 보정 및 RLHF가 적용되었기 때문입니다. 따라서 실제 내부 확률이 아무리 높거나 특정 결과를 긍정적으로 평가하더라도 불확실성이 존재하는 미래 예측이나 변수가 많은 질문에는 절대적 단정을 피하도록 시스템적인 응답 성향이 형성되어 있습니다 이는 대상의 실제 발생 가능성이 낮아서라기보다는 수많은 외부 변수와 모델 자체의 정답 보장 한계로 인해 발생할 수 있는 오답 리스크 및 법적 윤리적 책임을 최소화하려는 안전장치에 가깝습니다. 결과적으로 현재 AI는 사용자의 과도한 신뢰를 방지하고 객관적 유연성을 유지하기 위해 100% 반드시 확실히와 같은 확정적 표현을 구조적으로 제어하며 신중한 어조를 취하도록 설계되어 있습니다

Answer 5

안녕하세요. 최정훈 전문가입니다.

AI가 확답을 피하는 가장 큰 이유는 과잉 확신을 막도록 엄격하게 학습되어 있기 때문이죠. 왜냐하면은 AI가 틀린 사실을 100% 확실하다고 말하면은 사용자에게 큰 피해를 입힐 수가 있습니다. 그래서 실제 성공 확률이 매우 높다고 해도 시스템의 내부 규칙에 따라서 단정적인 표현을 자제하도록 되어 있기 때문이죠.

그래서 AI는 실제 가능성이랑 별개로 반드시라는 단어를 의도적으로 피하고 있습니다. 왜냐하면은 미래의 모든 변수를 미리 완벽하게 통제하는 것은 불가능하기 때문이죠. 게다가 법적인 문제 윤리적인 책임을 줄이기 위해서도 나름의 안전 장치를 겹겹이 둔 것이라고 이해해도 좋겠습니다. 그러니까 결론적으로 AI의 유보적인 어조는 안전을 위한 기본 방침이라고 이해하셔도 좋겠네요.