ai한테 질문을 했을때 잘못 답해줬는데도 당당하게 말하는 이유가 뭘까요

Question

ai로 검색해서 정보를 찾을 일이 있어서 물어본적이 있었는데

잘못된 정보를 알려주더라고요. 그래서 이건 잘못된 정보라고 정정해줬더니

네말이 맞다면서 그제야 조금 다르게 알려주는데 이건 뭐때문에 그런걸까요

Answer 1

안녕하세요. 조일현 전문가입니다.

ai의 잘못된 답변은 환각 이라고 부르고 있습니다.

하지만 아무리 정교하고 똑똑한 모델이라도 정답에 가까운 확률 높은 답변을 할 뿐 100% 정확하다고 볼 수 있습니다.

이는 학습한 데이터를 통해 결과를 표현하기에 틀린 정보나 과거 답변을 제시할 수 있어 실시간 반영이 어렵다고 볼 수 있겠습니다. 따라서 당당하게 거짓말을 하는 것이 아니라 학습된 데이터가 정확하지 않아 신빙성이 떨어진다 라고 할 수 있습니다.