생활
Chatgpt가 말을 지어내는 이유?
챗지피티를 써보니 모르면 모른다고 하면 되는데 말을 지어내더군요. 솔직히 얘기하면 되는데 거짓말을 하면서까지 말하는 이유가 뭔가요?
55글자 더 채워주세요.
2개의 답변이 있어요!
안녕하세요. 디스맨-Q847입니다.
----
솔직히 얘기하지 않고 거짓말을 지어내는 이유는, gpt가 확률적 모델을 기반으로 하기 때문입니다.
예를들어 '안녕하세요'라는 단어를 보죠.
gpt에게 '안녕하세'다음에 어떤 글자가 오냐고 물어보면 gpt는 이렇게 생각합니다.
(음... '요'라는 글자가 올 확률은 99.99%, '어쩔'이라는 글자가 올 확률은 0.000001%이군.)
그래서 안녕하세요 라고 답변할 수 있는 것이죠.
이렇게 확률적으로 학습이 되었을 뿐, 옳고 그름을 판단하는 능력이나 자아가 없기 때문에 본인이 틀린 말을 하는지도 모르는겁니다.
개발사에서도 이런 현상을 해결하려고 노력중입니다.
안녕하세요. 당찬캥거루298입니다. 솔직하다는것은 없습니다 챗gpt는 주어진 조건하에서 데이터를 이용해 최대한 답변명령을 수행하게끔 작동될뿐입니다