안녕하세요. 디스맨-Q847입니다.
----
솔직히 얘기하지 않고 거짓말을 지어내는 이유는, gpt가 확률적 모델을 기반으로 하기 때문입니다.
예를들어 '안녕하세요'라는 단어를 보죠.
gpt에게 '안녕하세'다음에 어떤 글자가 오냐고 물어보면 gpt는 이렇게 생각합니다.
(음... '요'라는 글자가 올 확률은 99.99%, '어쩔'이라는 글자가 올 확률은 0.000001%이군.)
그래서 안녕하세요 라고 답변할 수 있는 것이죠.
이렇게 확률적으로 학습이 되었을 뿐, 옳고 그름을 판단하는 능력이나 자아가 없기 때문에 본인이 틀린 말을 하는지도 모르는겁니다.
개발사에서도 이런 현상을 해결하려고 노력중입니다.