ChatGPT나 Gemini가 아직도 환각 현상을 일으키는 질문은 어떤 게 있나요?

Question

안녕하세요. 작년 초만 하더라도 ChatGPT와 같은 LLM 모델에게 '세종대왕이 맥북을 던진 사건을 알려줘.'라고 하면 환각 현상을 일으켰는데요. 제가 저번주에 똑같이 질문해 보았는데, 이제는 환각을 일으키지 않더라고요. LLM 모델을 사용하시면서 환각 현상을 겪었던 질문은 어떤 게 있으신가요? 저는 요즘에는 겪지 못하였습니다.

Answer 1

안녕하세요. 정성들여서 답변드리는 사람입니다.

요즘 LLM들은 많이 발전해서 예전처럼 단순한 환각은 잘 일으키지 않게 되었어요. 하지만 아직도 소리나 시각적인 것에 대한 질문을 하면 환각이 발생하기도 한다고 해요. 예를 들어 "이 음악의 멜로디가 어떻게 들리나요?"와 같은 질문을 하면 실제로는 들을 수 없는데도 답변을 하는 경우가 있죠.

또 전문적이고 복잡한 분야일수록 환각이 더 자주 발생한다고 해요. 특히 의학이나 법률 같은 전문 분야에서는 아직도 5%에서 30% 정도의 환각이 발생할 수 있다고 하네요.

저도 개인적으로는 요즘 AI들이 많이 똑똑해져서 예전처럼 황당한 답변은 잘 안 하는 것 같아요. 그래도 아직은 완벽하지 않으니 중요한 정보는 꼭 다시 한번 확인해보는 게 좋을 것 같네요.

답변이 도움이 되셨으면 좋겠습니다. 감사합니다.

Answer 2

질문마다 다르기 때문에 명확하게 답변하기 힘들다고 생각합니다. 그리고 오류도 많아서 그런 추상적인 질문에 대한 답변은 명확하지 않고요.