우리 일상으로 깊이 들어온 AI 문제점도 지적이 되는데요

Question

우리 일상에 AI가 빠질수 없는 요즘

이 AI 쳇GPT 문제도 화재가 되고 있잖아요

사실이 아닌데도 불구하고 진짜인것 처럼

전달하고 이걸 믿는 분들도 점차 많아지고

있다고 해요

이렇게 AI 가 사실이 아닌 내용을

진짜인 것처럼 답하는 현상이

왜 그럴까요?

Answer 1

안녕하세요. 감병주 전문가입니다.

이런 현상이 일어나는 이유로는 AI가 사실을 제대로 알고있는 것이 아니라 학습한 데이터를 바탕으로 가장 그럴듯한 답을 생성하기 때문입니다. 정보가 부족하거나 근거가 불명확한 경우에도 어떻게든 답변을 하기 위해 자연스러운 문장을 만들다 보니 사실이 아닌 내용을 사실처럼 답하는 현상이 발생하는것으로 알고 있습니다.

그래서 AI의 답변은 편리한 참고 자료로 활용하되 중요한 정보는 공식 자료나 신뢰할 수 있는 출처를 통해 반드시 확인하는 것이 중요하답니다.

Answer 2

AI가 사실이 아닌 내용을 자신 있게 말하는 이유는 거짓말을 하려는 것이 아니라 가장 그럴듯한 다음 문장을 예측해서 답을 만들어 내기 때문입니다.

AI는 인터넷과 책 등 많은 자료를 학습합니다. 사실을 확인하며 답하는 것이 아니라 학습한 패턴을 바탕으로 답을 생성하기 때문에 잘못된 정보가 그럴듯하게 나오는 환각현상이라는 것이 발생될 수 있습니다. 특히 최신 정보나, 전문 분야, 자료가 부족한 경우에 이런 오류가 생길 가능성이 높다고 알려져 있습니다. 오류지만 AI는 또 틀린 내용을 확신에 찬 답변을 하기 때문에 속을 수도 있어요.

Answer 3

안녕하세요. 서종현 전문가입니다.

AI는 대량의 텍스트 데이터를 바탕으로 답을 만드는 언어 모델입니다. 즉, 사람이 쓴 여러 글을학습해 그 패턴을 따라 문장을 만들어 냅니다. 하지만AI는 스스로 진실을 판단하는 능력이 없고, 때로는 정보가 부족하거나 모순될때 가장 그럴듯한 답변을 생성합니다. 그래서 가끔 사실과 다르거나 틀린 내용을 신뢰성 있게 말할수있습니다.

이런 현상을 환각 이라고 하는데 AI가 실제 정보를 왜곡하거나 과장된 표현을 할때 발생합니다. 사용자가 AI 답변을 사실로 받아들일수있기 때문에 주의가 필요합니다. AI 가 완벽하지 않다는 점을 이해하고 중요한 정보는 반드시 추가로 확인하는 습관이 필요합니다.