챗GPT의 오류는 어디까지 발견을 한 걸까요?

Question

챗지피티가 독버섯에 대한 반응으로 너무나도 긍정적인 답변을 내놓아서,

일종의 오류라고 하는데..

이러한 AI들의 오류에 대해서도 이젠 검증을 할 수 있어야 할 것으로 보입니다.

이러한 오류들을 AI에서 발견하게 된다면 어느 누군가가 수정을 해줘야 할 텐데..

과연 어디까지 오류를 확인하고 처리할 수 있는 걸까요?

Answer 1

AI의 오류는 주로 사용자 피드백과 테스트를 통해 발견되며 잘못된 정보 제공이나 맥락 오해 등이 대표적입니다.

이러한 오류는 개발자들이 주기적인 모델 업데이트와 데이터 조정으로 개선하지만 모든 상황을 통제할 수는 없습니다.

사용자가 교차 검증을 통해 판단을 해야죠.

챗 GPT는 방대한 정보를 바탕으로 답을 내는데 그 정보들에 오류가 있거나 악의적인 거짓 정보들이 담겨 있다면 잘못된 답을 낼 수 밖에 없습니다.