ai의 거짓말과 틀린정보에 대하여 물어보고 싶습니다.

Question

점점 ai에 의존하는 생활을 하고 있는데요. 모든 데이터를 검색해서 제공하는 정보인데 왜 틀린정보가 연속되는지요. 업무에 사용하다보니 틀린정보때문에 곤욕을 치룬 경험이 자주있어서 난감합니다.

ai의존도는 어느정도가 적합한가요?

ai는 아직 온전한 기술력이 아닌가요?

Answer 1

안녕하세요. 이대길 경제전문가입니다.

인공지능은 단순히 데이터를 검색하는 것이 아니라 단어와 문맥의 확률적 연관성을 계산하여 문장을 생성하는 언어 모델이므로 사실 여부와 상관없이 그럴듯한 거짓말을 만들어내는 할루시네이션 현상이 발생하며 아직 완벽하지 않은 기술이므로 업무에 활용할 때는 전적으로 신뢰하기보다 초안 작성이나 아이디어 도출 용도로만 삼십 퍼센트 정도만 의존하고 최종 결과물은 인간이 반드시 사실 검증을 거쳐야 합니다

질문에 따라서 답이 달라지기도 하고 아예 반대의 답을 주기도 하니 아직까지는 지혜보다는 정보의 취합정도의 수준으로 보고 그 정보가 옳은지 틀린지는 재검색을 통해 알아봐야합니다

Answer 2

안녕하세요. 인태성 경제전문가입니다.

일단 AI 가 검색하는 데이터 베이스의 정보가

100퍼센트 상황에 적합하고 맞는 정보라는 보장이 없기 때문에

AI도 틀린 정보를 제공할 수 있는 것입니다.

그렇기에 본인도 어느 정도 팩트 체크가 가능해야 합니다.

Answer 3

안녕하세요. 정현재 경제전문가입니다.

AI가 틀린 정보를 그럴듯하게 제공하는 이유는 데이터를 단순히 검색해 보여주는 것이 아니라, 단어와 문맥의 확률을 계산해 문장을 창작하기 때문이에요. 이 과정에서 발생하는 오류를 ‘할루시네이션(환각 현상)’이라고 하는데, 즉 AI는 아직 완벽한 사실 검증 능력을 갖추지 못한 개발 중인 기술이라는 뜻이죠. 그래서 업무에 AI를 활용할 때는 절대적인 정답 제공자가 아니라 아이디어를 내고 초안을 잡아주는 보조 역할로 활용하고, 의존도는 50% 이하로 낮추는 게 좋아요. 중요한 팩트나 수치, 법률 등은 사람이 반드시 직접 검증하는 습관을 들여야 실수 없이 안전하게 일할 수 있답니다.