요즘 Ai 요약이나 정보 믿으시는 편인가요?

Question

요즘 검색만 해도 ai 요약이 뜨고 뭐만해도 ai를 쓰는 웹사이트들이 많은데, 전 이걸 믿어도 되는지 잘 모르겠더라고요. 여러분은 어떤가요?

Answer 1

믿느냐 마느냐로 나누기보다 어떤 질문이었느냐로 나누시면 훨씬 편해집니다. 저는 그 기준으로 씁니다.

개념을 설명해달라거나 긴 글을 줄여달라거나 초안을 잡아달라는 것처럼 이미 세상에 정리되어 있는 내용은 꽤 믿을 만합니다. 틀려도 읽어보면 이상한 걸 알아차릴 수 있는 종류고요.

반대로 위험한 건 숫자와 날짜, 사람 이름, 그리고 법이나 제도처럼 자주 바뀌는 것들입니다. 여기서는 그럴듯한 문장으로 틀린 답이 나옵니다. 저도 예전에 어떤 제도의 신청 기한을 물었다가 받은 날짜를 믿고 있다가, 나중에 공식 사이트를 보니 아예 다른 날짜여서 놀란 적이 있습니다.

제가 제일 조심하는 지점은 따로 있습니다. 맞을 때와 틀릴 때의 말투가 똑같다는 겁니다. 사람은 상대가 머뭇거리거나 아마도라고 붙이는 걸 보고 신뢰도를 가늠하는데, 여기엔 그 신호가 없습니다. 틀린 답도 확신에 찬 문장으로 나옵니다.

검색 요약도 같은 문제가 있습니다. 원문 여러 개를 짧게 압축하는 과정에서 조건이 잘려나갑니다. 예를 들어 다섯 명 미만 사업장은 제외된다는 단서가 빠지면 결론이 정반대가 되어버립니다. 요약은 맞는데 내 경우에는 틀린 답이 되는 거죠.

그래서 저는 이렇게 씁니다. 결과가 돈이나 건강, 법적 책임에 닿는 문제면 반드시 출처 링크를 눌러 원문을 봅니다. 숫자가 나오면 일단 의심하고요. 대신 무엇을 찾아봐야 하는지 모를 때 검색어를 만들어주는 용도로는 아주 유용합니다.

정답을 얻는 도구가 아니라 출발점을 잡아주는 도구로 보시면 실망할 일이 줄어듭니다.

Answer 2

무작정 믿으면 안 되죠

중요한 정보는 꼭 따로 검색해 봐야 해요

AI는 기본적으로 할루시네이션이 있어서 헛소리 많이 해요

AI가 답변해 준 내용 출처도 같이 표시하던데

그 출처 들어가 보면 AI가 답변 해 준 내용 없는 경우도 많아요

Answer 3

ai 요약 정보 같은 것은

산술적으로 정답이 하나인 부분만 신뢰하고

가치판단에 따라 정답이 달라질 수도 있는 부분들은

신뢰하지를 않습니다

실제 AI 역시 틀리는 경우들이 많고

무조건 신뢰할 정도의 수준까지 올라오진 않았습니다

가치판단이 들어가는 부분들은

하나의 생각을 하는 사람이 수많은 동일한 글을 남기면

그게 정답을 내는 자료가 될 수도 있기에

신뢰성이 많이 떨어지게 됩니다

신뢰하는 부분이 있고 아닌 부분이 있어서

그냥 참고 정도만 하는 편입니다