학문
인터넷을 통한 정보 유통이 급증하면서 딥페이크나 가짜 뉴스를 인공지능이 자동으로 검출하고 가려내는 기술이 만드는것과 가려내는것 어느것이 더 발달되었나요??
인터넷을 통한 정보 유통이 급증하면서 딥페이크나 가짜 뉴스를 인공지능이 자동으로 검출하고 가려내는 기술이 만드는것과 가려내는것 어느것이 더 발달되었나요??
4개의 답변이 있어요!
안녕하세요. 강세훈 전문가입니다.
딥페이크 가짜뉴스를 만드는 기술이 검출하는 기술보다 더 높으며
생성 기술은 빠르게 정교해지고 검출 기술은 뒤에 나오기 때문에 한계가 있습니다.
안녕하세요. 김재훈 전문가입니다.
현재 딥페이크나 허위 정보를 만드는 인공지능과 찾아내는 인공지능 함께 빠르게 발전하고 있어 어느 한쪽이 절대적으로 앞선다고 단정하기 어렵습니다 생성형 인공지능은 실제와 구별하기 어려운 이미지 영상 음성을 만들 수 있지만 탐지 기술도 영상의 미세한 오류나 생성 흔적 등을 분석해 가려내는 방식으로 발전하고 있습니다 그러나 생성 기술이 새로운 방식을 사용할 때마다 기존 탐지 방법이 제대로 작동하지 않을 수 있다는 한계가 있습니다 특히 글로 된 가짜 뉴스는 사실과 것짓을 단순히 문체만으로 판단하기 어려워 출처와 여러 자료를 함께 확인해야 합니다 그래서 현재는 인공지능 탐지 결과만 믿기보다 출처 확인과 여러 신뢰할 만한 자료의 교차검증을 함께 사용하는 것이 중요합니다
안녕하세요. 최정훈 전문가입니다.
결론부터 말씀드리면 만드는 생성 기술이 가려내는 검출 기술보다 훨씬 빠르게 발달해 있습니다. 어떻게 보면 창과 방패의 싸움 같겠습니다. 생성한 AI는 정교한 영상을 몇 초 만에 뚝딱 만들죠. 목소리와 표정 그리고 피부 결까지 요즘은 진짜 똑같이 본뜬다고 볼 수 있을 것 같아요. 반면에 탐지 AI는 만들어진 진짜 같은 결과물을 뒤늦게 추적해야 됩니다. 그래서 속도와 품질 면에서 만드는 기술이 한 발 앞서 달리는 상황이라고 보여요.
그리고 검출 기술은 새로운 합성 패턴이 나오면 매번 뒤쳐지는 한계가 있습니다. 탐지 알고리즘은 이미 나온 패턴을 학습해서 잡아내죠. 하지만 생성 모델이 조금만 수법을 바꾸면 탐지율이 확 떨어져 버립니다. 손가락 모양이나 눈의 움직임 같은 어색함을 잡아내도 생성 AI가 그걸 바로 보완해 버리죠. 그래서 최근에는 이미지를 검출하는 방식보다 처음부터 디지털 워터마크를 찍어서 생성 유무를 증명하는 방식을 함께 쓰고 있습니다. 현재로서는 워터마크에 의존해야 되는 부분도 어느 정도 존재해 보입니다.
안녕하세요. 이수민 전문가입니다.
지금은 만드는 쪽이 한발 앞서 있다고 보는 게 일반적이에요. 검출 모델은 이미 공개된 생성 도구가 남기는 미세한 흔적을 학습해서 잡아내는데, 새로운 생성 모델이 나오면 그 흔적의 종류가 바뀌어 버려요. 실험실에서 90% 넘게 맞히던 검출기가 처음 보는 도구로 만든 영상 앞에서는 정확도가 크게 떨어지는 일이 반복되고, SNS에 올라가며 압축되고 크기가 줄어든 파일은 흔적 자체가 뭉개져서 더 어려워져요. 구조적으로 만드는 쪽은 검출기를 속일 때까지 고치면 되지만, 잡는 쪽은 아직 나오지 않은 기법까지 대비해야 하니 늘 뒤따라가는 입장이에요.
가짜 뉴스는 사정이 더 까다로워요. 영상은 픽셀에 남은 물리적 흔적이라도 있지만, 글은 문장 자체보다 내용이 사실인지를 따져야 해서 외부 자료와 대조하는 과정이 필요해요. AI는 퍼지는 속도나 계정 패턴처럼 수상한 신호를 먼저 걸러주는 역할에 가까워요.
그래서 요즘은 가짜를 사후에 찾아내기보다 진짜임을 처음부터 증명하는 쪽으로 무게가 옮겨가고 있어요. 촬영 기기나 생성 도구가 만들 때부터 출처 정보와 워터마크를 파일에 심어두는 방식이고, 우리나라 AI 기본법과 유럽 AI법도 생성물 표시를 의무로 넣었어요. 제가 보기엔 앞으로는 검출 정확도보다 이 표시 체계가 얼마나 널리 깔리느냐가 더 크게 작용할 것 같아요 :)