에이아이 딥페이크 범죄를 감지한다는데 원리가뭔가요?
행정안전부에서 에이아이 기술로 대선 후보관련 범죄나 딥페이크영상을 감지해서 처벌한다는데 어떻게 감지하고 어떻게 잡아낼수 잇는건지 궁금합니다.
안녕하세요. 설효훈 전문가입니다. 딥페이크 탐지는 화면의 부조화나 움직임이 자연스럽지 않는 것을 통해서 탐지 합니다. 요즘에는 프레임간의 움직임이 부적확하거나 어색한것등을 잡아내고 또한, 음성과 입모양의 싱크를 확인하기도 합니다. 즉 프레임의 부조화나 픽셀의 주파수의 변화등을 감지하는 것입니다.
안녕하세요. 전찬일 전문가입니다.
ai가 딥페이크 범죄를 감지하는 원리는 간단하게 말하자면 진짜 사람 얼굴과 말투, 움직임 등을 학습한 ai가 가짜 영상에서 이상한 점을 찾아내는 방식입니다. 예를 들어 눈깜빡임이 부자연스럽거나 입모양과 목소리가 안 맞는 경우, 또는 얼굴 경계가 어색하게 흔들리는 경우를 ai가 자동으로 잡아내는 것 입니다, 이런 기술로 대선 후보처럼 중요한 인물의 영상을 감시하고, 딥페이크로 의심되면 분석해서 진짜인지 가짜인지 판단하는 것 입니다.안녕하세요. 김준연 전문가입니다.
딥페이크 기술은 점점 정교해져서 사람눈으로는 구분이 어려워집니다. 그래서 국가기관이나 플랫폼은 에이아이 기술 없이는 대응이 거의 불가능하다고 생각하고있고,실제로 미국유럽에서 도입하여 처벌을 하고 있습니다. 눈 깜빡임 입모양 얼굴 비율 등을 비교하면 바로 잡아낼수 있습니다. 하지만 아까도 말했듯이 사람눈으로는 어렵고 에이아이 기술로 잡아내는것이죠 제답변이 도움이 되셨으면 좋겠습니다
안녕하세요. 신광현 전문가입니다.
AI 기반 딥페이크 탐지 시스템의 주요 내용은 다음과 같습니다.
탐지 기술
픽셀·주파수 불일치 분석
얼굴 특징·움직임 불일치 탐지
생체신호(심박·혈류 등) 분석
메타데이터·디지털 지문 검사
영상·음성·텍스트 멀티모달 앙상블
행안부 적용 사례
2024년 7월 행안부·국과수·KETI MOU 체결
AI로 수초 내 딥페이크 여부 분석
대선 기간 SNS에서 10,508건 불법 딥페이크 삭제 지원
탐지 후 절차
AI ‘Deepfake 확률’ 점수 부여
NFS 포렌식 감정
경찰·선관위 통보 및 긴급 삭제
정보통신망법·공직선거법 위반 시 처벌
한계 및 과제
100% 미만 정확도(95~98%)
생성기술 고도화 대응 필요
개인정보 보호 고려
이처럼 AI와 전통 포렌식을 결합해 딥페이크를 신속·정확하게 탐지하고, 수사·법적 절차와 연계해 대응합니다.
안녕하세요. 박형진 전문가입니다.
딥페이크 AI 기술로 감지하는것은 미세한 흔적을 분석해 감지할 수 있습니다.
자연스럽게 보이기는하나 컴퓨터는 픽셀 단위의 왜곡을 분석할 수 있습니다.
또한 인위적인 패턴의 주파수를 분석해 AI로 만들어진 영상을 잡아냅니다.
참고 부탁드려요~
안녕하세요. 김재훈 전문가입니다.
행정안전부는 AI 기술을 활용해 대선 후보 관련 딥페이크 영상이나 허위 정보를 감지하는 시스템을 운영하며 이는 원본과 AI 생성 영상의 픽셀·프레임 패턴 차이 음성 합성 흔적 메타데이터 조작 여부 등을 분석해 판별합니다. 감지된 콘텐츠는 관계 기관에 전달되어 IP 추적 유포 경로 분석 SNS·포털 협조 요청 등을 통해 제작·유포자를 추적하고 처벌합니다. 특히 선거 시기엔 선관위 경찰청 등과 협력해 실시간 대응체계를 가동합니다.
안녕하세요. 조일현 전문가입니다.
딥페이크 영상과 음성 데이터를 인공지능이 학습하여 영상 속의 인물의 눈, 코, 입 등 신체 부위를 변조하거나 시간대별 합성 확률을 분석하여 딥페이크 여부를 판단하게 됩니다. 탐지 정확도는 영상 95% 와 음성86% 수준에 달하고 있습니다.