유튜브 광고에 자주 나오는 AI 키스영상 제작 앱 관련 법률 질문

Question

안녕하세요, 최근에 유튜브를 보다가 전혀 상관없는 사람들 각각의 사진을 합성하여 키스를 하게 만드는, 진짜처럼 그럴듯해보이는 AI 영상 제작 앱 광고를 발견했습니다.

만약 제 상반신 사진과 제가 좋아하는 여자 연예인 상반신 사진 (둘다 탈의 상태 X, 연예인이 직접 인스타그램에 올린 사진)을 가지고 AI 앱의 기능을 활용하여 입맞춤하는 영상을 만들다면 처벌받을 수 있나요? 딥페이크 음란물이나 성착취물의 범주 안에 "키스 AI 영상"도 포함될 수 있는지, 어떤 내용의 영상을 제작하든 간에 상관없이 여자를 가지고 AI로 편집하거나 제작하는 모든 행위가 처벌될 수 있는지 궁금합니다

Answer 1

타인의 신체나 성적 대상화를 통해 만들어진 영상은 당사자의 동의 없이 제작되었다면 성폭력 범죄의 처벌 등에 관한 특례법에 따라 불법 촬영물에 해당하며, 이를 시청하거나 소지, 구입, 저장, 배포, 판매하는 행위는 모두 처벌 대상입니다.

또한, 딥페이크 기술을 이용하여 만든 영상 역시 위 조항에 따라 처벌될 수 있습니다.

특히, 성적 수치심이나 혐오감을 일으키는 영상이라면 성폭력범죄의 처벌 등에 관한 특례법에 따라 반포등을 한 자는 5년 이하의 징역 또는 5천만원 이하의 벌금에 처해질 수 있습니다.

또한, 허위영상물편집반포등죄는 영리를 목적으로 정보통신망을 이용하여 반포등을 한 경우 7년 이하의 징역으로 가중처벌되며, 상습범인 경우 정해진 형의 2분의 1까지 가중처벌될 수 있습니다.

따라서, 질문자님이 말씀하신 AI 앱을 사용하여 타인의 신체나 성적 대상화를 통해 만들어진 영상을 당사자의 동의 없이 제작하거나 유포하는 것은 법적으로 문제가 될 수 있으며, 성폭력범죄의 처벌 등에 관한 특례법에 따라 처벌될 수 있습니다.