안녕하세요. 최지욱 변리사입니다.
정교한 합성기술은 기술 자체를 전면적으로 규제하기보다는, 위험도가 높은 사용행위와 유통단계를 중심으로 규제하는 방식이 현실적일 것 같습니다.
우리나라에서도 이미 일부 영역은 이런 방식으로 규제하고 있습니다. 예를 들어 성적 허위영상물은 성폭력처벌법에서 제작·유포뿐 아니라 일정한 경우 소지·시청까지 처벌하고 있고, 선거에서는 선거일 전 90일부터 딥페이크를 이용한 선거운동을 금지하고 있습니다.
또한 현재 시행 중인 인공지능기본법은 생성형 AI 결과물이나 실제와 구분하기 어려운 음향·이미지·영상에 대해 AI로 생성되었다는 사실을 표시하거나 고지하도록 하는 투명성 의무를 두고 있습니다.
따라서 합리적인 규제방향은 다음과 같이 볼 수 있지 않을까 싶습니다.
첫째, 사기·성범죄·선거조작·명예훼손 등 고위험 목적의 합성물은 강하게 규제하고, 단순한 예술·오락·패러디 목적의 이용까지 동일하게 규제하지 않는 것이 필요합니다.
둘째, 일반적인 합성 콘텐츠에는 AI 생성·합성 사실의 표시 의무를 두는 방식이 효과적일 수 있습니다. 단순히 진위판별 기술에만 의존하기보다, 생성 단계부터 워터마크나 콘텐츠 출처정보를 남기는 방식이 더 현실적입니다.
셋째, 플랫폼에도 일정한 책임을 부과할 필요가 있습니다. 피해 신고가 들어온 경우 신속한 삭제·차단, 반복 게시자 제재, 수사기관 협조 등이 가능하도록 하는 방식입니다. 현재 정보통신망법도 합성영상 유통으로 인한 성범죄·사기 등의 피해 예방을 위한 정책과 기술개발을 규정하고 있습니다.
결국 핵심은 AI 기술 자체를 금지하는 것이 아니라 ‘고위험 사용은 엄격히 규제하고, 일반적 이용은 투명성을 확보하는 방식’으로 차등 규제하는 것이라고 생각합니다.
이렇게 해야 산업 발전을 과도하게 위축시키지 않으면서도 딥페이크를 이용한 사기나 명예훼손 같은 피해에는 효과적으로 대응할 수 있을 것입니다.