디지털 기술 발전에 따른 범죄를 예방하면서도 과도한 규제로 인한 기술 개발 차질을 막을 수 있는 방법은 무엇일까요?

Question

딥페이크 합성물 유포 사건의 발생으로 피해를 막기 위한 법안들이 많이 통과되었습니다. 동시에 기술 개발 차질에 대한 우려도 나오는 데요. 디지털 기술 발전에 따른 범죄를 예방하면서도 과도한 규제로 인한 기술 개발 차질을 막을 수 있는 방법은 무엇일까요?

Answer 1

안녕하세요. 박재화 전문가입니다.

디지털 범죄를 막으려면 기술 자체를 넓게 금지하는 방법보다는 명확한 행위들을 중심으로 규제하는 방식이 필요하다고 생각합니다. 같은 딥페이크 기술이라도 영화 제작이나 교육, 그리고 연구에는 유용할 수 있기 때문에 합법적으로 이용하는 것과 범죄 목적으로 이용하는 것을 구분해야 될 것 같습니다.

플랫폼에 ㅅ신고나 신속 삭제, 반복 유포 차단, 피해자 구제 절차 같은 책임들을 강화하는 것이 현실적인 방법 중 하나라 생각이 되고 생성형 AI에는 반드시 출처를 표시하고, 워터마킹이나 생성 이력 확인 같은 기술적인 장치를 적용해서 허위 콘텐츠를 판별하기 쉽도록 만들어 주면 좋을 것 같습니다.

제 생각에는 핵심적인 기술을 막는 규제보다는 악용했을 때 책임을 분명히 하고 피해를 빠르게 줄일 수 있는 제도를 만드는 데 있다고 생각합니다.

Answer 2

안녕하세요. 김재훈 전문가입니다.

디지털 범죄를 막으면서 기술 발전을 저해하지 않으려면 기술 자체를 일관적으로 규제하기보다 악용되는 행위와 피해에 초점을 맞춰 규제하는 것이 중요합니다 예를 들어 딥페이크 기술 자체는 허용하되 동의 없는 합성물 제작 유포나 사기 등 명확한 피해 행위에는 강하게 책임을 묻는 방식입니다 또한 새로운 기술에는 규제 샌드박스나 단계적 규제를 적용해 개발과 실험의 기회를 보장할 수 있습니다 아울러 기업의 자율적인 안정장치와 투명성 기준을 마련하고 실제 피해와 기술 발전 상화에 따라 지속적으로 조정하는 것이 바람직합니다

Answer 3

안녕하세요. 최정훈 전문가입니다.

기술 유포 자체를 완면히 금지하기보다는 악용행위란 유포자를 명확하게 처벌하는 규제로 전환하는 게 중요할 겁니다. AI 생성물에 워터마크 표시를 의무화하고 가짜를 가려내는 보안 기술 R&D 지원을 확대할 필요가 있겠네요. 법적인 규제만 앞세우기보다는 기업들이 자율적으로 안전 윤리 가이드라인을 준수하도록 유도하는 프레임워크도 중요하겠습니다. 더불어서 딥페이크 악용 피해를 신속하게 차단할 수 있는 플랫폼 모니터링 책임도 동시에 강화하는 게 좋겠습니다. 그리고 무엇보다 기술을 올바르게 구별하고 활용할 수 있도록 국민 대상 디지털 리터러시 예방 교육을 병행하는 방향이 가장 합리적인 방법입니다.