카카오톡에서 부적절한 사진이나 영상을 어떻게 잡는거죠??

Question

예를들어 카카오톡에 불법촬영물이나 아동청소년 성 착취물을 공유했다고 하면 카카오톡에서 어떻게 잡아서 경찰에 넘기는건가요?? 기계같은게 사진이나 영상을 분석해서 자동으로 계정을 정지시키는 그런 시스템이 있는건가요??

Answer 1

카카오톡은 부적절한 사진이나 영상을 감지하기 위해 자동화된 필터링 시스템, 사용자 신고, 인공지능 및 머신러닝 기술을 사용합니다.

자동화된 시스템은 이미지 분석을 통해 불법 콘텐츠를 식별하고, 사용자가 신고하면 검토팀이 이를 확인합니다.

인공지능 기술은 콘텐츠의 패턴을 학습하여 부적절한 내용을 자동으로 탐지합니다.

.

Answer 2

AI가 부적절한 사항을 직접 판단해서 계정 정지를 먹이는 일입니다. 상담원이 다 하기는 힘들고요,

그러고 중대한 건들은 아마 AI가 1차판단, 2차는 실무진들이 판단해서 결정하는 거랍니다.