학문
인스타 대화내용 텍스트도 감지 하나요?
인스타그램에서 1:1 대화에서 아청물,불법 촬영물에 대하여 언급하며 대화를 진행한다면 인스타그램에서 ai가 감지한 후 계정을 정지 시키거나 할 수 있나요?
2개의 답변이 있어요!
안녕하세요. 조규현 전문가입니다.
인스타그램과 같은 대형 온라인 플랫폼은 불법 촬영물이나 아동 청소년 대상 부적절한 콘텐츠를 차단하고 이용자의 안전을 보호하기 위해 인공지능(AI) 기반 모니터링 시스템을 활용하는 경우가 많습니다. 이러한 시스템은 공개 게시물뿐 아니라 1:1 대화 내용에서도 특정 선별된 키워드나 패턴을 분석하여 의심되는 대화를 자동으로 감지할 수 있는 기술적 기반이 있는 것으로 알려져 있습니다. 다만 1:1 대화는 개인정보 보호 측면에서 제한적으로 자동 감지되며, 실제로는 이용자의 신고와 AI 필터링이 결합된 형태로 운영되는 경우가 많아 완전한 자동 감지가 이루어지는 것은 아닐 수 있습니다.
결과적으로 인스타그램은 AI를 포함한 기술과 인력 검토를 통해 불법 콘텐츠와 관련된 대화가 감지되면 계정 정지, 경고, 제한 조치 등의 절차를 진행할 수 있으므로 사용자 입장에서는 이러한 정책을 인지하고 부적절한 대화는 피하는 것이 바람직합니다. 플랫폼마다 정책과 기술 적용 범위가 다를 수 있으므로 정확한 사항은 공식 안내를 참고하시는 것이 좋겠습니다.
참고 부탁드립니다.
안녕하세요. 김재훈 전문가입니다.
인스타그램은 1:1 DM도 자동화된 AI 신고 시스템으로 아동성착취물 불법촬영물 등 중대한 위반 키워드나 이미지 링크를 감지하면 계정 제한 정지 수사기관 통보까지 할 수 있습니다. 다만 모든 대화를 사람이 상시 열람하는 것은 아니지만 명백한 불법 유해 콘텐츠는 탐지 제재 대상이 될 수 있습니다.